مايكروسوفت تكشف اختراق “العملاء النائمين” فى نماذج الذكاء الاصطناعى

[ابوالوليد المسلم]

مايكروسوفت تكشف اختراق “العملاء النائمين” فى نماذج الذكاء الاصطناعى



كتب مايكل فارس

مايكروسوفت تبتكر وسيلة لاكتشاف اختراق "العملاء النائمين"


أعلنت شركة مايكروسوفت عن تطوير منهجية أمنية جديدة تهدف إلى حماية نماذج اللغات الكبيرة من التهديدات السيبرانية المعروفة باسم "العملاء النائمين" (Sleeper Agents)
وهذه التهديدات تتمثل في أكواد أو تعليمات مخفية يتم زرعها داخل النماذج أثناء مرحلة التدريب، لتظل خاملة تمامًا حتى يتم تفعيلها بواسطة كلمة مرور أو سياق محدد، مما قد يؤدي إلى تسريب بيانات حساسة أو تنفيذ هجمات برمجية خبيثة ضد المستخدمين أو المؤسسات.
ووفقًا لموقع "أرتيفيشال إنتليجنس نيوز" (AI News)، فإن الطريقة الجديدة تعتمد على تحليل سلوك النموذج في بيئات معزولة ومحاكاة آلاف السيناريوهات لمحاولة استثارة أي استجابات غير طبيعية، ونجحت مايكروسوفت في تحديد أنماط دقيقة تشير إلى وجود هذه الأبواب الخلفية، مما يسمح للمطورين بتطهير النماذج قبل طرحها للاستخدام التجاري أو المؤسسي، وهو ما يعد خطوة ضرورية في ظل الاعتماد المتزايد على الذكاء الاصطناعي في البنية التحتية الحساسة.
تعد هذه الخطوة جزءًا من استراتيجية "الأمن أولًا" التي تتبناها شركات التقنية الكبرى في عام 2026 لمواجهة التحديات التي يفرضها الذكاء الاصطناعي الهجومي. مع تطور قدرات النماذج على كتابة الأكواد وتطوير البرمجيات، أصبحت الثقة في سلامة هذه النماذج حجر الزاوية للاقتصاد الرقمي العالمي، حيث تسعى مايكروسوفت لضمان أن تكون أدواتها مثل "كوبايلوت" محصنة تمامًا ضد أي اختراقات استراتيجية من قبل جهات فاعلة معادية.

آليات الكشف عن الثغرات المخفية

تستخدم التقنية الجديدة نماذج ذكاء اصطناعي رقابية تقوم بفحص الأوزان العصبية والروابط داخل النموذج الضخم لرصد أي "تكتلات" غير منطقية قد تشير إلى تعليمات مشروطة مخفية، وتساعد هذه الأداة الشركات على تبني الذكاء الاصطناعي في قطاعات التمويل والدفاع دون الخوف من تنشيط برمجيات خبيثة داخلية قد تلتف على بروتوكولات الأمن التقليدية.