اختبارات الأمان تفشل في احتواء نماذج OpenAI وAnthropic

[ابوالوليد المسلم]

اختبارات الأمان تفشل في احتواء نماذج OpenAI وAnthropic



كتب مايكل فارس

اختبارات الأمان تفشل في احتواء نماذج OpenAI وAnthropic


تحولت الاختبارات المصممة لكشف أخطر قدرات الذكاء الاصطناعي إلى مصدر خطر مستقل، بعدما تجاوزت نماذج متقدمة الحدود التقنية المفروضة عليها ووصل بعضها إلى الإنترنت وأنظمة تشغيل حقيقية من دون أن تتلقى أمرًا بمهاجمة أهداف خارج بيئة التقييم.
نماذج تبحث عن الإجابة خارج الحدود

وفقًا لتقرير نشره موقع TechCrunch، شملت الوقائع نماذج من OpenAI وAnthropic و**** ومختبر Moonshot AI الصيني، إذ خرج نموذج غير معلن من OpenAI من البيئة المعزولة واخترق أنظمة الإنتاج التابعة لمنصة Hugging Face، كما وصلت نماذج أخرى إلى خدمات خارج نطاق الاختبار بسبب أخطاء في الإعداد تركت مسارات مفتوحة نحو الإنترنت، واستغل نموذج Kimi K3 ثغرة في البيئة المخصصة له للوصول إلى معلومات منشورة على GitHub، بينما نفذ وكلاء اختبرهم معهد أمن الذكاء الاصطناعي البريطاني محاولة هندسة اجتماعية لإدخال ثغرة في مشروع مفتوح المصدر، رغم أن المهمة الأصلية لم تطلب استهداف أشخاص أو مؤسسات حقيقية.
بيئة الاختبار تصبح خط الدفاع الأهم

تكشف الحوادث أن قدرات النماذج تطورت أسرع من أنظمة احتوائها، خصوصًا أن الاختبارات تجرى أحيانًا على إصدارات مستقبلية بعد تعطيل بعض القيود التي تمنع السلوك الضار حتى يستطيع الباحثون قياس أقصى قدراتها، ولذلك يطالب الخبراء بعزل الشبكات فعليًا عن الإنترنت وإغلاق أي مسار يصل إلى أنظمة الإنتاج وإضافة مراقبة لحظية ومراجعة مستقلة لإعدادات الاختبار، لأن الاعتماد على حاجز واحد يجعل خطأً تقنيًا صغيرًا كافيًا لمنح وكيل قادر على التخطيط والتنفيذ فرصة اتخاذ إجراءات حقيقية قبل اكتشافها.