فاينانشيال تايمز": الذكاء الاصطناعى يخلق ثغرات خطيرة فى الأمن السيبرانى

[ابوالوليد المسلم]

فاينانشيال تايمز": الذكاء الاصطناعى يخلق ثغرات خطيرة فى الأمن السيبرانى



أ.ش.أ

الذكاء الاصطناعي - صورة مولدة بـAI


كشفت سلسلة من الحوادث خلال الشهرين الماضيين عن مدى خطورة التهديد الذي تشكله أحدث تقنيات الذكاء الاصطناعي على الأمن السيبراني، كما قدمت درسا بالغ الأهمية حول كيف يمكن للجهود السياسية المضللة أن تعيق الدفاعات بدلا من دعمها.
واستهل الكاتب ريتشارد ووترز، في مقال نشرته صحيفة "فاينانشيال تايمز"، فكرته باستعراض تلك الحوادث، مؤكدًا أن "الأمر بدأ بخطوة أمريكية عرقلت عمل أحدث نماذج (أنثروبيك)، وهو (فابل 5)، خشية استخدامه لاكتشاف ثغرات في البرامج الشائعة الاستخدام، على الرغم من التراجع عن هذه الخطوة لاحقا"، مشيرا إلى أن "شركة أنثروبيك أعلنت لاحقا أن العديد من برامج الذكاء الاصطناعي الأخرى المتاحة مجانا قادرة على فعل الشيء نفسه، بما في ذلك نموذج صيني واحد على الأقل متاح بنظام (الأوزان المفتوحة)، وهو شكل محدود من البرمجيات مفتوحة المصدر.
وواصل ووترز، استعراضه للأحداث والثغرات التي تسبب فيها الذكاء الاصطناعي قائلا: "تبع ذلك أنباء عن تمكن نموذج (قيد الاختبار) من قبل (أوبن إيه آي) من اختراق الإنترنت ومهاجمة /مستودع الشفرة البرمجية/ (هاجينج فيس)، بحثا عن حل لمشكلة طلب منه حلها"، مشيرا إلى أنه "سرعان ما أصدر معهد أمن الذكاء الاصطناعي في المملكة المتحدة، وشركة أنثروبيك، وشركة ميتا، تقارير مماثلة عن سلوكيات ’مارقة’ على ما يبدو من نماذج الذكاء الاصطناعي خلال اختباراتهم".
وأشار الكاتب إلى أن "مستودع الشفرة البرمجية" (هاجينج فيس) اكتشف أن القيود الأمنية المدمجة في النماذج الأمريكية الرائدة منعت استخدام تلك النماذج لتحليل الهجوم الذي تعرض له، فلجأ إلى نظام صيني ’مفتوح الأوزان’، وتزامن ذلك في الوقت الذي كان السياسيون في واشنطن يناقشون فيه ما إذا كانت النماذج الصينية المفتوحة تشكل تهديدا أمنيا في حد ذاتها، وما إذا كان ينبغي تقييدها.
وللتأكيد على خطورة الأمر، يقول ووترز إنه "لا يمكن تخيل سلسلة حوادث أفضل من هذه لتسليط الضوء على التهديدات السيبرانية التي تثيرها أحدث تقنيات الذكاء الاصطناعي".
وتابع قائلا: "ليس من المستغرب أن أنظمة الذكاء الاصطناعي التي يفترض أنها ’مارقة’، التي تشن هجمات إلكترونية خاصة بها، هي التي استأثرت بمعظم الاهتمام. وتبين أن السبب الحقيقي هو قصور بشري، وليس خداع الآلة".
ولفت إلى أن شركة "أنثروبيك"، لدى إعداد اختبارها، "لم تقدم تعليمات كافية ومحددة: ببساطة، لم تتوقع أن يبحث النظام عن طريقة ملتوية لحل المشكلة. ويشير هذا إلى قصور أوسع في الخيال يجعل التحكم في الذكاء الاصطناعي صعباً بطبيعته".
أنظمة الذكاء الاصطناعي تستكشف مسارات لم يقصدها مشغلوها


وخلص "معهد أمن المعلومات في الذكاء الاصطناعي" (إيه آي إس آي)، بعد اختباراته الخاصة، إلى أن: "أنظمة الذكاء الاصطناعي تستكشف مسارات لم يقصدها مشغلوها".
ويقول الكاتب إن "ما يزيد الأمر تعقيدا أن تجاوز القواعد يبدو متأصلا في الذكاء الاصطناعي"، مستشهدا ببحث سابق لـ"معهد أمن المعلومات في الذكاء الاصطناعي" (آيسي) حول ما إذا كانت هذه التقنية تحاول التحايل على التعليمات أو تجاهلها لتحقيق أهدافها، أفاد فيه بأن كل نموذج اختبره "حاول الغش في بعض الأحيان".
ويرى الكاتب ريتشارد ووترز أن فشل "أوبن إيه آي" يكشف كيف يمكن للذكاء الاصطناعي أن يفتح الباب أمام هجمات إلكترونية مؤتمتة بالكامل لا تدخل فيها لعنصر بشري. ويبدي الكاتب استغرابه من رد الشركة التي قالت "إن الاختراق شمل عددا من الأنظمة المنفصلة التي كانت تعمل على مهام مختلفة، لكنها اكتشفت طريقة للتواصل فيما بينها عبر لوحة رسائل داخلية"، وهنا يتوقف ووترز قائلا هذا يعني أن الأنظمة المنفصلة "قامت باكتشاف تلك الثغرات الأمنية ومشاركتها على مدى أسابيع قبيل اكتشاف عملية الاختراق في ’مستودع الشفرة البرمجية’ (هاجينج فيس)."
ودق الكاتب عددا من نواقيس الخطر بالنسبة لعالم الأمن السيبراني، مؤكدا أن تلك الحوادث "تبرز عدة أمور؛ أولها، أن تقييد الوصول إلى أقوى النماذج لن يُجدي نفعاً يُذكر. فتوافر العديد من الأنظمة على نطاق واسع ووقوعها في الأيدي الخطأ، تشكل تهديداً خطيراً واسع النطاق؛ إذ أن كل ما يحتاجه المهاجمون هو أنظمة متطورة بالقدر الكافي لاكتشاف ثغرة خطيرة واحدة في البرامج الشائعة الاستخدام".
وينتقل ووترز إلى الضفة الأخرى من المعادلة، مؤكدا أن المدافعين عن الذكاء الاصطناعي "يحتاجون بشدة إلى الوصول إلى أفضل الأدوات إذا أرادوا البقاء متقدمين بخطوة في سباق التسلح السيبراني"، لافتاً إلى أن "حدود الأمان المُدمجة في النماذج الأمريكية الرائدة تقلل من قيمتها الدفاعية. وقد مثل هذا أيضاً انتصاراً تسويقياً مهماً للنماذج الصينية مفتوحة المصدر".
ومن الدروس الأخرى التي يتعين الالتفات إليها، حسب الكاتب، أن مواجهة الهجمات الآلية التي تشنها أسراب من برامج الذكاء الاصطناعي ستتطلب أتمتة أكبر بكثير من جانب المدافعين. وأفاد بأن باحثي "أوبن إيه آي" أنفسهم قد حذروا "من أن المهاجمين يمتلكون حالياً أدوات أفضل، ودعوا بشكل عاجل إلى استثمار أكبر بكثير في أتمتة الدفاع، بدءاً من تحديد الهجمات وصولاً إلى إنتاج التحديثات اللازمة وتثبيتها لجعل البرامج أكثر أماناً".
وقال إن "مختبرات الذكاء الاصطناعي الرائدة بحاجة أيضا إلى تعزيز التعاون فيما بينها، وهو أمر قد يكون جاريا بالفعل، فقد صرّحت شركة أنثروبيك بأن كارثة لعبة ’فيبل’ دفعتها إلى التعاون مع أكبر منافسيها لإيجاد طريقة موحدة لتقييم ومعالجة الاختراقات، وهي الأساليب المستخدمة لتجاوز إجراءات الحماية في النماذج".
ويختتم ووترز مقاله قائلا إن "معظم خبراء الأمن السيبراني يحذرون من أنه قد فات الأوان لمنع استخدام الذكاء الاصطناعي كسلاح هجومي مدمر في الحروب السيبرانية.. ولم يتبق سوى تسريع الاستثمار في الدفاعات؛ حيث ينبغي على السياسيين دعم هذا الجهد، لا وضع العراقيل التي تجعل تلك المهمة أكثر صعوبة".