دراسة تكشف 5 ثغرات أمنية خطيرة تهدد أنظمة الذكاء الاصطناعى

[ابوالوليد المسلم]

دراسة تكشف 5 ثغرات أمنية خطيرة تهدد أنظمة الذكاء الاصطناعى



كتب خالد إبراهيم

ثغرات تهدد أنظمة الذكاء الاصطناعى


حلل علماء من جامعة لانكستر فى المملكة المتحدة آلاف الدراسات العلمية، وحددوا 5 ثغرات أمنية رئيسية فى مجال الذكاء الاصطناعى، وذلك وفقا لتقرير نشر على الموقع الإلكترونى للحكومة البريطانية.
وجاءت الدراسة بتكليف من داونينج ستريت، حيث أجرى فريق بحثى مراجعة للممارسات العالمية الخاصة بضمان أمن الشبكات العصبية الحديثة، وراجع أكثر من 9000 منشور علمى ذى صلة، نشر منذ عام 2020، بحسب ما ذكر موقع hayka.
5 مجالات تحتاج إلى دعم

حدد التقرير النهائى 5 مجالات حيوية تحتاج إلى مزيد من التمويل والاهتمام الحكومى، وأكد الباحثون أن من أبرز الأولويات ضمان سلامة البيانات المستخدمة فى تدريب خوارزميات الذكاء الاصطناعى.
كما شدد التقرير على ضرورة الاهتمام بالمخاطر الناتجة عن ثقة المستخدمين المفرطة فى النتائج الخبيثة أو فيما يعرف بأوهام الشبكات العصبية، إلى جانب أهمية مراقبة نماذج الطرف الثالث المتداولة فى السوق، وفهم نقاط الضعف الخفية التى قد تتضمنها.
دعوات لإجراءات أكثر صرامة

ودعا العلماء إلى وضع بروتوكولات صارمة بشكل عاجل لإيقاف تشغيل أنظمة الذكاء الاصطناعى بصورة آمنة، والتخلص منها بطريقة سليمة بيئيا عند انتهاء دورة حياتها، وأشار التقرير إلى أن صحيفة "ساينس ميل" ذكرت فى وقت سابق أن باحثين تمكنوا من تعليم الذكاء الاصطناعى كيفية إنشاء لغات جديدة.