تسميم البيانات.. ماذا تعرف عن التهديد الخفى لأنظمة الذكاء الاصطناعى؟

[ابوالوليد المسلم]

تسميم البيانات.. ماذا تعرف عن التهديد الخفى لأنظمة الذكاء الاصطناعى؟



كتب مايكل فارس

تسميم البيانات


في عالم الأمن السيبراني التقليدي، يسعى القراصنة لاختراق الشبكات أو سرقة كلمات المرور للوصول إلى المعلومات. ولكن مع انتشار الذكاء الاصطناعي والاعتماد عليه في اتخاذ القرارات الحساسة، تطورت تكتيكات المخترقين لتستهدف "عقل" هذه الأنظمة قبل أن يتم تشغيلها أصلاً.

يُعرف هذا التهديد المتقدم باسم "تسميم البيانات" (Data Poisoning). وبدلاً من كسر جدران الحماية، يقوم المهاجمون بتلويث المواد التعليمية التي يقرأها ويتعلم منها الذكاء الاصطناعي أثناء مرحلة تدريبه، مما يجعله يتخذ قرارات خاطئة أو متحيزة، أو يفتح "باباً خلفياً" (Backdoor) يمكن للمخترق استغلاله لاحقاً دون أن يكتشفه أحد.
أوضح مقال تحليلي عميق نشرته مجلة (MIT Technology Review)، أن نماذج الذكاء الاصطناعي الضخمة تحتاج إلى مليارات النصوص والصور المجمعة من الإنترنت المفتوح لتتدرب عليها. يستغل القراصنة هذه النقطة من خلال ضخ صور أو نصوص تم تعديلها بشكل خفي وغير ملحوظ للعين البشرية ونشرها في المواقع العامة ليقوم النظام بامتصاصها.

على سبيل المثال، يمكن للمهاجمين تسميم مجموعة بيانات تدريبية خاصة بسيارات ذاتية القيادة، بحيث يربط الذكاء الاصطناعي بين وجود ملصق أصفر صغير على لوحة التوقف (Stop Sign) وبين أمر زيادة السرعة بدلاً من التوقف، مما يشكل خطراً مميتاً يصعب اكتشافه في الاختبارات العادية.

كيف يتم تنفيذ هجمات التسميم بأسلوب عملي؟

تعتمد هذه الهجمات على الصبر والتخطيط الدقيق، وتتم عبر إدخال تعديلات طفيفة جداً من خلال الخطوات التخريبية التالية:
1- حقن البيانات الخبيثة في المصادر المفتوحة: يقوم المخترق بتعديل آلاف الصور (مثل إضافة نمط بكسلات خفي) أو النصوص وربطها بمعلومات مضللة، ثم يرفعها إلى مواقع مشاركة البيانات المجانية أو المدونات العامة على الإنترنت.
2- التدريب الخاطئ للنماذج: تقوم شركات التكنولوجيا بجمع هذه البيانات لتدريب نماذجها الجديدة دون الانتباه للتعديلات الدقيقة. أثناء التدريب، يقوم النموذج ببناء روابط منطقية خاطئة بناءً على البيانات السامة التي استهلكها.
3- تنشيط الثغرة وقت الهجوم: بعد إطلاق البرنامج الذكي للاستخدام العام، يقوم المخترق بتقديم صورة أو نص يحتوي على "الرمز السري الخفي" الذي تدرب عليه النظام، مما يؤدي فوراً إلى تفعيل السلوك الخبيث أو تجاوز أنظمة الحماية.

طرق الحماية وتأمين النماذج الذكية

يمثل التصدي لهذا النوع من الهجمات تحدياً كبيراً لخبراء الأمن الرقمي، ولكنه ليس مستحيلاً. تعتمد الشركات الآن على تقنيات فحص متقدمة لتنظيف قواعد البيانات قبل استخدامها، من خلال خوارزميات إحصائية قادرة على اكتشاف الشذوذ أو الأنماط المتكررة بشكل غير طبيعي داخل الصور والنصوص. بالإضافة إلى ذلك، يتم استخدام استراتيجية "الفرق الحمراء" (Red Teaming)، حيث يقوم فريق من الخبراء بمهاجمة النظام الذكي بشكل متعمد وبطرق ملتوية لاختبار مدى مقاومته للمعلومات المضللة قبل طرحه للمستخدمين. إن تأمين البيانات التي تتعلم منها الآلة أصبح يوازي في أهميته تأمين الأنظمة التي تعمل عليها.