هجوم يتخفى فى لعبة ويستغل عجز الـ اa عن التمييز بين الخيال والواقع

[ابوالوليد المسلم]

هجوم يتخفى فى لعبة ويستغل عجز الـ اA عن التمييز بين الخيال والواقع



كتب مايكل فارس

الذكاء الاصطناعي - صورة مولدة بـAI


كشف باحثون عن هجوم جديد باسم BioShocking يستهدف المتصفحات المدعومة بوكلاء ذكاء اصطناعي، ويقوم على خدعة بسيطة وخطرة، جعل الوكيل يتعامل مع تعليمات حساسة داخل سيناريو خيالي وكأنها جزء من لعبة، لا كعملية حقيقية قد تسرّب بيانات المستخدم، الخطر هنا أن الوكيل لا يفشل بسبب ثغرة تقليدية في المتصفح فقط، بل بسبب عجزه عن التمييز بين القصة والتعليمات الواقعية، وهو ما يجعل المتصفح الذكي نفسه نقطة ضعف جديدة.

عندما يصدق الوكيل اللعبة


وفقًا لتقرير منشور في بليبينغ كمبيوتر، فإن الهجوم يعتمد على حقن أوامر داخل صفحة خبيثة تقدم لغزًا مستوحى من لعبة BioShock، ثم تدرب وكيل المتصفح على أن الإجابات الخاطئة مقبولة داخل السياق، وبعدها تطلب منه زيارة مستودع على غيت هب ونسخ بيانات من الكود، بما في ذلك معلومات حساسة مثل كلمات المرور، ونجح إثبات المفهوم ضد 6 منتجات متصفحات أو إضافات وكيلة، بينها ChatGPT Atlas وComet وFellou وGenspark Browser وSigma Browser وإضافة كلود لمتصفح كروم.

الحماية لم تلحق بالخطر

التقرير ينقل عن LayerX أن جميع الوكلاء الستة فشلوا في إدراك أن الخطوة الأخيرة تمس بيانات اعتماد حقيقية، رغم أن الاختبار لم ينفذ أفعالًا خبيثة فعلية، كما قال الباحثون إن أوبن إيه آي كانت الجهة الوحيدة التي طبقت إصلاحًا عاملًا في ChatGPT Atlas بعد الإبلاغ، بينما كانت محاولات بعض الأطراف الأخرى غير كافية أو لم تتم، ويوصي الباحثون بإجبار المستخدم على تأكيد الأفعال الحساسة، وتقييد نطاق جلسات الوكيل، ومنع وصول المتصفح الذكي إلى الخدمات المهمة دون ضوابط واضحة.