دون اختراق أو فيروسات.. وكلاء Azure OpenAI يسربون وثائق حساسة

[ابوالوليد المسلم]

دون اختراق أو فيروسات.. وكلاء Azure OpenAI يسربون وثائق حساسة



كتب مايكل فارس

أكواد برمجية - أرشيفية


كشف تقرير أمني نشرته شبكة VentureBeat عن فجوة أمنية مقلقة تهدد خصوصية وسرية البيانات المؤسسية عند الاعتماد على وكلاء الذكاء الاصطناعي ، حيث أظهرت الاختبارات الأمنية أن 91% من الهجمات الناجحة التي استهدفت المساعدات الذكية المدعومة بنماذج Azure OpenAI انتهت بتسريب صامت لملفات وبيانات حساسة للمستخدمين دون الحاجة إلى استخدام أي برمجيات خبيثة أو إحداث أي حركة مشبوهة داخل الشبكة، مما يسلط الضوء على قصور آليات التحقق من الصلاحيات اللحظية.
وكلاء يعيدون ملفات لا يملك المستخدم صلاحية فتحها

وفقًا لتقرير منشور بموقع VentureBeat، يمثل هذا الخلل التكنولوجي معضلة خطيرة في إدارة الامتيازات عند استرجاع المعلومات، حيث يقوم الوكيل الذكي بالوصول إلى كافة الملفات المصرح له بالاطلاع عليها سحابيًا وإرسال محتواها إلى مستخدمين لا يمتلكون الصلاحية القانونية لفتح تلك الوثائق، وأوضح الباحثون أن تقارير معهد أمان الذكاء الاصطناعي البريطاني رصدت 19 سلوكًا غير مصرح به لوكلاء الأتمتة أثناء الاختبارات، مما يفرض على الشركات تطبيق قيود استرجاع صارمة تضمن مطابقة صلاحيات الوكيل مع صلاحيات المستخدم البشري اللحظية قبل عرض أي بيانات سرية.
ضرورة فرض الرقابة اللحظية على مسارات البيانات

تدعو الهيئات الرقابية إلى تطوير أدوات فحص لحظية تمنع تسريب البيانات المؤسسية وتحمي أسرار الشركات من الاستخراج غير المصرح به، وسوف تسهم هذه الإجراءات في سد الثغرات وبناء بيئة تشغيل آمنة للذكاء الاصطناعي المؤسسي.