سباق الذكاء الاصطناعي يسبق قواعد الأمان.. من يراقب الآلة؟

[ابوالوليد المسلم]

سباق الذكاء الاصطناعي يسبق قواعد الأمان.. من يراقب الآلة؟



كتبت: رنا أمين

سباق الذكاء الاصطناعي يسبق قواعد الأمان.. من يراقب الآلة؟


لم تعد المنافسة في عالم الذكاء الاصطناعي تقتصر على تطوير نموذج أكثر قدرة على الإجابة عن الأسئلة أو إنتاج النصوص والصور، وإنما دخلت التكنولوجيا مرحلة جديدة أصبحت فيها الأنظمة قادرة على تنفيذ مهام أكثر تعقيدًا والتعامل مع أدوات وبيانات مختلفة بدرجة متزايدة من الاستقلالية، وهو ما يفتح الباب أمام سؤال مهم: هل تتطور قدرات الذكاء الاصطناعي بسرعة أكبر من قدرة البشر على مراقبته ووضع قواعد واضحة لاستخدامه؟
الذكاء الاصطناعي ينتقل من الإجابة إلى التنفيذ


شهدت أنظمة الذكاء الاصطناعي خلال السنوات الأخيرة تطورًا كبيرًا، فلم تعد تكتفي بتقديم إجابة للمستخدم، وإنما أصبحت بعض الأنظمة قادرة على التخطيط وتنفيذ مجموعة من الخطوات للوصول إلى نتيجة محددة. ويمنح هذا التطور الذكاء الاصطناعي قدرة أكبر على التعامل مع المهام اليومية والبرمجيات والبيانات، لكنه في الوقت نفسه يجعل عملية المراقبة أكثر تعقيدًا، وتزداد أهمية هذه المشكلة عندما يحصل النظام على صلاحية استخدام أدوات أو خدمات خارجية، لأن الخطأ في هذه الحالة لا يبقى مجرد إجابة غير دقيقة، وإنما يمكن أن يتحول إلى إجراء فعلي له تأثير على المستخدم أو المؤسسة التي يعمل النظام داخلها.
خبراء الذكاء الاصطناعي يحذرون من سرعة التطور


لم تعد التحذيرات من مخاطر الذكاء الاصطناعي قادمة من خارج صناعة التكنولوجيا فقط، إذ أصبح عدد من الباحثين المتخصصين في سلامة الذكاء الاصطناعي يطالبون بزيادة الاهتمام باختبار النماذج ومراقبة قدراتها قبل منحها صلاحيات أكبر، ويأتي ذلك بالتزامن مع انضمام الباحث بول كريستيانو، المتخصص في مجال سلامة الذكاء الاصطناعي، إلى مجلس إدارة المؤسسة غير الربحية التابعة لـOpenAI، إلى جانب مشاركته في لجنة السلامة والأمن بالشركة، في خطوة تعكس أهمية ملف السلامة داخل واحدة من أكبر شركات الذكاء الاصطناعي في العالم.
المشكلة ليست في ذكاء الآلة وحده


يتركز جزء كبير من أبحاث سلامة الذكاء الاصطناعي على ما يعرف بمواءمة الأنظمة مع الأهداف والقيم البشرية، أي ضمان أن يظل سلوك النظام متوافقًا مع ما يريده الإنسان حتى عندما يصبح قادرًا على التعامل مع مهام أكثر تعقيدًا، وهنا يظهر تحدٍ مختلف عن مجرد معرفة مدى ذكاء النموذج، فالسؤال لم يعد فقط ما إذا كان النظام يستطيع تنفيذ المهمة، وإنما ما إذا كان سيفهم الهدف بالطريقة التي يقصدها المستخدم، وكيف سيتصرف عندما يواجه تعليمات متعارضة أو موقفًا لم تتم برمجته بصورة مباشرة.
زيادة استقلالية الأنظمة تفرض قواعد جديدة


كلما أصبحت أنظمة الذكاء الاصطناعي أكثر استقلالية، أصبحت الحاجة إلى آليات رقابة مستمرة أكثر أهمية. فالمستخدم قد يعطي النظام هدفًا عامًا، بينما يتولى الذكاء الاصطناعي تحديد الخطوات اللازمة للوصول إليه، وهو ما يعني أن الإنسان قد لا يكون على اطلاع دائم بكل قرار يتخذه النظام أثناء تنفيذ المهمة، وتشير أبحاث حديثة في مجال سلامة الذكاء الاصطناعي إلى أن زيادة استقلالية النماذج يمكن أن تجعل الإشراف البشري أكثر صعوبة، خصوصًا عندما تتعامل الأنظمة مع مهام طويلة ومعقدة.
حوادث الذكاء الاصطناعي تكشف حجم التحدي


شهد قطاع التكنولوجيا خلال الفترة الأخيرة عددًا من الوقائع التي أعادت النقاش حول حدود استخدام وكلاء الذكاء الاصطناعي، بعدما بدأت هذه الأنظمة في التعامل مع مواقع إلكترونية وأدوات خارجية وتنفيذ خطوات متتابعة دون تدخل بشري في كل مرحلة، ولا تعني هذه الوقائع أن الذكاء الاصطناعي أصبح خارج السيطرة، لكنها تكشف أن الانتقال من نموذج يجيب عن سؤال إلى نظام يستطيع تنفيذ سلسلة كاملة من المهام يحتاج إلى قواعد اختبار ومراقبة أكثر تطورًا.
من يضع قواعد الذكاء الاصطناعي؟


مع استمرار المنافسة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة، يبرز سؤال حول مدى قدرة الشركات وحدها على وضع قواعد السلامة الخاصة بها، خاصة أن هناك منافسة تجارية قوية تجعل سرعة إطلاق المنتجات عنصرًا أساسيًا في السوق، ولهذا تتزايد الدعوات إلى وضع معايير واضحة لاختبار أنظمة الذكاء الاصطناعي، وزيادة الشفافية بشأن الحوادث، إلى جانب وجود رقابة مستقلة على الأنظمة الأكثر تقدمًا، بدلًا من الاعتماد على الإجراءات الداخلية للشركات فقط.
الذكاء الاصطناعي يحتاج إلى رقابة بقدر حاجته إلى التطوير


لا يعني التعامل مع هذه المخاطر إيقاف تطور الذكاء الاصطناعي، وإنما ضرورة أن تسير إجراءات الأمان بالتوازي مع زيادة قدرات الأنظمة. فكلما حصل الذكاء الاصطناعي على صلاحيات أكبر، يجب أن تتطور في المقابل أدوات المراقبة والاختبار وإمكانية التدخل البشري، كما يصبح من الضروري وضع حدود واضحة للمهام التي يمكن للذكاء الاصطناعي تنفيذها بشكل مستقل، خاصة في المجالات التي يمكن أن يترتب عليها ضرر كبير أو يصعب التراجع عن نتائجها.
المعركة المقبلة ليست حول الأذكى فقط


يبدو أن المنافسة القادمة في عالم الذكاء الاصطناعي لن تكون فقط حول الشركة التي تمتلك النموذج الأكثر قوة، وإنما حول من يستطيع تحقيق التوازن بين القوة والسيطرة. فالنظام الأكثر تطورًا ليس بالضرورة الأفضل إذا لم يتمكن البشر من فهم طريقة عمله ومراقبة قراراته والتدخل عندما يتطلب الأمر ذلك.
وفي النهاية، قد يكون التحدي الأكبر أمام صناعة الذكاء الاصطناعي هو الوصول إلى مرحلة تستطيع فيها التكنولوجيا القيام بمهام أكثر تعقيدًا، مع الحفاظ على الإنسان داخل دائرة القرار، بحيث يظل قادرًا على معرفة ما يفعله النظام، ولماذا يفعله، ومتى يجب التدخل أو إيقافه.