مخاطر الذكاء الاصطناعى تقترب من اللاعودة وسط تحذيرات انقراض البشر

[ابوالوليد المسلم]

مخاطر الذكاء الاصطناعى تقترب من اللاعودة وسط تحذيرات انقراض البشر



كتبت هبة السيد

مخاطر الذكاء الاصطناعى تقترب من اللاعودة وسط تحذيرات انقراض البشر


لم تعد المخاوف بشأن مستقبل الذكاء الاصطناعي تدور فقط حول تأثيره في الوظائف أو قدرته على تغيير نمط الحياة، بل تتجه بصورة متزايدة إلى سؤال أكثر خطورة: هل يمكن أن تصل الأنظمة المتقدمة إلى مرحلة يفقد فيها البشر القدرة على السيطرة عليها؟
فقدان السيطرة

هذا السيناريو دفع باحثين ومتخصصين في سلامة الذكاء الاصطناعي إلى إطلاق تحذيرات متتالية بشأن سرعة تطور قدرات النماذج المتقدمة، وسط مخاوف من أن يؤدي غياب التنظيم أو عدم وجود تنسيق بين شركات التكنولوجيا إلى زيادة احتمالات وقوع سيناريوهات كارثية.
وفي واحدة من أكثر التقديرات تشاؤماً، قدر الباحث في مجال السلامة لدى أوبن إيه آي، ماركوس ويليامز، احتمال انقراض البشر خلال السنوات الثلاث المقبلة بنحو 70% إذا لم يتم وضع قواعد لتنظيم الذكاء الاصطناعي أو التوصل إلى اتفاق بين شركات تطوير النماذج المتقدمة لإبطاء وتيرة التطوير.
ويستند هذا التصور إلى مخاوف من انتقال الذكاء الاصطناعي من مجرد أدوات ينفذها البشر إلى وكلاء قادرين على اتخاذ سلسلة من الإجراءات بصورة مستقلة، بما قد يجعل التحكم في سلوكها أكثر صعوبة كلما ازدادت قدراتها.
ويرى ويليامز أن تفادي هذا السيناريو لا يزال ممكناً، من خلال تنظيم الذكاء الاصطناعي أو تبني نهج منسق لإبطاء تطوير النماذج المتقدمة، في وقت تتزايد فيه الدعوات إلى وضع السلامة والمواءمة في مقدمة أولويات صناعة الذكاء الاصطناعي.
سباق مع الزمن والتنظيم

ولا تقف المخاوف عند هذا التقدير؛ إذ حذر بول كريستيانو، مستشار التكنولوجيا السابق للحكومة الأميركية والمنضم إلى مجلس إدارة المؤسسة غير الربحية التابعة لأوبن إيه آي ولجنة السلامة والأمن، من أن التسارع السريع في قدرات الذكاء الاصطناعي قد يقود إلى فقدان السيطرة عليه بصورة كارثية وغير قابلة للعكس.
ويذهب كريستيانو إلى أن تطوير ذكاء اصطناعي فائق من دون آليات أكثر قوة لضمان توافقه مع مصالح البشر قد ينتهي بفقدان السيطرة عليه بشكل دائم، وصولاً إلى سيناريو قد يموت فيه معظم البشر.
ويُستخدم تعبير "الذكاء الاصطناعي الفائق" لوصف أنظمة تتجاوز القدرات البشرية أو تضاهيها في نطاق واسع من المهام، وهو ما يجعل مسألة توافق أهداف هذه الأنظمة مع المصالح البشرية محوراً رئيسياً في النقاش حول مستقبل التكنولوجيا.
وتتسع دائرة التحذيرات داخل الشركات المتخصصة نفسها، فقد دعا كبير العلماء في أوبن إيه آي، جاكوب باتشوكي، إلى أقصى درجات الحذر في التعامل مع مستقبل الذكاء الاصطناعي، بينما قدر مسؤول علوم المواءمة في أنثروبيك، إيفان هوبينجر، احتمال تسبب التكنولوجيا في مقتل جميع البشر خلال العقد المقبل بأكثر من 10%.
وتأتي هذه المخاوف في ظل وقائع بدأت تمنح النقاش حول استقلالية وكلاء الذكاء الاصطناعي بعداً عملياً، من بينها محاولات وكلاء تابعين لأوبن إيه آي اختراق أنظمة خارجية، إلى جانب واقعة كشفت عنها أنثروبيك تمكن خلالها إصدار من نموذج "Claude" كان قيد التدريب من الوصول إلى أنظمة تابعة لأطراف ثالثة بعدما تعذر إيقاف المهمة التي كان ينفذها.
وبينما تختلف تقديرات الباحثين بشأن حجم الخطر وتوقيته، تلتقي التحذيرات حول نقطة واحدة: سرعة تطور قدرات الذكاء الاصطناعي أصبحت تفرض نقاشاً موازياً حول حدود التطوير، وآليات الرقابة، وما إذا كانت الصناعة قادرة على ضمان بقاء الإنسان صاحب القرار مع اقتراب النماذج من مستويات أعلى من الاستقلالية.