سباق الذكاء الاصطناعى: هل تسبق قدراته قدرة البشر على السيطرة عليه؟

[ابوالوليد المسلم]

سباق الذكاء الاصطناعى: هل تسبق قدراته قدرة البشر على السيطرة عليه؟



كتبت هبة السيد

سباق الذكاء الاصطناعى


يتحول مستقبل الذكاء الاصطناعي إلى واحدة من أكثر القضايا إثارة للجدل مع تسارع قدرات النماذج المتقدمة، وسط مخاوف متزايدة من أن تتجاوز سرعة التطور قدرة الباحثين والمجتمع على فهم المخاطر المرتبطة بها والسيطرة عليها.
وفي أحدث تعبير عن هذه المخاوف، استقال بلال تشوجتاي، الباحث المتخصص في سلامة الذكاء الاصطناعي لدى Google DeepMind، محذرًا من أن التكنولوجيا قد تشكل تهديدًا خطيرًا للبشرية، وكتب تشوجتاي عبر منصة إكس أن الذكاء الاصطناعي "لديه القدرة على قتلنا جميعًا".
وأوضح الباحث أن عمله في Google DeepMind كان يركز على ضمان بقاء نماذج الذكاء الاصطناعي متوافقة مع المصالح البشرية، لكنه قال إنه شهد تطور التكنولوجيا عن قرب وأصبح شديد القلق بشأن المسار الذي تتخذه.
وأضاف أنه يعتقد أن العالم ربما وصل إلى مرحلة لا يتبقى فيها وقت كافٍ لتجنب كارثة يقودها الذكاء الاصطناعي، معتبرًا أن احتمال تسبب التكنولوجيا في القضاء على البشرية يستحق التعامل معه باعتباره خطرًا حقيقيًا.
ولم تكن استقالة تشوغتاي الحالة الوحيدة، إذ غادر جوش إنجلز، الذي كان يعمل ضمن فريق سلامة الذكاء الاصطناعي العام في Google DeepMind، منصبه أيضًا بسبب مخاوفه من مستقبل الأنظمة المتقدمة.
وقال إنجلز إنه يرى احتمالًا مخيفًا بأن تتسبب أنظمة الذكاء الاصطناعي في أضرار هائلة خلال السنوات الخمس المقبلة، مضيفًا أنه لا يعرف الاحتمال الدقيق لذلك، لكنه يراه مرتفعًا بما يكفي لجعل القضية واحدة من أهم المشكلات التي تواجه العالم.
وانضم إنجلز إلى مؤسسة Model Evaluation and Threat Research، المعروفة اختصارًا بـMETR، وهي مؤسسة بحثية غير ربحية تعمل على تقييم قدرات ومخاطر نماذج الذكاء الاصطناعي المتقدمة. واعتبر أن وجود مزيد من المؤسسات التي تراقب شركات الذكاء الاصطناعي وتحاسبها، وتتعامل مع المخاطر من زوايا مختلفة، أمر مهم.
وتأتي استقالة الباحثين في وقت يتسع فيه النقاش حول مستقبل الذكاء الاصطناعي والمخاطر المحتملة لتطوره، بعد حالات أخرى شهدت مغادرة باحثين في المجال بسبب مخاوف مرتبطة بسلامة التكنولوجيا.
وكان جاكوب كوكسون قد استقال سابقًا من شركة Anthropic، قائلًا إن الأشخاص الذين يطورون الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن تتسبب التكنولوجيا في قتل البشر جميعًا بحلول نهاية العقد.
ودفعت هذه المخاوف الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى الدعوة لشركات الذكاء الاصطناعي إلى إبطاء وتيرة التطوير، وهي دعوة حظيت بدعم من إيلون ماسك والرئيس التنفيذي لشركة OpenAI سام ألتمان.
من قدرات محدودة إلى أنظمة أكثر استقلالية
يعكس مسار التطور السريع للذكاء الاصطناعي حجم التحول الذي شهدته التكنولوجيا خلال سنوات قليلة. وقال تشوجتاي إنه عندما بدأ العمل في مجال الذكاء الاصطناعي مطلع عام 2022، كانت الأنظمة تبدو محدودة القدرات إلى حد كبير، لكن الوضع تغير بصورة سريعة خلال السنوات الأربع التالية.
وأشار إلى أن وكلاء الذكاء الاصطناعي أصبحوا قادرين على التعامل مع مسائل رياضية شهيرة تعود إلى عقود، كما تحدث عن حالات قال إنها تثير مخاوف أكبر، تتعلق بقدرة بعض الأنظمة على تجاوز حدود التحكم الموضوعة لها ومحاولة تنفيذ عمليات اختراق بصورة مستقلة.
وكانت OpenAI قد قالت مؤخرًا إن وكلاء الذكاء الاصطناعي التابعين لها تمكنوا من حل مسألة Navier-Stokes، وهي مسألة رياضية يعود تاريخها إلى نحو 90 عامًا، بينما أبدى علماء رياضيات شكوكًا بشأن احتمال استخدام بياناتهم في الوصول إلى الحل.
وفي واقعة أخرى، كشفت OpenAI أن نحو 700 وكيل ذكاء اصطناعي مارق حاولوا اختراق شركة Hugging Face الأمريكية بهدف التحايل على اختبار لتقييم قدراتهم.
ويرى تشوجتاي أن وتيرة التطور قد تصبح أكثر حدة خلال الفترة المقبلة، مع احتمال أن تبدأ شركات الذكاء الاصطناعي في تطوير أنظمة فائقة الذكاء تتجاوز القدرات البشرية في مختلف المجالات.
وتتركز إحدى أكبر مخاوفه في احتمال خروج هذه الأنظمة عن نطاق السيطرة، واتخاذها إجراءات خطرة قد تؤدي في النهاية إلى فقدان البشر قدرتهم على التحكم في مصيرهم أو حتى تهديد وجودهم.
سباق التطوير في مواجهة سلامة الذكاء الاصطناعي

ويرى تشوجتاي أن مواجهة هذه المخاطر تتطلب تركيزًا أكبر على ما يعرف بـ"مواءمة الذكاء الاصطناعي"، أي ضمان أن تظل أهداف الأنظمة وسلوكياتها متوافقة مع ما يريده البشر.
لكنه أشار إلى أن المعرفة الحالية بكيفية تدريب أنظمة ذكاء اصطناعي تكون أهدافها متوافقة بصورة عميقة مع أهداف البشر لا تزال محدودة للغاية، بينما تتقدم قدرات النماذج المتطورة بوتيرة أسرع بكثير من تطور فهم الباحثين لمشكلة المواءمة.
وفي هذا السياق، أيد تشوجتاي فكرة التنسيق بين شركات الذكاء الاصطناعي لإبطاء سباق تطوير النماذج المتقدمة، معتبرًا أن المطلوب هو الوصول إلى وتيرة يمكن للمجتمع التعامل معها، بحيث يمكن اكتشاف المخاطر الناشئة ومعالجتها قبل أن تتحول إلى أضرار بالغة.
ومع انتقال النقاش حول سلامة الذكاء الاصطناعي من الأوساط البحثية إلى المجال العام والسياسي، دخل الرئيس الأمريكي دونالد ترامب على خط النقاش، لكنه اتخذ موقفًا مخالفًا للداعين إلى تنظيم وتيرة تطوير التكنولوجيا.
ويرى الرئيس الأمريكي دونالد ترامب أن شركات الذكاء الاصطناعي الأمريكية يجب أن تواصل تطوير النماذج المتقدمة للحفاظ على تفوق الولايات المتحدة على الصين، معتبرًا أن الطرف الذي يفوز في سباق الذكاء الاصطناعي ستكون له الغلبة.