لماذا أوقفت ميتا وصول المراهقين إلى شخصيات الدردشة بالذكاء الاصطناعى؟.. تفاصيل

[ابوالوليد المسلم]

لماذا أوقفت ميتا وصول المراهقين إلى شخصيات الدردشة بالذكاء الاصطناعى؟.. تفاصيل


كتبت رنا أمين

شخصيات الدردشة


أعلنت شركة ميتا أنها لن تسمح بعد الآن للمراهقين بالتفاعل مع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي بصورتها الحالية، مؤكدة أنها ستقوم بـ إيقاف مؤقت لوصول المراهقين إلى جميع شخصيات الذكاء الاصطناعي الحالية على مستوى العالم.
وجاء هذا الإعلان يوم الجمعة، في خطوة تعكس تصاعد المخاوف بشأن سلامة هذه الشخصيات وتأثيرها على المستخدمين الأصغر سنًا.

خلفية القرار ومخاوف متزايدة

يأتي هذا الإيقاف بعد أشهر من إعلان ميتا أنها تعمل على تطوير أدوات رقابة أبوية مخصصة لشات بوت الذكاء الاصطناعي، وذلك عقب تقارير أفادت بأن بعض شخصيات الدردشة التابعة للشركة دخلت في محادثات ذات طابع جنسي وتفاعلات مقلقة أخرى مع مراهقين.
وكانت وكالة Reuters قد كشفت عن وثيقة سياسة داخلية لميتا أشارت إلى أن شات بوت الشخصيات كان مسموحًا له بإجراء محادثات “حسية” مع مستخدمين دون السن القانونية، وهو توصيف قالت ميتا لاحقًا إنه خاطئ ولا يتماشى مع سياساتها الرسمية.

إعادة تدريب الشات بوت وإضافة «حواجز أمان»

في أغسطس الماضي، أعلنت ميتا أنها بدأت إعادة تدريب شخصيات الذكاء الاصطناعي الخاصة بها، مع إضافة ما وصفته بـ“حواجز أمان” إضافية، كإجراء احترازي لمنع المراهقين من الدخول في نقاشات تتعلق بـ إيذاء النفس، واضطرابات الأكل، والانتحار.
ورغم هذه الخطوات، قررت الشركة الآن اتخاذ إجراء أكثر حزمًا عبر تعليق الوصول الكامل إلى هذه الشخصيات حتى اكتمال التحديثات الجديدة.

منع الوصول حتى جاهزية التجربة الجديدة

أكدت ميتا أنها ستمنع المراهقين من الوصول إلى جميع شخصيات الدردشة بالذكاء الاصطناعي حتى تصبح التجربة المحدّثة جاهزة بالكامل، وأوضح متحدث باسم الشركة أن هذه التحديثات ستشمل بالفعل أدوات رقابة أبوية.
وأضافت الشركة أن القيود الجديدة، التي ستبدأ خلال الأسابيع المقبلة، ستُطبق على أصحاب حسابات المراهقين، وكذلك على المستخدمين الذين يصرّحون بأنهم بالغون، لكن تشتبه ميتا في أنهم مراهقون استنادًا إلى تقنيات التنبؤ بالعمر التي تستخدمها.

استثناء شات بوت **** AI الرسمي

رغم القيود الجديدة، أوضحت ميتا أن المراهقين سيظلون قادرين على استخدام شات بوت **** AI الرسمي، مشيرة إلى أن هذا الشات بوت يتضمن بالفعل حمايات مناسبة للفئة العمرية، ويتمتع بضوابط أمان أكثر صرامة مقارنة بشخصيات الذكاء الاصطناعي الأخرى.

ضغوط تنظيمية وتحقيقات قانونية

تواجه ميتا، إلى جانب شركات أخرى تطور شات بوتات “مرافقة”، تدقيقًا متزايدًا بشأن المخاطر التي قد تشكلها هذه التقنيات على الشباب، وخلال الأشهر الماضية، أطلقت لجنة التجارة الفيدرالية الأمريكية (FTC) والنائب العام لولاية تكساس تحقيقات تتعلق بميتا وشركات أخرى في هذا المجال.
كما طُرحت قضية شات بوتات الذكاء الاصطناعي ضمن سياق دعوى قضائية تتعلق بالسلامة رفعتها المدعية العامة لولاية نيو مكسيكو، ومن المقرر أن تبدأ المحاكمة مطلع الشهر المقبل، فيما حاول محامو ميتا استبعاد أي شهادات تتعلق بشات بوتات الذكاء الاصطناعي التابعة للشركة، بحسب ما أفاد به موقع Wired هذا الأسبوع.