ميتا تطلق تنبيهات جديدة لأولياء الأمور لرصد محادثات الانتحار وإيذاء النفس بين المراهق

[ابوالوليد المسلم]

ميتا تطلق تنبيهات جديدة لأولياء الأمور لرصد محادثات الانتحار وإيذاء النفس بين المراهقين



كتب مؤنس حواس

ميتا تطلق تنبيهات جديدة لأولياء الأمور لرصد محادثات الانتحار


أعلنت شركة ميتا عن إطلاق مجموعة جديدة من أدوات الأمان المخصصة لحماية المراهقين، تتضمن إرسال تنبيهات إلى أولياء الأمور عند رصد محادثات تتعلق بالانتحار أو إيذاء النفس بين أبنائهم ومساعدها الذكي **** AI على منصتي فيسبوك وإنستجرام، في خطوة تستهدف تعزيز إجراءات السلامة الرقمية، وأكدت الشركة أن الميزة الجديدة بدأت بالفعل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، على أن تتوسع تدريجيًا لتشمل مستخدمين في مختلف أنحاء العالم قبل نهاية العام الجاري.
تنبيهات فورية لأولياء الأمور

وأوضحت ميتا أن أولياء الأمور الذين يستخدمون ميزة Instagram Parental Supervision سيتلقون إشعارات إذا أجرى أبناؤهم المراهقون محادثات مع **** AI تتضمن إشارات إلى الانتحار أو إيذاء النفس، وأضافت الشركة أن التنبيهات ستتضمن أيضًا موارد وإرشادات من خبراء الصحة النفسية لمساعدة الآباء على التعامل مع هذه المواقف بطريقة مناسبة وداعمة.
وأشارت ميتا إلى أنها طورت نظامًا مخصصًا يعتمد على الذكاء الاصطناعي لرصد المحادثات التي تشير إلى وجود خطر محتمل، حتى إذا جاءت الإشارات بصورة غير مباشرة أو ضمنية، وأكدت الشركة أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة بشرية قبل إرسال أي تنبيه إلى ولي الأمر، وفي الحالات التي يكون فيها قصد المستخدم غير واضح، ستتبع ميتا نهجًا احترازيًا بإرسال الإشعار لضمان سلامة المراهق.
ولفتت ميتا إلى أنها كانت ترسل بالفعل إشعارات إلى أولياء الأمور إذا كرر المراهق البحث عن محتوى متعلق بالانتحار أو إيذاء النفس عبر إنستجرام، كما يقوم **** AI بتوجيه المستخدمين إلى خطوط المساعدة المتخصصة وتشجيعهم على التواصل مع أحد الوالدين أو مستشار نفسي عند الحاجة.
وكشفت الشركة عن تطوير ميزة جديدة ستتيح لها التواصل مع خدمات الطوارئ إذا أظهرت محادثة مع **** AI، سواء لمراهق أو شخص بالغ، وجود خطر وشيك يتعلق بالانتحار أو إيذاء النفس، وأوضحت ميتا أنها أحالت أكثر من 19 ألف حالة حول العالم خلال العام الماضي إلى جهات الاستجابة الأولى لإجراء فحوصات السلامة للأشخاص الذين يُعتقد أنهم معرضون لخطر الانتحار.
وأكدت الشركة أن تطوير هذه الأدوات استند إلى مشاورات مع أكثر من 75 متخصصًا في الصحة النفسية، إضافة إلى التعاون مع مجلس خبراء الرفاهية في الذكاء الاصطناعي (AI Wellbeing Expert Council) والمجموعة الاستشارية للانتحار وإيذاء النفس، إلى جانب مستشارين من فئة الشباب، بهدف تحسين استجابة **** AI للمحادثات الحساسة المتعلقة بالصحة النفسية.