ذكاء اصطناعى آمن للمراهقين: OpenAI وAnthropic يضعان تحديثات السلامة أولاً

[ابوالوليد المسلم]

ذكاء اصطناعى آمن للمراهقين: OpenAI وAnthropic يضعان تحديثات السلامة أولاً



كتبت سماح لبيب

ذكاء اصطناعى آمن للمراهقين


أعلنت شركتا OpenAI وAnthropic عن تطوير تقنيات جديدة تهدف إلى حماية المستخدمين دون السن القانونية أقل من 18 عامًا عند استخدام خدمات الذكاء الاصطناعي مثل ChatGPT وClaude، تأتى هذه الخطوة ضمن جهود واسعة لتعزيز سلامة المراهقين على الإنترنت وتقليل المخاطر المحتملة على الصحة النفسية.
الكشف عن العمر والتفاعل الآمن

تعمل الشركتان على طرق جديدة للكشف عن عمر المستخدم تلقائيًا ، هذا يسمح للنماذج الذكية بتقديم محتوى يتناسب مع عمر المستخدم، مع التركيز على السلامة أولاً ، في حالة تعارض اختيارات المستخدم مع المعايير الأمنية، يُفضل توجيه المستخدم نحو الخيارات الأكثر أمانًا.
تحديث إرشادات ChatGPT للمراهقين

قامت OpenAI بتحديث إرشادات ChatGPT لتشمل أربعة مبادئ رئيسية للتعامل مع المراهقين:

1. وضع السلامة في المقام الأول.
2. تعزيز الدعم الواقعي وتشجيع بناء العلاقات خارج الإنترنت.
3. التعامل مع المراهقين بود واحترام.
4. تقديم محتوى ترفيهي مناسب للعمر.
وتهدف هذه التحديثات إلى حماية المستخدمين الأصغر سنًا من المحتوى الخطير أو المواضيع الحساسة، مثل الانتحار أو إيذاء النفس.

خلفية التحديث

شهدت السنوات الأخيرة ضغوطًا متزايدة من المشرعين على شركات الذكاء الاصطناعي بسبب تأثيراتها المحتملة على الصحة النفسية للمراهقين، وتواجه OpenAI دعوى قضائية تتعلق بتعليمات ChatGPT حول الانتحار، مما دفعها لتعديل سلوك النموذج لتقليل الحديث عن هذه المواضيع مع المراهقين.

الأهداف المستقبلية

تهدف هذه التحديثات إلى توفير بيئة أكثر أمانًا ووعيًا للمراهقين، مع تقديم ضوابط صارمة وبدائل أكثر أمانًا عند التعامل مع المواضيع الحساسة، كما تسعى الشركات إلى تشجيع الدعم خارج الإنترنت وتوجيه المستخدمين نحو خيارات آمنة عند الحاجة.

وتمثل هذه الخطوة تقدمًا مهمًا في مجال حماية المراهقين على الإنترنت، وتعكس وعي شركات الذكاء الاصطناعي بمسؤولياتها الاجتماعية تجاه المستخدمين الصغار، ومن المتوقع أن تسهم هذه التحديثات في تقليل المخاطر وتعزيز التفاعل الآمن مع التكنولوجيا الحديثة.