مايكروسوفت تطلق ميزة جديدة لمكافحة أخطاء الذكاء الاصطناعى ومعالجتها

[ابوالوليد المسلم]

مايكروسوفت تطلق ميزة جديدة لمكافحة أخطاء الذكاء الاصطناعى ومعالجتها


كتبت - سماح لبيب

مايكروسوفت


أطلقت شركة مايكروسوفت ميزة جديدة تسمى "التصحيح" والتي تعتمد على جهود الشركة لمكافحة أخطاء الذكاء الاصطناعي، ويمكن للعملاء الذين يستخدمون Microsoft Azure لتشغيل أنظمة الذكاء الاصطناعى الخاصة بهم الآن استخدام القدرة على الكشف تلقائيًا عن المحتوى غير الصحيح وإعادة كتابته في مخرجات الذكاء الاصطناعي.
وتتوفر ميزة التصحيح في المعاينة كجزء من Azure AI Studio وهي مجموعة من أدوات الأمان المصممة للكشف عن الثغرات الأمنية، والعثور على "الهلوسة"، وحظر المطالبات الضارة ، وبمجرد تمكينها سيقوم نظام التصحيح بمسح وتحديد عدم الدقة في مخرجات الذكاء الاصطناعي من خلال مقارنتها بالمواد المصدرية للعميل.
من هناك، سيتم تسليط الضوء على الخطأ، وتوفير معلومات حول سبب عدم صحته، وإعادة كتابة المحتوى بالمعني الصحيح ، كل ذلك "قبل أن يتمكن المستخدم من رؤية" عدم الدقة.
فى حين أن هذا يبدو وكأنه طريقة مفيدة لمعالجة الهراء الذي غالبًا ما تتبناه نماذج الذكاء الاصطناعي ، إلا أنه قد لا يكون حلاً موثوقًا به تمامًا.
وتحتوى Vertex AI، وهى منصة سحابية من Google للشركات التى تعمل على تطوير أنظمة الذكاء الاصطناعي، على ميزة "تؤسس" نماذج الذكاء الاصطناعى من خلال التحقق من النتائج مقابل بحث Google وبيانات الشركة الخاصة و(قريبًا) مجموعات بيانات الجهات الخارجية.
وفي تصريح لموقع TechCrunch، قال متحدث باسم Microsoft إن نظام "التصحيح" يستخدم "نماذج لغوية صغيرة ونماذج لغوية كبيرة لمواءمة المخرجات مع المستندات الأساسية"، مما يعني أنه ليس محصنًا ضد ارتكاب الأخطاء أيضًا.

وقالت Microsoft لموقع TechCrunch: "من المهم ملاحظة أن اكتشاف الأخطاء لا يحل مشكلة "الدقة"، ولكنه يساعد في مواءمة مخرجات الذكاء الاصطناعي التوليدي مع المستندات الأساسية" .