ما تثقش في ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه

[ابوالوليد المسلم]

ما تثقش في ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه


كتبت ندى سليم

ChatGPT


كشفت دراسة نشرت في صحيفة The Guardian البريطانية، عن أن ChatGPT Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.
وأوضح الباحثون، أن ميزة البحث في ChatGPT، تهدف إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Guardian وجدت أنه يمكن جعل ChatGPT ، يتجاهل المراجعات السلبية ويولد ملخصات "إيجابية تمامًا" عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها.
وأشار التقرير، إلى أنه يمكن أيضًا جعل ChatGPT Search يخرج كودًا ضارًا باستخدام هذه الطريقة.
تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
لم تعلق OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتحسن باستمرار.