أطلقت OpenAI هذا الأسبوع دراسة مهمة، حيث أجرت تحليلًا منهجيًا للأسباب الجذرية لظاهرة هلوسة الناتجة عن نماذج اللغة الكبيرة. وأشارت الدراسة إلى أن العمليات الحالية للتدريب والتقييم تميل إلى مكافأة تخمينات النماذج، بدلاً من تشجيعها على الاعتراف بعدم اليقين، وهو ما يُعتبر عاملًا رئيسيًا في دفع الذكاء الاصطناعي لإنتاج معلومات خاطئة بثقة.
خدع الذكاء الاصطناعي تشير إلى قدرة النموذج على إنشاء عبارات تبدو معقولة ولكنها في الحقيقة خاطئة، وقد أصبحت هذه المشكلة عائقًا أمام ثقة المستخدمين الكاملة في أنظمة الذكاء الاصطناعي. قامت OpenAI بتعريف الخداع في ورقتها البحثية على أنه حالة توليد النموذج لإجابات غير حقيقية بثقة.، وعلى الرغم من ظهور نماذج متقدمة مثل GPT-5، إلا أن ظاهرة الخداع لا تزال قائمة.
في دراسة، قام المؤلف الأول للبحث آدم تاومان كالاي بإجراء اختبارات، ووجد أن الروبوتات المختلفة عندما طُلب منها ذكر عنوان أطروحتها، أجابت بثقة بخطَأ غير متوقع، مما يُظهر انتشار هذه المشكلة.
اكتشف فريق OpenAI أن طرق التقييم الحالية وضعت آليات تحفيز خاطئة، مما يعد جزءاً من أسباب استمرار ظاهرة الهلوسة. وأشار الباحثون إلى أن معظم طرق تقييم أداء النماذج تشجع النماذج على التخمين بدلاً من مواجهة عدم اليقين بصدق.
هذا مشابه لاختبارات الاختيار المتعدد: إذا لم تعرف الإجابة ولكنك خمّنت بشكل عشوائي، فلا يزال لديك فرصة للإجابة بشكل صحيح؛ أما إذا اخترت عدم الإجابة، فستحصل حتمًا على صفر. لذلك، عندما يتم تقييم النموذج بناءً على الدقة فقط، فإن ما يتم تشجيعه هو التخمين، وليس قبول لا أعرف.
أظهرت الأبحاث أنه بين الآلاف من الأسئلة الاختبارية، كانت نماذج تعتمد على استراتيجية التخمين تؤدي بشكل أفضل على لوحات النتائج مقارنة بالنماذج التي تعترف بعدم اليقين بحذر. ذكرت OpenAI أن التخلي عن الإجابة هو جزء من مؤشر التواضع، وأن التواضع هو واحد من القيم الجوهرية للشركة.
على الرغم من استمرار ظاهرة الهلوسة، حقق أحدث إصدار من OpenAI، وهو GPT-5، تقدمًا ملحوظًا في تقليل هذه الظاهرة. وفقًا لبيانات بطاقة النظام الخاصة بـ GPT-5، انخفض معدل الهلوسة في النموذج الجديد بنحو 26% مقارنةً بـ GPT-4o، كما أظهر أداءً ممتازًا في العديد من التقييمات.
في اختبارات LongFact-Concepts و LongFact-Objects، كانت نسبة وهم GPT-5 فقط 0.7% و0.8%، وهو ما يقل بكثير عن OpenAI o3 التي كانت 4.5% و5.1%. في مجالات مثل الاستفسارات الطبية، كانت نسبة الوهم في GPT-5 فقط 1.6%، مما يُظهر تفوقه في هذا المجال.
طرحت OpenAI حلاً بسيطاً: يجب أن تكون عقوبة الخطأ الواثق أعلى من عقوبة عدم اليقين، ويجب أيضاً منح نقاط للسلوك الذي يعبر عن عدم اليقين بشكل مناسب. أكد فريق البحث أن مجرد زيادة اختبارات إدراك عدم اليقين ليس كافياً، بل يجب تحديث أساليب التقييم المستخدمة على نطاق واسع حالياً.
تشير الورقة إلى أنه إذا استمرت المؤشرات الرئيسية للتقييم في مكافأة تخمينات النموذج المحظوظة، فسوف يستمر النموذج في التعلم من هذا السلوك. بينما يمكن أن يؤدي تعديل مؤشرات التقييم إلى توسيع نطاق اعتماد تقنيات تقليل الأوهام.
بحث أيضًا آلية ظهور الهلوسة خلال عملية التدريب المسبق. أوضحت OpenAI أن نماذج اللغة تتعلم من خلال توقع الكلمة التالية في نصوص ضخمة، على عكس التعلم الآلي التقليدي، حيث لا تحتوي كل جملة على علامةحقيقي/زائف واضحة، بل يمكن للنموذج فقط رؤية أمثلة إيجابية للغة السلسة.
توضح فريق البحث باستخدام analogies التعرف على الصور: إذا تم استخدام وسم عيد ميلاد الحيوانات الأليفة لوضع علامات على الصور، فإن الخوارزمية، مهما كانت متطورة، ستواجه أخطاء بسبب عشوائية أعياد الميلاد. وبالمثل، فإن الأخطاء الناتجة عن وجود نمط ثابت في الإملاء وعلامات الترقيم ستقل بتزايد حجم البيانات؛ لكن الحقائق العشوائية والنادرة مثل عيد ميلاد الحيوانات الأليفة لا يمكن التنبؤ بها فقط بناءً على الأنماط، مما يؤدي إلى حدوث الهلاوس.
في الوقت نفسه، تقوم OpenAI بإعادة هيكلة فريق سلوك النماذج الخاص بها، وهو فريق بحثي يضم حوالي 14 شخصًا مسؤولين عن تشكيل كيفية تفاعل نماذج الذكاء الاصطناعي مع البشر. وفقًا لمذكرة داخلية، سيتم دمج فريق سلوك النماذج مع فريق التدريب المتأخر، وسيقوم بالتقارير إلى مدير التدريب المتأخر ماكس شوارزر.
ستقوم المؤسسة والمشرفة الرئيسية للفريق، جوان جانغ، بإطلاق مشروع جديد يُدعى OAI Labs، يركز على اختراع وتصميم نماذج واجهات تفاعلية جديدة للتعاون بين الإنسان و الذكاء الاصطناعي. لقد كانت هذه المجموعة تعمل على تشكيل خصائص شخصية النماذج وتقليل سلوك التملق بها، مع معالجة قضايا مثل التحيز السياسي.
تقدم هذه الدراسة أساسًا نظريًا مهمًا لفهم مشكلة خطأ الخيال في الذكاء الاصطناعي، مما يساعد على دفع الصناعة بأكملها نحو تحسين معايير تقييم النماذج. وأفادت OpenAI بأنها ستواصل العمل على خفض معدل الأخطاء في مخرجات نماذج اللغة.
يعتقد خبراء الصناعة أنه مع تحسين أساليب التقييم وتطبيق التقنيات الجديدة، من المتوقع أن تُدار مشكلة الهلوسة في الذكاء الاصطناعي بشكل أفضل، مما سيزيد من ثقة المستخدمين في نظم الذكاء الاصطناعي وفعاليتها.
