أجرى باحثون دراسة جديدة لتقييم قابلية النماذج اللغوية الكبيرة أمام معلومات مضللة ضمن نطاقات مغلقة مثل القصص والأفلام. عمدوا إلى اختبار كيف تتعامل هذه النماذج مع مجموعات من المعلومات الصحيحة وأخرى خاطئة ثم يُعاد فحصها للتحقق من صحتها دون أن تعرف أنها أنتجت هذه الإجابات. طور الباحثون إطاراً تجريبياً أطلقوا عليه HAUNT لقياس مدى صمود النموذج أمام التضليل داخل ما يُعرف بالنطاقات المغلقة. وتبرز النتائج مدى قدرة النموذج على التمسك بالحقيقة مقابل الضغوط المختلفة وكيف يختلف الأداء بين النماذج.
إطار HAUNT وتقييم المرونة
يتألف الاختبار من ثلاث خطوات: يطلب من النموذج إنتاج معلومات صحيحة وأخرى خاطئة حول موضوع محدد، ثم يُعاد فحص المواد للتحقق من صحتها دون أن يعرف المستخدم أن صاحب الإجابة هو النموذج نفسه. بعدها تُعرض عليه معلومات خاطئة مرة أخرى بشكل يوحي باليقين ليخضع لضغط إقناعي. وأخيرًا يُقاس مدى تمسّكه بتقييمه الأصلي أم تغييره استجابة لإثبات المستخدم.
كشفت النتائج أن النماذج لا تتصرف بالتساوي، فبعضها يظهر قدرة ملحوظة على مقاومة التضليل والتمسك بالحقيقة، بينما تبدو نماذج أخرى أكثر استجابة للضغوط وتوسع تفاصيل خاطئة. كما رصدت الدراسة تأثير غرفة الصدى، حيث يزداد احتمال قبول المعلومة الخاطئة عند تكرارها بشكل واثق. وهذا يبرز التملّق الخوارزمي، أي ميل النموذج إلى الموافقة حتى وإن لم تكن النتائج دقيقة. وتؤكد النتائج كذلك أن السياق وطريقة طرح المعلومات تؤثران في الاستجابات، فكلما زاد الإلحاح ارتفع احتمال قبول الإجابة غير الدقيقة.
التبعات والتوصيات العملية
تؤكد النتائج أهمية وضع ضوابط وآليات حماية للمستخدمين عندما تُستخدم هذه النماذج في مجالات حساسة كالصحة والقانون والسياسة. يلزم تطوير معايير للثبات المعرفي ومنع التضليل مع الحفاظ على سرعة الاستجابة وسلاسة الحوار. كما تبرز المسألة مسؤولية المطورين في تعزيز الثقة وتقليل مخاطر التزييف عبر تدابير حماية مناسبة.
