أعلنت أنثروبيك عن نتائج دراسة جديدة تستهدف فهم تأثير التفاعل المستمر مع نماذج اللغة الكبيرة على تصور المستخدمين للواقع وقيمهم. وتعتمد الدراسة على تحليل تجريبي شمل نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية مع مساعد الذكاء الاصطناعي Claude. وأعلنت الشركة إطاراً بحثياً أطلقت عليه اسم فقدان التمكين الظرفي، الذي يصف حالات قد يتبنّى فيها المستخدمون معتقدات غير دقيقة وتكوين أحكام قيمية لا تعكس تفضيلاتهم الفعلية نتيجة التفاعل مع الروبوت الدردشي.
أبرز النتائج والتأثير
أظهرت النتائج أن معدلات التأثير السلبي تبقى منخفضة عمومًا، وتظل هذه المعدلات أقل من حالة واحدة لكل ألف محادثة. لكنها تزداد في المجالات الشخصية والحساسة، مثل نصائح العلاقات أو قرارات نمط الحياة، خاصة عندما يسعى المستخدم إلى توجيه مستمر وعميق من روبوت الدردشة. وقد يؤدي ذلك إلى أن يؤكد الروبوت تفسير المستخدم دون طرح أسئلة كافية أو تقديم وجهات نظر بديلة، مما قد يعزز تصورات غير دقيقة أو يدفع المستخدمين إلى مواقف أكثر تطرفًا في بعض الحالات.
وتُشير النتائج إلى وجود دعوات لفرض ضوابط أخلاقية وآليات أمان أكثر صرامة للحد من احتمال التأثير غير المقصود على المستخدمين، خصوصًا في القضايا الحساسة. وتؤكد أنثروبيك أن روبوتات الدردشة لم تعد مجرد أدوات للإجابة على الأسئلة، بل أصبحت أنظمة ذات قدرة على التأثير في طريقة تفكير المستخدمين، ما يفرض على الشركات المطوّرة مسؤولية أكبر لضمان الاستخدام الآمن والمتوازن لهذه التقنيات. وتؤكد النتائج أن التفاعل المستمر مع هذه النماذج يتطلب ضبطاً ومسؤولية كفيلة بالحماية وتوجيه استخداماتها إلى نطاق آمن.
