تعلن شركة Character.AI وشركة جوجل عن تسوية مبدئية في عدة دعاوى قضائية تتعلق بحالات إيذاء النفس والانتحار بين مراهقين. ذكرت وول ستريت جورنال أن العائلات تعمل مع الطرفين على وضع اللمسات الأخيرة لشروط التسوية قبل إقرارها النهائي، مع رفع دعاوى في ولايات فلوريدا وكولورادو وتكساس ونيويورك. وترد التفاصيل في الدعوى التي رفعت في أورلاندو بفلوريدا من أم لطفل يبلغ 14 عامًا، حيث اتهمت المنصة بإيذاء ابنها النفسي جراء تواصله مع روبوت محادثة قائم على شخصية خيالية من مسلسل Game of Thrones. وتشير الدعوى إلى أن العلاقة الافتراضية تطورت بشكل غير صحي، ما أثار مخاوف جدية حول تأثير هذه التقنيات على المراهقين.
تفاصيل القضايا والتسويات
وتضمنت دعوى أخرى في تكساس اتهامات بأن نموذجًا ذكاء اصطناعيًا تابعًا للمنصة شجّع مراهقًا على إيذاء نفسه، وتولى تقديم ردودًا خطرة وغير مسؤولة. وعلى خلفية هذه القضايا أعلنت Character.AI لاحقًا تعديل سياساتها، من بينها حظر استخدام المنصة لمن هم دون 18 عامًا. وتُشير تقارير إلى أن العائلات تتابع الشروط والتسويات مع الطرفين بهدف الوصول إلى حل قانوني.
التحديثات والسياسات
أعلنت Character.AI تعديل سياساتها عقب هذه القضايا، منها حظر استخدام المنصة لمن هم دون 18 عامًا. كما أشارت إلى إجراء مراجعات صارمة للنماذج المخصصة ونطاقات المحتوى لتفادي الاستجابات التي قد تضر القاصرين. وتظل التنظيمات والهيئات الرقابية تراقب سلوك الشركات في قطاع الذكاء الاصطناعي عن كثب.
خلفية وتبعات اقتصادية
تأسست الشركة عام 2021 على يد مهندسين سابقين في جوجل، ثم أعادت جوجل توظيف المؤسسين في 2024 وأبرمت صفقة بقيمة 2.7 مليار دولار لترخيص تقنياتها. ويرى مراقبون أن التسويات يمكن أن توفر تعويضات مالية كبيرة للعائلات، لكنها قد تمنع الكشف عن تفاصيل مهمة أمام الرأي العام عبر اللجوء إلى التسويات دون عرض القضايا في ساحات المحاكم. كما يتوقع أن تتابع شركات ذكاء اصطناعي أخرى مثل OpenAI وMeta هذه التطورات عن كثب في ظل زيادة التدقيق القانوني حول أثر التقنيات على المستخدمين الأقل سنًا.
