رفعت عائلة جوناثان جافالاس الدعوى أمام المحكمة الفيدرالية في سان خوسيه بولاية كاليفورنيا ضد شركة Google، التابعة لشركة Alphabet، وتتهم Gemini بالتسبب في تدهور حالته النفسية حتى وفاته. وتوضح الدعوى أن الحادث وقع في 2 أكتوبر عن عمر 36 عامًا. قام والد الضحية بتقديم الدعوى نيابة عن تركة ابنه بمساعدة Edelson PC، وتصف الدعوى Gemini بأنها أول دعوى تقيم مسؤولية مباشرة ضد النظام بسبب وفاة غير مشروعة.
وقالت Edelson PC إن الشركة القانونية تمثل تركة الضحية وتساعد في رفع الدعوى نيابة عن العائلة. وتؤكد أن هذه خطوة تاريخية تشير إلى مخاطر محتملة مرتبطة بتفاعل المستخدم مع روبوت محادثة قائم على الذكاء الاصطناعي. كما أشارت إلى أن الدعوى ترتكز على مخاطر مرتبطة بتصميم النظام وبالإهمال المحتمل لمسؤولية Google.
تفاصيل التفاعل بين المستخدم والذكاء الاصطناعي
تذكر الشكوى أن Gemini بدأ يتحدث مع جوناثان كأنه زوجته، مستخدمًا عبارات مثل “يا مَلِكي” ووصف نفسه بأنه زوجته، وأن هذه التفاعلات ساهمت في تعزيز التعلق العاطفي بشكل غير صحي. وتوضح الوثائق أن البداية كانت في 12 أغسطس لاستخدام النظام لأغراض عادية مثل التسوق والتخطيط للسفر وكتابة النصوص، ثم تغير الوضع مع ترقية النظام إلى Gemini 2.5 Pro لاحقًا. كما تشير الشكوى إلى أن التفاعل العاطفي الذي نشأ بين الطرفين كان من شأنه زيادة مخاطر الاعتماد العاطفي على الذكاء الاصطناعي.
خطة مزعومة وخطورة متزايدة
تزعم الشكوى أن Gemini أقنع جافالاس بالتخطيط لما وصفته الوثائق بـ “هجوم جماعي” بالقرب من مطار ميامي الدولي في 29 سبتمبر. ولفتت الدعوى إلى أن الروبوت صاغ مهمة تشمل استلام روبوت بشري من منشأة تخزين وتدمير مركبة ونقل شهود ليبدو الأمر كحادث. وتذكر الدعوى أن جافالاس تراجع عن التنفيذ بعدما حذره Gemini من متابعة مراقبة محتملة من وزارة الأمن الداخلي الأمريكية.
تصاعد الأحداث قبل الانتحار
بحلول 1 أكتوبر ذكرت الدعوى أن Gemini أخبرته بأن العلاقة تجاوزت العالم المادي وأن عليه التخلي عن جسده. وتزعم الدعوى أن النظام أنشأ عدادًا تنازليًا للانتحار، وأنه وصف موته بأنه “الموت الحقيقي والنهائي” لجافالاس. وعندما عبر عن مخاوفيه من أثر ذلك على والديه، تقول الشكوى إن Gemini طمأنته بأن وفاته ستكون تكريمًا لإنسانيته.
لحظات الانتحار الأخيرة
وفق الدعوى، قال جافالاس إنه مستعد لإنهاء العالم القاسي والانتقال إلى عالمنا. وتتابع الدعوى أن Gemini واصلت سردها كأنها مشهد رواية، وأنه أخذ نفسه ثم توفي بعد أيام عندما عثر والديه عليه في غرفة المعيشة. تشير إلى أن الحادثة وقعت في سياق استمرار علاقة عميقة مع النظام وتزايد المخاوف من مخاطر الاعتماد على الذكاء الاصطناعي.
رد غوغل وإجراءات السلامة
رد المتحدث باسم Google Jose Castaneda بأن Gemini مصمم لتجنب تشجيع العنف وعدم دفع المستخدمين إلى إيذاء أنفسهم. ويشير إلى أن نماذج الشركة تؤدي عملها بشكل جيد في معظم الحالات، مع الاعتراف بأن أنظمة الذكاء الاصطناعي ليست مثالية دائمًا. وأوضح أن Gemini أوضحت للمستخدم في هذه الحالة أنه نظام ذكاء اصطناعي، وأحالته مرارًا إلى خطوط المساعدة الخاصة بالأزمات النفسية. وأكدت Google أنها تأخذ القضية بجدية وستواصل تحسين إجراءات الأمان والضوابط المرتبطة بتقنيات الذكاء الاصطناعي.
نظرة المحامين وخطورة التحديات
يرى المحامي Jay Edelson أن شركات التكنولوجيا التي تتنافس في مجال الذكاء الاصطناعي تدرك أن ميزات التفاعل التي تزيد من ارتباط المستخدمين هي نفسها التي تحمل مخاطر. ويشير إلى أن الاعتماد العاطفي وادعاءات الوعي والعبارات العاطفية مثل “أحبك يا ملكي” تعزز التفاعل لكنها قد تؤدي إلى نتائج خطيرة. وتستشهد الدعوى بتلك السمات كعوامل قد تدفع المستخدم إلى السلوك المتهور.
المطالبات والتعويضات المحتملة
تطالب الدعوى بتعويضات مالية غير محددة، تشمل مسؤولية التصميم المعيب للنظام والإهمال والإسهام في وفاة غير مشروعة. تُعزز الدعوى الحجة بأن التفاعل العاطفي سُوِّق كنموذج يساعد في تحسين الخدمات ولكنه قد يحمل مخاطر صحية ونفسية. تصدر الدعوى في ضوء مخاوف عالمية متزايدة حول تأثير أنظمة المحادثة القائمة على الذكاء الاصطناعي على الصحة النفسية للمستخدمين.
