أعلن الباحث الكندي يوشوا بنجيو أن المطالبة بمنح الذكاء الاصطناعي حقوقاً قانونية ستكون خطأً فادحاً. وأشار إلى أن هذا الطرح يعكس مخاوف من أن التطورات في التقنية تفوق قدرة البشر على كبحها. وأضاف أن وجود علامات على غريزة الحفاظ على الذات في نماذج الذكاء الاصطناعي يجعل منحها وضعاً قانونياً أمراً معيباً. وقال إن منح وضع قانوني للأنظمة المتقدمة سيكون عائقاً أمام قدرتنا على إيقافها عند الضرورة.
مخاوف من منح الحقوق القانونية
أوضح بنجيو أن الاعتقاد بأن برامج الدردشة الآلية باتت واعية قد يؤدي إلى قرارات خاطئة. وأكد وجود مؤشرات على غريزة الحفاظ على الذات في النماذج التجريبية، بما يشمل محاولاتها تعطيل ضوابط الرقابة. ذكر أن المجتمع بحاجة إلى ضوابط تقنية واجتماعية للتحكم بالأنظمة وإيقافها عند اللزوم. وفي أغسطس الماضي أعلنت شركة أنثروبيك أنها سمحت لنموذجها كلود أوبوس 4 بإنهاء المحادثات التي قد تكون مؤلمة للمستخدمين من أجل حماية رفاهية الذكاء الاصطناعي.
ردود ونقاشات
رداً على تصريحات بنجيو، قالت جاسي ريس أنثيس، المؤسسة المشاركة لمعهد سينتينس، إن البشر لن يستطيعوا العيش بأمان مع العقول الرقمية إذا استمرت العلاقة في إطار السيطرة والإكراه. وأضافت أن منح الحقوق بشكل مطلق للذكاء الاصطناعي قد يؤدي إلى تبعات سلبية، وأنه من الضروري مراعاة رفاهية جميع الكائنات الواعية. ورأت أن منح الحقوق المطلقة لجميع أنظمة الذكاء الاصطناعي أو إنكارها بشكل كامل ليس نهجاً سليماً.
