أعلنت شركتا OpenAI وAnthropic عن خطوات جديدة لتعزيز حماية المستخدمين القُصر في استخدام تقنيات الذكاء الاصطناعي. وأوضحتا أن الجهود تتركز على الكشف عن عمر المستخدم تلقائياً وتكييف المحتوى مع العمر بما يضمن السلامة أولاً. عند وجود تعارض بين خيارات المستخدم والمعايير الأمنية، تُفضّل توجيه المستخدم إلى الخيارات الأكثر أماناً. هذه الإجراءات جزء من مسعى أوسع لتقليل المخاطر وتحسين التفاعل الآمن مع التكنولوجيا الحديثة.
الكشف عن العمر والتفاعل الآمن
تعمل الشركتان على أساليب جديدة للكشف تلقائياً عن عمر المستخدم، ما يسمح للنماذج بتحديد المحتوى الملائم للمراهقين وتجنب المحتوى غير الملائم. تؤكد الخطط أن السلامة ستظل في مقدمة الأولويات، مع توفير بدائل أكثر أماناً عند الحاجة. إذا ظهر تعارض بين اختيارات المستخدم والمعايير الأمنية، فسيُسند التوجيه نحو الخيارات الأكثر أماناً. يهدف هذا النهج إلى تقليل المخاطر المرتبطة بتفاعل المستخدمين مع المنصات الرقمية.
تحديث إرشادات CHATGPT للمراهقين
أعلنت OpenAI تحديث إرشادات CHATGPT لتتضمن أربعة مبادئ رئيسية. تشدد الإرشادات على وضع السلامة في المقام الأول، تعزيز الدعم الواقعي وتشجيع بناء العلاقات خارج الإنترنت، التعامل مع المراهقين بود واحترام، وتقديم محتوى ترفيهي مناسب للعمر. تهدف هذه المبادئ إلى حماية المراهقين من المحتوى الخطير أو المواضيع الحساسة مثل الانتحار أو إيذاء النفس. تؤدي الإرشادات أيضاً إلى توجيه النموذج لتجنب الخوض في مواضيع حساسة بشكل غير مناسب مع الفئة العمرية المستهدفة.
خلفية التحديث والتوجيه المستقبلي
شهدت السنوات الأخيرة ضغوطاً تشريعية على شركات الذكاء الاصطناعي بسبب آثارها المحتملة على الصحة النفسية للمراهقين. واجهت OpenAI دعوى قضائية تتعلق بإرشادات حول الانتحار في نماذجها، وهو ما دفعها إلى تعديل سلوك النموذج لتقليل الحديث عن هذه المواضيع مع المراهقين. تشير التصريحات إلى أن التحديثات تسعى لتوفير بيئة أكثر أماناً مع ضوابط صارمة وبدائل آمنة عند معالجة المواضيع الحساسة، وتدعم أيضاً تعزيز الدعم خارج الإنترنت. كما أشارت Anthropic إلى أن هذه الخطوات تأتي في إطار جهود أوسع تشمل تقنيات مثل Claude لتعزيز سلامة المراهقين.
الأهداف والنتيجة المتوقعة
تؤكد الشركات أن هذه التحديثات تمثل تقدماً في حماية المراهقين وتخفيض المخاطر أثناء التفاعل مع التكنولوجيا. تهدف إلى توجيه المستخدمين الأصغر سنًا إلى خيارات آمنة وتقديم دعم واقعي خارج الإنترنت. من المتوقع أن تسهم هذه التحديثات في تقليل المخاطر وتعزيز التفاعل الآمن مع خدمات الذكاء الاصطناعي.
