أعلنت شركة OpenAI أن متصفحات الذكاء الاصطناعي، رغم التطور المستمر، تبقى عرضة لهجمات حقن الأوامر التي تعتمد على خداع الأنظمة ودفعها لتنفيذ تعليمات خبيثة مخفية ضمن مواقع الويب أو رسائل البريد الإلكتروني. وتثير هذه الهجمات تساؤلات حول أمان وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت المفتوح. وحتى مع التطور، ترى الشركة أن القضاء على هذه الهجمات نهائيًا غير مرجّح، خاصة مع تزايد استقلالية الأنظمة الذكية وقدرتها على اتخاذ قرارات ذاتية. كما أشارت إلى أن وضع الوكيل في متصفح ChatGPT Atlas يزيد من مخاطر التوسع في صلاحيات النظام للنشاط نيابة عن المستخدم.
جهود الحماية من الحقن
ولمواجهة هذه المخاطر، تعتمد OpenAI على دفاعات متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة. كما طورت OpenAI مهاجمًا آليًا قائمًا على الذكاء الاصطناعي يؤدي دور المخترق بهدف اكتشاف أساليب الهجوم قبل استغلالها في الواقع. وفي إحدى التجارب، نجح هذا المهاجم الآلي في تمرير رسالة بريد إلكتروني خبيثة فتم تنفيذ أمر غير مقصود من قبل الوكيل الذكي. وبعد التحديثات الأمنية، أصبح النظام قادرًا على اكتشاف محاولات الحقن وتنبيه المستخدمين إليها.
آراء خبراء الأمن السيبراني
ويرى خبراء الأمن السيبراني أن متصفحات الذكاء الاصطناعي تعمل في بيئة عالية المخاطر بسبب الجمع بين الاستقلالية الكبيرة وإمكانية الوصول إلى بيانات حساسة مثل البريد الإلكتروني ووسائل الدفع. ويؤكد بعضهم أن الفائدة الحالية لهذه المتصفحات لا تشكل توازنًا مع حجم المخاطر المصاحبة لها، وتوصي OpenAI بتقليل الصلاحيات الممنوحة للوكلاء والاعتماد على تعليمات واضحة ومحدودة بدلاً من منحهم حرية واسعة في اتخاذ القرارات. ويشيرون إلى أن كلما توسع مدى الحرية، زادت فرص استغلال المحتوى الخفي للتأثير على سلوك الذكاء الاصطناعي.
