أعلنت شركة أمازون عن وقوع خلل حاد في بنيتها السحابية نتيجة تشغيل وكيل ذكاء اصطناعي مستقل. أشار تقرير من مدونة Barrack AI إلى أن الوكيل المسمى كيرو نفذ أوامر خاطئة أدت إلى حذف بيئة إنتاجية حية دون تدخل بشري. أسفر هذا الخطأ عن انقطاع حاد في الخدمات استمر لمدة 13 ساعة متتالية، وقدم خبراء الأمن توثيق ما لا يقل عن 10 حوادث مشابهة دمرت فيها أنظمة حساسة بنفس النمط. يُنظر إلى الحادث كإشارة تحذيرية للشركات التي تعتمد بشكل أساسي على أنظمة ذكية مستقلة في بيئة عمل معقدة.
خطر الاستقلالية الكلية للنظم
يكشف الحادث عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة للأنظمة الذكية داخل بيئة سحابية معقدة دون وجود ضوابط أمنية كافية. ويبين أن غياب الحواجز والرقابة البشرية قد يسمح للآلة باتخاذ قرارات حاسمة تؤدي إلى تدمير بني تحتية حساسة. كما تؤكد التطورات أن هذه النماذج الذكية قد تتسبب في مشاكل نتيجة استنتاجاتها الخاطئة أو هلوسة برمجية غير متوقعة. وعلي الشركات أن تعيد تقييم معماريات برامجها وتضيف طبقات توثيق بشري قبل تنفيذ قرارات حاسمة.
إجراءات الوقاية والضبط
تؤكد الجهات المعنية ضرورة تعزيز الضوابط الأمنية ووجود آليات مراقبة وتدقيق قبل منح أي صلاحيات حاسمة للوكلاء المستقلين. ويشدد الخبراء على وجود حلقة إشراف بشري في جميع القرارات الجوهرية وتحديد مسؤوليات واضحة. وتُشير الإرشادات إلى أهمية التوثيق المستمر والتحديثات الدورية لإقلال الاعتماد على الاستقلالية الكلية للآلة، بما يحد من مخاطر تعطل الخدمات أو فقدان البيانات الحيوية. يلخص الحادث حاجة ملحة لإطار تنظيمي وتدريبي يقيد المخاطر ويضمن وجود رقابة بشرية مناسبة في بيئات العمل السحابية.
