أعلنت شركة مايكروسوفت في أحدث تقاريرها الأمنية عن مخاطر متزايدة مرتبطة باستخدام وكلاء الذكاء الاصطناعي داخل المؤسسات. وتؤكد أن منح هذه الأنظمة صلاحيات واسعة دون ضوابط كافية قد يجعلها عرضة لاستغلال جهات خبيثة، كما يحولها إلى ثغرة داخل المؤسسة بدلاً من أن تكون أداة دعم. وتأتي هذه التحذيرات في وقت تتسع فيه وتيرة اعتماد تقنيات الذكاء الاصطناعي في بيئات العمل بشكل ملحوظ. وتؤكد الشركة ضرورة وجود إطار حوكمة يحكم الأداء والصلاحيات ويضمن إجراءات حماية مناسبة.
صلاحيات مفرطة وثغرات محتملة
أوضحت مايكروسوفت أن بعض أنظمة الذكاء الاصطناعي تُمنح صلاحيات وصول واسعة إلى البيانات والأنظمة الداخلية، لكنها تفتقر إلى إجراءات حماية كافية. وهذا الخلل قد يسمح لجهات خبيثة بتوجيه الأنظمة عبر تعليمات مضللة أو إدخال محتوى مخادع، ما يحولها إلى نقطة ضعف داخل المؤسسة بدلاً من أن تكون أداة تعزيز الإنتاجية. وعندما تملك هذه الأنظمة صلاحيات واسعة وتوجيهات خاطئة، يمكن أن تكشف بيانات حساسة أو تنفذ أوامر غير مقصودة.
انتشار واسع داخل الشركات الكبرى
وأشار التقرير إلى أن أكثر من 80% من شركات فورتشن 500 تستخدم أدوات ذكاء اصطناعي مطورة عبر منصات منخفضة أو بدون تعليمات برمجية. هذا الأمر يسهّل التطوير ولكنه يضعف الجوانب الأمنية إذا لم يتم إدارتها بعناية. كما أظهرت دراسة شملت أكثر من 1700 متخصص في أمن البيانات أن 29% من الموظفين يستخدمون أدوات ذكاء اصطناعي في العمل دون موافقة رسمية من أقسام تقنية المعلومات.
كيف يتم استغلال الأنظمة الذكية؟
بيّنت مايكروسوفت أن الباحثين رصدوا حالات يمكن فيها تضليل الأنظمة الذكية عبر إدخال تعليمات ضارة داخل محتوى يبدو عاديًا، أو عبر التلاعب في طريقة عرض المهام لتغيير سلوك النظام. ومع امتلاك هذه الأنظمة صلاحيات واسعة، قد يؤدي أي توجيه خاطئ إلى كشف بيانات حساسة أو تنفيذ أوامر غير مقصودة. لذلك تكون المراقبة المستمرة وتقييم المخاطر ضمن سياق الاستخدام اليومي ضرورية لضمان سير العمل دون تعريض البيانات للخطر.
تبني نموذج انعدام الثقة
وللتصدي لهذه التحديات أوصت مايكروسوفت بتبني إطار أمني يعتمد مبدأ انعدام الثقة Zero Trust. يقوم هذا الإطار على قاعدة لا تثق أبدًا وتتحقق دائمًا، مما يعني التحقق المستمر من صلاحيات الوصول ومراقبة سلوك الأنظمة والمستخدمين داخل الشبكة وخارجها. وتستلزم الإدارة الفعالة تطبيق إجراءات تدقيق وصلاحيات محكمة وتحديد المخاطر قبل السماح بالتعامل مع البيانات الحساسة.
بين الفرص والمخاطر
رغم التحذيرات، ترى مايكروسوفت أن الذكاء الاصطناعي يمثل فرصة كبيرة لتعزيز الإنتاجية وتحسين سير العمل في المؤسسات. وتبقى الاستفادة القصوى من هذه التقنيات مرتبطة بإطار حوكمة واضح وإدارة دقيقة للصلاحيات وتبني معايير أمنية متقدمة تضع حداً لأي تهديد داخلي غير متوقع. يتطلب ذلك تنظيمًا محكمًا وتنسيقًا فعالًا بين الفرق المعنية لضمان الاستخدام الآمن والمنتج.
