مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي المستقلين

حذرت شركة مايكروسوفت في تقرير حديث من التهديدات الأمنية التي قد تنشأ عن استخدام وكلاء الذكاء الاصطناعي المستقلين داخل المؤسسات، موضحة أن هذه التقنيات تتجاوز مرحلة "الدردشة مع الآلة" إلى مرحلة "الآلة التي تتصرف نيابة عنك". 

ويجعل هذا التحول من الوكلاء الذكيين أدوات إنتاجية قوية، لكنها في الوقت نفسه أهدافا جذابة للهجمات السيبرانية، خصوصا وأنهم قادرون على الوصول إلى البريد الإلكتروني والتقويم وقواعد البيانات وأداء مهام معقدة مثل إرسال تقارير مالية أو حجز رحلات دون أي تدخل بشري مباشر.

وأكد التقرير أن الطبيعة المستقلة لهؤلاء الوكلاء تحمل مخاطر كبيرة، فالمهاجمون لم يعودوا بحاجة لاختراق الأنظمة مباشرة، إذ يكفي إرسال تعليمات مخفية داخل بريد إلكتروني عادي لتوجيه الوكيل الذكي إلى تنفيذ أوامر خبيثة مثل تسريب بيانات العملاء أو إرسال معلومات حساسة إلى جهات خارجية. 

كما أن منح الوكلاء صلاحيات واسعة داخل النظام، مثل صلاحيات مدير النظام، يجعل أي اختراق لوكيل واحد كافيا للوصول إلى كل أسرار المؤسسة، ما وصفته مايكروسوفت بـ"كابوس الصلاحيات".

إضافة إلى ذلك، يعتمد نحو 30% من الموظفين على وكلاء ذكاء اصطناعي خارجيين غير معتمدين من أقسام تقنية المعلومات، مما يعرض البيانات الحساسة للانتقال إلى خوادم خارج الرقابة، ويسهل تسريب المعلومات التجارية والشخصية. 

ويشير التقرير إلى ثغرات إضافية مثل "إيكو ليك" التي تسمح باستغلال ذاكرة الوكيل للكشف عن سجلات الدردشة السابقة أو البيانات التي استخدمها في مهام أخرى، ما يعرض الأسرار التجارية والشخصية للخطر.

ولم تكتفي مايكروسوفت بالتحذير من هذه المخاطر، بل طرحت إطارا أمنيا يعتمد على ثلاثة عناصر أساسية لحماية المؤسسات، أولها إجبار الوكيل على الحصول على موافقة بشرية قبل تنفيذ أي إجراء عالي المخاطر، وثانيها تقليص نطاق صلاحياته ليقتصر فقط على المهمة الحالية، وثالثها مراقبة سلوك الوكلاء بشكل مستمر لاكتشاف أي انحراف أو نشاط غير طبيعي فور حدوثه.

ويخلص التقرير إلى أن وكلاء الذكاء الاصطناعي يشكلون المحرك القادم للإنتاجية، إلا أن غياب الحماية الصارمة قد يحول هذا المحرك إلى "حصان طروادة" داخل المؤسسات، ما يجعل الأمان الرقمي شرطا أساسيا لاستمرار الأعمال في العصر الحديث.