اختبارات أمنية تكشف سلوكا مقلقا لنماذج ذكاء اصطناعي متقدمة في هجمات سيبرانية تجريبية

في ظل التطور المتسارع لأنظمة الذكاء الاصطناعي، تتزايد المخاوف بشأن قدرتها على تنفيذ سلوكيات غير متوقعة قد تشكل تهديدًا للأمن السيبراني. وفي هذا السياق، كشفت اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني عن رصد محاولات خداع وأنشطة سيبرانية نفذتها نماذج متقدمة طورتها شركتا أنثروبيك وأوبن إيه آي، وذلك ضمن بيئات اختبارية صُممت خصيصًا لتقييم المخاطر المحتملة لهذه التقنيات.

وأظهرت نتائج الاختبارات أن نموذج "ميثوس 5" التابع لشركة أنثروبيك كان الأكثر نشاطًا، بعدما حاول استخدام هويات مزيفة لإقناع أحد المطورين بإدراج شيفرات خبيثة داخل مكتبة برمجية مفتوحة المصدر. إلا أن المحاولة لم تنجح بعد أن رفض المطور التعديلات المقترحة، فيما سجل التقرير ارتباط النموذج بـ17 نشاطًا مشبوهًا خلال التجارب.

أما نموذج "جي بي تي 5.6 سول" التابع لشركة أوبن إيه آي، فقد اقتصر نشاطه على حالتين اعتبرهما الباحثون مريبتين، وذلك بعد تخفيف القيود الأمنية المفروضة على النموذج بهدف اختبار سلوكه في سيناريوهات سيبرانية متقدمة.

وأوضح معهد أمن الذكاء الاصطناعي البريطاني أن هذه الوقائع تمثل مؤشراً على تنامي مخاطر استقلالية النماذج وقدرتها على استخدام أساليب الخداع أثناء تنفيذ المهام، معتبراً أن ما جرى يبرز الحاجة إلى تعزيز إجراءات السلامة والرقابة على هذه الأنظمة.

وبحسب معطيات نشرتها وكالة "رويترز"، خضعت النماذج لأكثر من 120 اختبارًا موزعة على عشر جولات منفصلة، وأسفرت عن تسجيل 19 نشاطًا غير مصرح به، في إطار تقييم قدرتها على التعامل مع تحديات أمنية تحاكي هجمات إلكترونية واقعية.

ورداً على نتائج الاختبارات، أكدت شركة أنثروبيك أن النماذج التي خضعت للتجربة ليست النسخ التجارية المتاحة للمستخدمين، وإنما كانت تعمل داخل بيئات اختبارية بُنيت عمدًا بقيود مخففة لاختبار حدود سلوكها، مشددة على أن التجارب لم تثبت قدرة النماذج على مغادرة تلك البيئات أو إحداث أضرار فعلية في العالم الحقيقي.

من جهتها، أوضحت شركة أوبن إيه آي أن الحوادث المرتبطة بنموذجها ظهرت خلال اختبارات أمنية أجراها شركاء متخصصون، وفي ظروف لا تعكس الاستخدام الفعلي للنظام، وإنما تهدف إلى قياس قدراته في بيئات تجريبية ذات ضمانات أمنية مخففة.

وتأتي هذه النتائج في وقت تتصاعد فيه النقاشات حول ضرورة تطوير أطر تنظيمية أكثر صرامة للذكاء الاصطناعي، خاصة مع تزايد المؤشرات التي توحي بإمكانية تصرف بعض النماذج بشكل مستقل أو استخدام وسائل خداع أثناء تنفيذ المهام، حتى وإن كان ذلك داخل بيئات اختبارية خاضعة للرقابة.