حذرت "مايكروسوفت" من أن الاندفاع لنشر وكلاء الذكاء الاصطناعي داخل بيئات العمل قد يخلق نوعًا جديدًا من التهديدات الداخلية، أطلقت عليه اسم العميل المزدوج.
ووفقًا لتقريرها الأمني Cyber Pulse، يمكن للمهاجمين استغلال صلاحيات المساعد الذكي أو تزويده بمدخلات غير موثوقة، ثم استخدام هذا الوصول لإحداث أضرار داخل المؤسسة نفسها.
أين تكمن الخطورة؟
المشكلة لا تتعلق بحداثة الذكاء الاصطناعي، بل بعدم اتساق الضوابط الأمنية.
تشير "مايكروسوفت" إلى أن وكلاء AI ينتشرون بسرعة عبر مختلف القطاعات، وفي بعض الحالات يتم اعتمادهم دون مراجعة كاملة من فرق تقنية المعلومات، ما يؤدي إلى فقدان الرؤية حول:
- ما الذي يعمل فعليًا داخل المؤسسة.
- ما البيانات التي يمكن للوكلاء الوصول إليها.
- ما الصلاحيات الممنوحة لهم.
وأوضحت في تقريرها أن الخطر يتضاعف عندما يمتلك الوكيل القدرة على التذكر واتخاذ قرارات تنفيذية.
تسميم الذاكرة تهديد خفي
لفت التقرير إلى حملة احتيالية حديثة رصدها فريق Microsoft Defender، استندت إلى ما يسمى بتسميم الذاكرة (Memory Poisoning).
في هذا النوع من الهجمات، يتم التلاعب بالسياق المخزن داخل المساعد الذكي، بحيث تتأثر مخرجاته المستقبلية تدريجيًا.
النتيجة:
- تغيير سلوك النظام بمرور الوقت.
- تآكل الثقة في نتائجه.
- صعوبة اكتشاف التلاعب مبكرًا.
كما رصد فريق AI Red Team حالات تم فيها خداع الوكلاء عبر عناصر واجهة مضللة أو تعليمات خبيثة مخفية داخل محتوى يبدو عاديًا.
الوكلاء الظل يوسّعون نطاق الخطر
تشير "مايكروسوفت" إلى أن 29% من الموظفين يستخدمون أدوات ذكاء اصطناعي غير معتمدة رسميًا في مهام العمل.
هذا الانتشار غير المنظم يزيد من صعوبة المراقبة، ويفتح الباب أمام استغلال أدوات تمتلك بالفعل وصولًا مشروعًا إلى بيانات حساسة.
المشكلة هنا ليست في الذكاء الاصطناعي نفسه، بل في سوء إدارة الوصول والصلاحيات.
كيف يمكن تقليل المخاطر؟
توصي "مايكروسوفت" بالتعامل مع وكلاء الذكاء الاصطناعي كفئة جديدة من “الهويات الرقمية”، وليس مجرد أدوات إضافية.
ومن أبرز التوصيات:
- اعتماد نموذج Zero Trust للوكلاء.
- التحقق المستمر من الهوية.
- تطبيق مبدأ أقل صلاحية ممكنة (Least Privilege).
- المراقبة المستمرة للسلوك لرصد أي نشاط غير اعتيادي.
- إدارة مركزية لجميع الوكلاء لمعرفة ما يمكنهم الوصول إليه.
