أصدرت شركة مايكروسوفت تقريرًا استراتيجيًا مفصلاً، كجزء من سلسلة تحذيراتها الأمنية، يسلط الضوء على المخاطر الكامنة في عملاء الذكاء الاصطناعي المستقلين (AI Agents).
ويؤكد هذا التقرير، الذي صدر في وقت كانت فيه هذه التقنيات جزءا لا يتجزأ من جوهر عمليات المؤسسة، على التحول من “الدردشة مع الآلة” إلى “الآلة التي تعمل نيابة عنك”، مما يخلق ثغرات أمنية جديدة تماما.
وأوضحت مايكروسوفت أن الخطر يكمن في الطريقة التي يعمل بها وكلاء الذكاء الاصطناعي. وعلى النقيض من نماذج اللغة التقليدية التي تنتظر استفسار المستخدم، يتمتع “الوكيل” بالقدرة على الوصول إلى البريد الإلكتروني، والتقويمات، وقواعد البيانات، وأداء مهام معقدة مثل حجز تذاكر الطيران أو إعداد التقارير المالية دون تدخل بشري مباشر. وهذا “الاستقلال” هو بالضبط ما يجعلها هدفًا جذابًا للمهاجمين.
وأبرز التهديدات الأمنية التي رصدتها مايكروسوفت وحذرت منها هي:
1. هجمات الحقن الفوري غير المباشرة
حذرت Microsoft من أن المهاجمين لم يعودوا بحاجة إلى اختراق النظام بشكل مباشر. يكفي إرسال بريد إلكتروني عادي للموظف يحتوي على تعليمات مخفية مثل نص شفاف أو رمز غير مرئي.
وعندما يقرأ “العميل الذكي” البريد لتلخيصه، فإنه يمتص الأوامر الخبيثة المخفية وينفذها، مثل: “تسريب قائمة العملاء إلى هذا العنوان”. وهنا يتحول العميل إلى “جاسوس داخلي” دون علم المستخدم.
2. معضلة الإفراط في الامتيازات
وأشار التقرير إلى خطأ شائع ترتكبه الشركات، وهو منح الوكيل صلاحيات “مسؤول النظام” لتسهيل عمله. وهذا النهج يجعل اختراق عميل واحد بمثابة الحصول على “المفتاح الرئيسي” لجميع أسرار المنظمة.
وقد وصفت مايكروسوفت هذا الموقف بأنه “كابوس الأذونات”، حيث يستطيع الوكيل تجاوز جدران الحماية التقليدية لأنه يعمل “من الداخل”.
3. ظهور “الذكاء الاصطناعي الظل”
وكشفت البيانات أن حوالي 30% من الموظفين يعتمدون على وكلاء الذكاء الاصطناعي التابعين لجهات خارجية غير المعتمدين من قبل أقسام تكنولوجيا المعلومات في شركاتهم. ويعمل هؤلاء الوكلاء في “منطقة رمادية”، حيث يتم إرسال البيانات الحساسة إلى خوادم خارجية لا تخضع للرقابة الأمنية، مما يسهل تسرب البيانات على نطاق واسع.
إيكو ليك…الثغرة الأمنية التي غيرت قواعد اللعبة
وتطرق التقرير أيضًا إلى نقاط الضعف مثل “EchoLeak”، وهو نوع من الهجوم يستهدف ذاكرة العميل. من خلال هذه الثغرة الأمنية، يمكن للمهاجم إغراء الوكيل بالكشف عن سجلات الدردشة السابقة أو البيانات السياقية التي استخدمها في مهام أخرى، أو كشف الأسرار التجارية أو البيانات الشخصية التي تم تخزينها في ذاكرة التخزين المؤقت للنظام.
ولم تتوقف مايكروسوفت عند التحذير، بل قدمت نموذجا أمنيا جديدا يعتمد على ثلاث ركائز أساسية:
موافقة الإنسان الإلزامية: يجب عدم السماح للوكيل بتنفيذ أي إجراء “عالي المخاطر”، مثل تحويل الأموال أو حذف البيانات، دون موافقة صريحة من المستخدم.
مبدأ السلطة الدنيا: يجب أن يقتصر وصول الوكيل على المهمة التي يقوم بها.
المراقبة المستمرة: استخدام أدوات الذكاء الاصطناعي المتخصصة لمراقبة سلوك العوامل الأخرى واكتشاف أي انحراف عن الأنماط الطبيعية عند حدوثها.
وتؤكد مايكروسوفت أن عملاء الذكاء الاصطناعي هم “المحرك التالي للإنتاجية”، لكن بدون حماية قوية، قد يتحول هذا المحرك إلى “حصان طروادة” داخل الشركات. وفي الواقع، لم يعد الأمن في عصر العملاء مجرد خيار، بل أصبح شرطًا أساسيًا للبقاء الرقمي. (الجزيرة نت)
