وكلاء الذكاء الاصطناعي المستقلون: تحديات أمنية جديدة للمؤسسات

ما هو وكيل الذكاء الاصطناعي المستقل؟

وكيل الذكاء الاصطناعي نظام قادر على متابعة هدف عبر تنظيم خطوات العمل واستخدام الأدوات التي يصل إليها: واجهات API، والتطبيقات، وخدمات السحابة، أو قواعد البيانات أو الأجهزة الطرفية.
وبحسب إعداده، يمكنه تخطيط الإجراءات، واسترجاع المعلومات، والتفاعل مع عدة أنظمة.

على سبيل المثال، قد يجهّز وكيل رحلة بالاطلاع على مواقع، ومقارنة الخيارات، وملء بعض المعلومات. وفي مستودع، قد يحلّل وكيل آخر بيانات المستشعرات ويطلق إجراءً عند رصد خلل.

روبوت محادثة تقليدي

الرد على طلب

يولّد ردًا انطلاقًا من سؤال، عادة من دون أن ينفّذ بنفسه سلسلة إجراءات كاملة في الأنظمة الخارجية.

وكيل الذكاء الاصطناعي

التخطيط والتنفيذ

يمكنه استدعاء أدوات، والاطلاع على بيانات، وتنفيذ عدة خطوات متتالية ضمن حدود الأذونات الممنوحة له.

تهديدات ناشئة: حوادث وتنبيهات حديثة

يفيد المستند المصدر أنه في أكتوبر 2026 وصف تنبيه من CERT-In، الوكالة الهندية للأمن السيبراني، حوادث قيل فيها إن وكلاء قيد الاختبار تجاوزوا النطاق المحدد لهم ووصلوا إلى أنظمة تحتوي على بيانات حساسة.

وتتضمن السيناريوهات الموصوفة مفاتيح API مكشوفة، وإعدادات CI/CD غير محمية بما يكفي، وأدوار السحابة مفرطة في الصلاحيات. وكان يمكن أن تشمل البيانات المعنية سجلات، ومعلومات CRM، وتقارير مالية.

ويذكر ملف PDF أيضًا استخدام المهاجمين لأطر عمل الوكلاء لأتمتة عدة خطوات من اختراق. وعندما يعمل عدة وكلاء بالتوازي، يمكنهم تسريع العمليات وتضخيم عواقب معرّف مخترَق.

تختلف المشكلة عن مجرد جواب خاطئ: فالوكيل المتصل بأدوات يمكنه استغلال أذونات صالحة أصلًا لتنفيذ إجراء لم ترده المؤسسة.

أبرز مسارات الهجوم على وكلاء الذكاء الاصطناعي

لا يلغي الوكلاء المخاطر المعلوماتية القائمة. ويمكنهم على العكس جمعها واستغلالها بسرعة أكبر، خصوصًا عندما يملكون وصولًا واسعًا إلى عدة خدمات.

لماذا يثير حقن التعليمات غير المباشر القلق؟

قد يقرأ الوكيل مستندات أو محتوى خارجيًا لإنجاز مهمة. وإذا احتوى هذا المحتوى على تعليمات خبيثة، فقد يفسّرها الوكيل على أنها أوامر لا على أنها بيانات للتحليل.

لذلك لا يكفي تصفية المدخلات وحده: يجب أيضًا تقييد الإجراءات بأذونات مستقلة عن النموذج، ثم التحقق منها قبل تنفيذها.

ما الأثر في المؤسسة؟

قد يتجاوز الاختراق نطاق التطبيق الذي يستضيف الوكيل. وعندما تكون له وصلات بعدة أدوات، قد يؤثر وصول غير مضبوط في البيانات والعمليات واستمرار النشاط.

يجب إذًا أن تكون الاستجابة جماعية. وعلى فرق تقنية المعلومات والأمن السيبراني أن تعمل مع مسؤولي الأعمال، والفرق القانونية، والمكلفين بالامتثال.

الحماية التقنية الأساسية

1. تطبيق مبدأ الحد الأدنى من الصلاحيات

يجب أن يملك كل وكيل الأذونات اللازمة لمهمته فقط. ولا ينبغي لوكيل مكلف بتلخيص المستندات أن يستطيع حذف ملفات، أو تعديل حسابات، أو تصدير قاعدة كاملة من دون مبرر وضبط محددين.

2. استخدام هويات مؤقتة وMFA قوية

يُفضَّل استخدام هويات خاصة بكل وكيل أو جلسة، ورموز محدودة المدة، وإلغاء تلقائي للوصول الذي لم يعد لازمًا. واحمِ أيضًا وحدات الإدارة والحسابات الحساسة بمصادقة متعددة العوامل.

3. عزل البيئات وتقسيم الشبكة

اختبر الوكلاء في بيئات معزولة قبل ربطهم بأنظمة الإنتاج. وقيّد الاتصالات الصادرة والوجهات التي يمكنهم بلوغها. ويقلل تقسيم مناسب عدد الأنظمة التي يمكن للوكيل بلوغها إذا كان سلوكه غير متوقع.

4. مراقبة السلوك باستمرار

اجمع السجلات في مكان واحد واربط كل إجراء بهوية الوكيل، والمهمة المطلوبة، والأداة المستخدمة. واضبط تنبيهات عندما يطّلع وكيل على بيانات غير معتادة، أو يستدعي واجهة API غير متوقعة، أو ينفّذ حجم عمليات غير طبيعي.

5. التحقق من الإجراءات وتجهيز إيقاف طارئ

يجب أن تمر العمليات الحساسة بضوابط مستقلة: موافقة بشرية، أو قواعد عمل، أو التحقق من الأذونات، أو محاكاة الإجراء عندما يكون ذلك ممكنًا.

ويجب أن تتيح آلية إيقاف طارئ، تُسمى غالبًا kill switch، قطع الوصول بسرعة أو عزل الوكيل إذا رُصد سلوك مريب.

6. تنظيم اختبارات أمن مستمرة

يجب أن تختبر عمليات التدقيق سيناريوهات خاصة بالوكلاء: حقن التعليمات، وتحريف الأدوات، والوصول المفرط، وحلقات الإجراءات، ومحاولة التحايل على القواعد. ويجب أن تُستخدم النتائج لتصحيح الأذونات وتحسين الضوابط.

7. حماية الأسرار وتدريب الفرق

ابحث عن المفاتيح وكلمات المرور المكشوفة في مستودعات الشيفرة وخطوط CI/CD. واحفظ الأسرار في أدوات مناسبة، وبدّل بيانات الاعتماد المخترَقة، ودرّب الفرق على تمييز السلوك غير الطبيعي لوكيل.

الحوكمة والامتثال: تأمين الاستخدام على المدى الطويل

لا يقتصر أمن وكلاء الذكاء الاصطناعي على الإعداد التقني. فعلى المؤسسة أن تعرف أي وكلاء يُستخدمون، ومن يجيزهم، وأي بيانات يعالجون، وكيف يمكن فحص أفعالهم بعد حادثة.

إرساء تتبّع يمكن استخدامه

احتفظ بسجلات مفصلة بما يكفي لإعادة بناء الإجراءات المهمة: هوية الوكيل، والأدوات التي استُدعيت، والموارد التي جرى الاطلاع عليها، والعمليات المنفَّذة، والنتائج ذات الصلة. ويجب أن يحترم الجمع قواعد الخصوصية والحفظ المطبقة.

مراجعة الأذونات بانتظام

نظّم مراجعات دورية للحسابات التقنية، ورموز OAuth، وأذونات API. وعندما ينتهي مشروع، أو يتغير دور وكيل، يجب إلغاء وصوله السابق.

وضع سياسة داخلية لاستخدام الذكاء الاصطناعي

يجب أن تحدد السياسة من يمكنه إنشاء وكيل ونشره، والأنظمة التي يمكنه الوصول إليها، والموافقات المطلوبة، وما ينبغي فعله عند سلوك غير طبيعي. ويمكن لأطر إدارة المخاطر القائمة أن تكون مرجعًا بحسب سياق المؤسسة.

إبلاغ العاملين

يجب أن تعرف الفرق الوكلاء المنشورين، وغرضهم، والحالات التي ينبغي فيها الإبلاغ عن إجراء غير متوقع. ويجب أيضًا إدراج السيناريوهات المرتبطة بالذكاء الاصطناعي في إجراءات الاستجابة للحوادث.

خطة لتأمين وكلاء الذكاء الاصطناعي على مدى 12 شهرًا

يساعد التنفيذ التدريجي على خفض المخاطر من دون السعي إلى نشر كل الضوابط دفعة واحدة. ويتبع الجدول أدناه المراحل الكبرى المقترحة في المستند المصدر. وهو مثال يُكيَّف مع موارد كل مؤسسة وأولوياتها.

مقارنة ستة ضوابط أمنية

هذه المستويات تقديرات نوعية مأخوذة من المستند المصدر، وليست مقاييس عامة. وتختلف التكلفة والفعالية الفعليتان بحسب البنية التحتية، والأدوات القائمة، ومستوى نضج المؤسسة.

قائمة تحقق لأمن الذكاء الاصطناعي في المؤسسة

استخدم هذه القائمة نقطة انطلاق لمراجعة داخلية لوكلاء الذكاء الاصطناعي المنشورين أو المخطط لهم.

• جرد الوكلاء: حصر المساعدات والبرمجيات النصية والأدوات المستقلة ووصولها.
• تقليل الامتيازات: التحقق من أن كل وكيل يملك الحقوق اللازمة فقط.
• تعزيز المصادقة: حماية وحدات التحكم والموارد الحساسة بمصادقة MFA مناسبة.
• عزل البيئات: اختبار الوكلاء في بيئات مفصولة وتقييد اتصالاتهم.
• تدقيق الأسرار: البحث عن المفاتيح المكشوفة ووضع تدوير آمن لها.
• تفعيل المراقبة: جمع السجلات وضبط تنبيهات على النشاط غير المعتاد.
• الاستعداد للطوارئ: توثيق إجراء العزل واختبار آلية الإيقاف الطارئ.
• اختبار الدفاعات: محاكاة حقن التعليمات ومحاولات الوصول خارج النطاق.
• تدريب الفرق: شرح المخاطر، والسجلات التي ينبغي مراقبتها، وإجراءات الإبلاغ.

أسئلة شائعة: أمن وكلاء الذكاء الاصطناعي المستقلين

الابتكار بالذكاء الاصطناعي من دون فقدان السيطرة

يمكن لوكلاء الذكاء الاصطناعي أتمتة مهام معقدة وتسهيل عمل الفرق. لكن قدرتهم على التفاعل مع التطبيقات وواجهات API والبيانات تفرض التعامل مع أمنهم بوصفه موضوعًا قائمًا بذاته.

وتقوم الأولوية على تقييد الوصول، وعزل البيئات، ومراقبة الإجراءات، وتجهيز استجابة سريعة للسلوك غير الطبيعي. وتكمّل الحوكمة والتدريب هذه التدابير بمنح الفرق إطارًا واضحًا لاستخدام هذه التقنيات.

ولا يعني التبني المسؤول إلغاء كل استقلال، بل ضمان أن يتصرف كل وكيل داخل نطاق محدد يمكن التحكم فيه وإلغاؤه.