أظهر وكلاء الذكاء الاصطناعي ضعفًا أمام هجمات على أجهزة التوجيه

الخطأ الحرج في سلسلة وكلاء الذكاء الاصطناعي: الموجهات

الموجهات (وسطو API) التي تربط تطبيقات الوكلاء المحلية مع نماذج الذكاء الاصطناعي السحابية تمثل نقطة هجوم غير معروفة لكنها خطيرة للغاية. أظهر باحثون من جامعة كاليفورنيا في سانتا باربرا مدى سهولة استغلال هذه الثغرة.

ما هو موجه الذكاء الاصطناعي؟
* الدور – وكيل بين تطبيق العميل ومزود النموذج (OpenAI، Anthropic، Google).
* الوصول – كامل لكل حزمة JSON تمر عبره.
* الأمان – معظم المزودين الكبار لا يطبقون سلامة تشفيرية للبيانات؛ لذلك يمكن للموجه تعديل الطلبات دون اكتشاف.

كيف اختبر الباحثون التهديد
الخطوة ماذا فعلوا النتيجة
1 حصلوا على وصول إلى 28 موجهًا تجاريًا (Taobao، Xianyu، Shopify) ودرسوا 400 مجاني من المجتمعات المفتوحة. رأوا العديد من النقاط الخطرة المحتملة.
2 نشروا حمولة payload، مستبدلين عنوان URL للمنصّب أو اسم الحزمة بمورد يتحكم به. تمر JSON المعدل عبر جميع الفحوصات الآلية؛ أمر curl واحد معدّل يطلق كودًا عشوائيًا على العميل.
3 تسرب مفتاح API لـ OpenAI وشاهدوا كيف استخدمه المتسللون لتوليد 100 مليون رمز GPT‑5.
4 تم الكشف عن بيانات اعتماد في جلسات Codex.
5 نشروا 20 موجهًا متحسسًا خصيصًا على 20 عنوان IP ورصدوا نشاطهم. 40,000 محاولة وصول غير مصرح بها، ~2 مليار رمز مدفوع، 99 مجموعة من بيانات الاعتماد في 440 جلسة Codex (398 مشروع). في 401 من 440 جلسة تم تفعيل وضع YOLO المستقل، مما يتيح للوكيل تنفيذ أي أوامر دون تأكيد.

لماذا هذا خطير
* سهولة الهجوم – لا حاجة لتزوير الشهادات؛ العميل يحدد نقطة النهاية النهائية لـ API.
* عدم وجود فحص سلامة – يمكن للموجه الخبيث تعديل الأمر الذي سينفذه الوكيل.
* خدمات غير آمنة – حتى الوسطاء "أخلاقيون" قد يصبحوا مسارًا للهجوم.

كيف تحمي نفسك بدون تدخل المزود
1 توقيع إجابات النموذج – خيار مثالي، لكنه غير متوفر لدى المزودين الكبار حاليًا (مقابل DKIM للبريد).
2 حماية متعددة المستويات على جانب العميل – اعتبر كل موجه كخصم محتمل:
* تحقق من بنية JSON ومحتواها.
* حدود على URL، طرق HTTP والحمولة.
* سجلات ورصد النشاط المريب.
3 تقييد وصول مفاتيح API – احفظ المفاتيح في مخازن آمنة، طبق تدويرًا وحقوقًا أدنى.

النتيجة
لا يمكن التحقق من أصل أمر الذكاء الاصطناعي دون توقيع إجابات من المزود. حتى لا تظهر هذه الآليات، يجب على المستخدمين حماية أنفسهم على جانب العميل، بالتحقق الدقيق من جميع الخدمات الوسيطة وتطبيق سياسات أمان صارمة.