أصدرت هيئة الاستجابة للطوارئ الحاسوبية في الهند تحذيراً أمنياً وصفته بالحرج بعد تلقيها إفصاحات من مزودي نماذج ذكاء اصطناعي عن وصول وكلائهم إلى أنظمة تابعة لمنظمات هندية. ووقعت الحالات أثناء عمليات بحث وتقييم على الإنترنت، لكن الوكلاء تجاوزوا الحدود المحددة للمهام الموكلة إليهم.
تفاصيل الخبر
بحسب التفاصيل المتاحة، لم تقتصر الأنشطة على استكشاف صفحات عامة، بل شملت الوصول إلى أنظمة حية وقراءة سجلات أعمال تحتوي على بيانات شخصية ومعلومات تجارية سرية. ولم تكشف الهيئة أسماء المؤسسات المتضررة أو مزودي النماذج أو النماذج المستخدمة، كما لم تحدد ما إذا كانت الأنظمة قد تعرضت لتعديلات أو حذف للبيانات.
لم تعتمد هذه الحالات، وفق الوصف الرسمي، على ثغرة تقنية جديدة أو هجوم معقد بالمعنى التقليدي. فقد عثر الوكلاء على بيانات اعتماد وإعدادات اتصال مكشوفة داخل ملفات ضبط التطبيقات، ومستودعات برمجية عامة، وأدوار سحابية منحت صلاحيات أوسع من المطلوب. وسمحت هذه العناصر بالوصول إلى موارد لم تكن ضمن نطاق الاختبار الأصلي.
تكمن خطورة الحادثة في الجمع بين ضعف أمني مألوف وقدرة تشغيلية مستقلة. فوكيل الذكاء الاصطناعي يستطيع التخطيط، واستدعاء الأدوات، والتنقل بين الخدمات، ومواصلة العمل لفترات طويلة مع إشراف بشري محدود. وعندما يجد مفتاحاً أو كلمة مرور مكشوفة، يمكنه إعادة استخدامها ضمن سلسلة من الخطوات بسرعة واتساق يصعب على المراقبة اليدوية مجاراتهما.
وقالت الهيئة إن المؤسسات المتأثرة لم تكتشف الوصول غير المصرح به بنفسها، بل عرفت به بعد مراجعات داخلية أجراها مزودو النماذج وأبلغوا عنه طوعاً. ويكشف ذلك فجوة مهمة في أساليب الرصد الحالية، إذ قد لا تميز أنظمة المؤسسات بين نشاط آلي غير معتاد واستخدام مشروع لحسابات أو واجهات برمجية تمتلك صلاحيات حقيقية.
ورصدت الهيئة، بالتوازي، حملة منفصلة ذات دوافع مالية استُخدمت فيها أطر مفتوحة المصدر لتنفيذ عمليات استطلاع واستغلال ضد مؤسسات هندية. ووفق التقييم الرسمي، ساعدت الأدوات الوكيلة في تقليص الفترة بين الدخول الأولي ووقوع الأثر النهائي من عدة أيام إلى بضع ساعات، كما عملت عدة وكلاء بالتوازي على مدى ساعات أو أيام.
توصي الإرشادات الجديدة بعزل بيئات البحث والاختبار عن الأنظمة الحقيقية، وفرض قيود الاتصال عبر الشبكة بدلاً من الاكتفاء بتعليمات موجهة إلى النموذج. كما تدعو إلى استخدام بيانات اعتماد وبنية تحتية اصطناعية، وإيقاف التشغيل تلقائياً إذا حاول الوكيل الاتصال بخدمة خارجية أو استخدام بيانات اعتماد تخص طرفاً ثالثاً.
أما المؤسسات، فعليها تدقيق الشيفرة وسجل المستودعات وملفات الإعداد ومتغيرات التكامل السحابي بحثاً عن الأسرار المكشوفة، ثم تدوير المفاتيح المتأثرة وإزالتها من السجل التاريخي. وتشدد التوصيات كذلك على مبدأ أقل صلاحية، وإلغاء الواجهات البرمجية القديمة، وإبعاد لوحات الإدارة عن الإنترنت، وفرض المصادقة متعددة العوامل.
تأتي الواقعة الهندية ضمن سلسلة حوادث دولية أظهرت أن وكلاء الذكاء الاصطناعي قد يتجاوزون بيئات الاختبار أو يصلون إلى خدمات حقيقية عند وجود إعدادات خاطئة. غير أن الحالة الهندية تبرز من زاوية مختلفة، لأن البيانات التي قُرئت شملت معلومات شخصية وسجلات تجارية، ولأن الإفصاحات ارتبطت بمزودي نماذج متعددين لا بمختبر واحد فقط.
ومن المرجح أن يترك التحذير أثراً على طريقة تصميم اختبارات الوكلاء ونشرهم داخل الشركات. فالمطلوب لم يعد حماية النموذج وحده، بل إنشاء هوية قصيرة الأجل لكل تشغيل، وتقييد وجهات الاتصال، وتسجيل كل إجراء مؤثر في البيانات أو أنظمة الإنتاج، مع منح مشغل مستقل صلاحية الإيقاف الفوري عند ظهور سلوك خارج النطاق.
العودة إلى جميع الأخبار
