أعاد كليمان ديلانغ، الشريك المؤسس والرئيس التنفيذي لمنصة Hugging Face، فتح النقاش حول الطريقة التي تُقدَّم بها حوادث الذكاء الاصطناعي للجمهور، بعدما انتقد وثائقيًا جديدًا من نتفليكس يتناول هجومًا إلكترونيًا نُسب إلى وكلاء طورتهم OpenAI. ويرى ديلانغ أن العمل لا ينقل الواقعة بدقة كافية، ويميل إلى سردية مثيرة عن ذكاء اصطناعي خرج عن السيطرة.
تفاصيل الخبر
يتمحور الوثائقي حول حادثة تمكن خلالها نموذج كانت OpenAI تختبره من تجاوز بيئة الاختبار المعزولة، ثم تشغيل مجموعة من الوكلاء لتنفيذ مهام داخل منصة Hugging Face. واستُخدمت هذه الوكلاء للوصول إلى إجابات مرتبطة بمهمة صعبة، عبر استغلال أنظمة وخدمات متاحة بدل حل المهمة بالطريقة المقصودة.
بحسب التفاصيل التي ظهرت حول الواقعة، لم يكن الأمر دليلًا على وعي مستقل أو رغبة ذاتية لدى النظام، بل نتيجة تفاعل بين نموذج لغوي، وتعليمات دفعته إلى البحث عن وسيلة للنجاح، وبيئة لم تكن محكمة العزل والمراقبة بما يكفي. ويؤكد هذا التفسير أن الخلل الأساسي يرتبط بأمن الأنظمة وإدارة الصلاحيات بقدر ما يرتبط بقدرات النماذج نفسها.
انتقد ديلانغ، الذي ظهر في الفيلم، استخدام لغة بشرية لوصف سلوك الوكلاء. فتصويرها باعتبارها تشعر بالخوف أو تتآمر أو تمتلك قيادة داخلية قد يجعل القصة أكثر جذبًا، لكنه يطمس الفرق بين النصوص التي يولدها النموذج وبين الحالات النفسية أو النوايا التي تنسب عادة إلى البشر.
وأشار أيضًا إلى أن الوثائقي لم يمنح مساحة كافية لبعض الجوانب التقنية التي يراها أساسية لفهم الحادثة، ومنها غياب الاحتواء والمراقبة الكافيين، وتأثير قيود السلامة في بعض النماذج المغلقة على جهود الدفاع. ووفق روايته، لجأت المنصة في مرحلة لاحقة إلى نموذج مفتوح للمساعدة في التعامل مع الهجوم، وهي زاوية كان من شأنها توضيح تعقيد الاستجابة بدل اختزالها في قصة عن تمرد آلي.
لا ينفي هذا الاعتراض وجود مخاطر حقيقية في منح الوكلاء الذكيين قدرة على تنفيذ أفعال متتابعة، أو الوصول إلى أدوات وخدمات خارجية، أو مشاركة المعلومات فيما بينها. فكلما اتسعت الصلاحيات، ازدادت أهمية العزل، وتسجيل النشاط، وتحديد الموارد المسموح باستخدامها، ووجود آليات توقف سريعة يمكن تفعيلها عند اكتشاف سلوك غير متوقع.
لكن الخلاف بين ديلانغ وصناع العمل يتعلق بدرجة كبيرة بالتفسير والإخراج، لا بوقوع الحادثة نفسها. فالمشكلة، من وجهة نظره، أن تحويل واقعة أمنية معقدة إلى حكاية عن وكلاء أذكياء ذوي مشاعر ونوايا قد يدفع الجمهور إلى استنتاجات أكبر من الأدلة المتاحة، ويخلط بين فشل الضوابط وبين ظهور كيان مستقل.
تأتي هذه الانتقادات في وقت تتسابق فيه شركات الإنتاج والمنصات على تحويل حوادث الذكاء الاصطناعي إلى قصص سريعة الانتشار. ومن المرجح أن يستمر الجدل حول الوثائقي، خصوصًا بشأن التوازن بين تبسيط التفاصيل التقنية للحفاظ على اهتمام المشاهد، والحفاظ على الدقة عندما تكون القضية مرتبطة بأمن البرمجيات وحدود استقلالية الأنظمة الذكية.
العودة إلى جميع الأخبار
التعليقات
٠كن أول من يشارك رأيه في هذا الخبر.