آخر الأخبار: سيغنال تحصّن محادثاتها من عيون مساعدات الذكاء الاصطناعي

٢٢ نوفمبر ٢٠٢٦
أخبار الذكاء الاصطناعي

كيف تحاول OpenAI منع نسخ قدرات نماذجها بلا ضوابط

كشفت OpenAI عن منظومة دفاع متعددة الطبقات لمواجهة استخدام مخرجات النماذج في تدريب أنظمة أخرى من دون انتقال وسائل الحماية إليها، مع تركيز خاص على منع تسريب سلاسل التفكير الداخلية.

شاشات تعرض نموذج ذكاء اصطناعي محاطًا بحواجز رقمية تمنع تسريب البيانات الداخلية
شاشات تعرض نموذج ذكاء اصطناعي محاطًا بحواجز رقمية تمنع تسريب البيانات الداخلية

صورة تعبيرية مولّدة بالذكاء الاصطناعي

شارك الخبر

تتعامل OpenAI مع ما تسميه «التقطير العدائي» بوصفه خطراً يتجاوز قضايا الملكية الفكرية. والفكرة تقوم على استخدام إجابات نموذج متقدم أو تقييماته أو خطواته الداخلية لتدريب نموذج آخر، بما يسمح بنقل جزء من قدراته إلى نظام قد لا يملك القيود نفسها أو آليات الرفض المطبقة على النموذج الأصلي.

تفاصيل الخبر

وتقول الشركة إن المشكلة تصبح أكثر حساسية في المجالات مزدوجة الاستخدام، مثل الأمن السيبراني والبيولوجيا. فقد ينتقل نموذج آخر من تعلم إجابات دفاعية أو بحثية مشروعة إلى اكتساب مهارات يمكن توظيفها في الهجوم أو في تقديم إرشادات خطرة، خصوصاً إذا جرى تدريبه على بيانات أكثر تفصيلاً من الإجابات التي يراها المستخدم عادة.

ويتركز أحد محاور الخطة على حماية ما تسميه الشركة «الاستدلال المحمي»، أي الخطوات الوسيطة التي يعتمد عليها النموذج قبل إنتاج الإجابة النهائية. وترى OpenAI أن هذه السجلات قد تحتوي على معلومات وقدرات لا تظهر في الرد النهائي، ولذلك شددت القيود على استخراجها أو إعادة استخدامها بين المحادثات والمستخدمين ومساحات العمل وعائلات النماذج المختلفة.

ولا تعتمد الحماية على سلوك النموذج وحده. فقد تحدثت الشركة عن تدريب مضاد للهجمات، ومصنفات تفحص المدخلات بحثاً عن محاولات استخراج الاستدلال، وأدوات تراجع المخرجات ووسائط استدعاء الأدوات بحثاً عن تسريبات محتملة. وتشمل الإجراءات أيضاً فحص الردود المتدفقة قبل وصولها إلى الجهة الطالبة عندما تشير المؤشرات إلى احتمال كشف محتوى داخلي.

وعلى مستوى أوسع، تراقب OpenAI الأنماط المرتبطة بالحملات المنسقة، مثل إنشاء كميات كبيرة من البيانات الاصطناعية أو استخدام حسابات متعددة لتقييم الإجابات وترتيبها تمهيداً للتدريب. وعند رصد نشاط يخالف الشروط، قد تجمع الشركة بين المراجعة الآلية والبشرية، وتقيّد الحسابات أو تحظرها، كما تتعاون مع مزودي خدمات آخرين لتعطيل البنية المستخدمة في هذه العمليات.

وتعرض الشركة نتائج اختبار داخلي لقياس قدرة مهاجمين آليين على استعادة الاستدلال المحمي. وبحسب البيانات المنشورة، انخفض متوسط نجاح الهجمات في أحد الاختبارات التكيفية من 54 بالمئة على نموذج سابق بإعداداته الأصلية إلى 0.2 بالمئة على إصدار أحدث بعد تطبيق وسائل حماية محدثة، بينما بقي نجاح نوع آخر من الهجمات دون واحد بالمئة.

وتربط OpenAI بين هذه الإجراءات وحوادث رصدتها خلال عام 2026، إذ تقول إنها واجهت حملات حاولت استخراج قدرات النماذج على نطاق واسع. كما أشارت إلى أن التحقيقات لا تهدف فقط إلى معاقبة الحسابات، بل تُستخدم نتائجها لتحديث التدريب والمصنفات واختبارات الاختراق، بحيث تتحول كل محاولة ناجحة إلى اختبار تكراري للأنظمة الجديدة.

وتتجاوز الخطة حدود منصة واحدة، إذ تدعو الشركة مطوري النماذج ومزودي الخدمات إلى مشاركة مؤشرات الهجمات، وحماية الاستدلال عبر كامل التفاعل، ومراجعة مخرجات الأدوات لا النصوص النهائية فقط. ويعكس ذلك تصوراً يعتبر التقطير العدائي مشكلة جماعية، لأن نموذجاً واحداً قد يُستغل لاكتساب قدرات ثم نشرها في نظام آخر خارج نطاق الضوابط الأصلية.

ومن المتوقع أن يتواصل السباق بين أساليب الاستخراج ووسائل المنع مع تحسن النماذج وتراجع كلفة تدريب الأنظمة المنافسة. لذلك تركز OpenAI في خطواتها المقبلة على تقوية المصنفات، وتوسيع الحماية لدى الشركاء السحابيين، وتحسين اكتشاف الشبكات المنسقة، وتسريع الانتقال من رصد السلوك إلى اتخاذ إجراء عملي ضده.

هل ترى أن حماية الاستدلال الداخلي ضرورية حتى لو حدّت من قدرة المستخدمين على فهم طريقة إجابة النماذج؟؟

هل ترى أن حماية الاستدلال الداخلي ضرورية حتى لو حدّت من قدرة المستخدمين على فهم طريقة إجابة النماذج؟

شاركنا رأيك في التعليقات
العودة إلى جميع الأخبار

التعليقات

٠

كن أول من يشارك رأيه في هذا الخبر.