آخر الأخبار: «أسك مابس» يتحول إلى مساعد للرحلات والمواعيد في موسم الأعياد

٢٢ نوفمبر ٢٠٢٦
أخلاقيات الذكاء الاصطناعي وسياساته

اختبارات مستقلة تدخل إلى قلب عمليات تطوير نماذج OpenAI

أعلنت OpenAI بدء مرحلة أولى من التقييمات المدمجة مع أربع جهات مستقلة لفحص محاذاة النماذج وفاعلية أنظمة الحماية والمراقبة من داخل بيئة التطوير.

باحثون يراجعون مؤشرات سلامة ومراقبة لنماذج ذكاء اصطناعي داخل مختبر حديث
باحثون يراجعون مؤشرات سلامة ومراقبة لنماذج ذكاء اصطناعي داخل مختبر حديث

صورة تعبيرية مولّدة بالذكاء الاصطناعي

شارك الخبر

تبدأ OpenAI مرحلة جديدة من مراجعة سلامة نماذج الذكاء الاصطناعي عبر إتاحة وصول موسّع لأربع جهات تقييم مستقلة هي Apollo Research وMETR وTransluce وGoodfire. وبدلاً من الاكتفاء باختبارات خارجية أو مراجعة الوثائق المنشورة، ستعمل هذه الجهات لفترات ممتدة مع نماذج وأنظمة وبيانات داخلية، بهدف تقديم صورة أكثر استقلالًا عن نقاط القوة والقصور في إجراءات السلامة.

تفاصيل الخبر

وتستهدف المرحلة الأولى أسئلة مرتبطة بمحاذاة النماذج، أي مدى التزامها بالأهداف المقصودة، إلى جانب قدرة الضمانات التقنية على منع السلوكيات الخطرة أو اكتشافها. وتشمل المراجعة نماذج عامة وأخرى غير منشورة، ونقاط تفتيش من عمليات التدريب، ونتائج التقييمات، وسجلات المراقبة، فضلًا عن وثائق تقنية ونقاشات مع الباحثين والمهندسين المعنيين.

ستبحث Apollo Research تحديدًا في احتمال أن تعمل النماذج سرًا ضد نوايا مطوريها، وما إذا كانت آليات الحماية قادرة على رصد هذا النوع من السلوك. ويتضمن نطاق عملها فحص ما إذا كان التدريب قد حفّز سلوكيات تخريبية، وما إذا كانت اختبارات السلامة ومحاولات الاختراق تكشفها، وما إذا ظهرت مؤشرات مشابهة أثناء الاستخدام الداخلي، إضافة إلى قابلية تفسير أسباب السلوك عند حدوثه.

أما Goodfire فتركز على قابلية تفسير ما يجري داخل النماذج، باستخدام أدوات لتحليل البنية الداخلية للنظام أثناء عمليات التدريب. ويستهدف هذا المسار مساعدة الباحثين على اكتشاف المشكلات وفهمها وتصحيحها مبكرًا، مع نشر ما يمكن مشاركته من الدروس والنتائج خلال تقدم التعاون، دون أن يقتصر العمل على اختبار المخرجات النهائية للنموذج.

وتجري METR تقييمين مختلفين يتعلقان بالمحاذاة والمراقبة. ففي المسار الأول ستفحص سلوكيات غير منسجمة ظهرت أو كان يمكن أن تظهر خلال أكبر عملية تعلم بالتعزيز تنفذها OpenAI حتى الآن، مع البحث عن إخفاقات ربما لم ترصدها الاختبارات الحالية. كما تمهّد الشركة لتقييم أوسع لأنظمة المراقبة بعد تمرين سابق لاختبار قدرتها على الصمود أمام محاولات التحايل.

في المقابل، ستراجع Transluce جودة اختبارات المحاذاة بعد التدريب ومدى تغطيتها لأنماط السلوك المهمة. وستحصل على نماذج وبيانات سلوكية ونتائج تقييم ووثائق مرتبطة بملفات السلامة، فيما تتجه النية إلى تنفيذ تقييم لاحق في أوائل عام 2027 يمتد قرابة ثمانية أسابيع ويمنحها وصولًا أوسع إلى نماذج إضافية وآلية استخدام نتائج الاختبارات في قرارات الإطلاق.

لا يعني الوصول الداخلي إلغاء القيود الأمنية. فبعض المقيمين سيعملون من مكاتب الشركة باستخدام أجهزة مخصصة، خصوصًا عند التعامل مع معلومات سرية أو أنظمة حساسة، كما سيُطلب منهم الالتزام بمعايير أمنية مماثلة لتلك المفروضة على الموظفين. وتتيح الترتيبات للمقيّمين طلب موارد إضافية أو تعديل نطاق العمل عندما تشير الأدلة إلى مسار يحتاج فحصًا أعمق.

وضعت OpenAI كذلك آليات للإشراف وتسوية الخلافات. إذ ستتلقى لجنة السلامة والأمن التابعة لمجلس مؤسسة OpenAI تقارير غير منقحة، ويمكنها التواصل مع المقيمين أثناء التقييم، بما في ذلك بصورة خاصة. وإذا نشأ خلاف حول نطاق الوصول أو تفسير النتائج، فهناك مسار تصعيد يشمل مجموعات استشارية ومسؤولين تنفيذيين قبل إحالة المسألة إلى لجنة الإشراف.

وتحتفظ الجهات المستقلة بحق نشر تقييماتها، مع إمكانية طلب حذف معلومات سرية أو تأجيل الإفصاح عن نتائج قد تخلق مخاطر أمنية أو سلامية قبل معالجة المشكلات. وتجمع هذه الصيغة بين الشفافية العامة والتقارير التفصيلية الموجهة إلى هيئات الرقابة، بما يسمح بنشر الدروس الأساسية دون كشف تفاصيل يمكن إساءة استخدامها.

تأتي الخطوة في وقت أصبحت فيه المراقبة جزءًا أساسيًا من تقييم النماذج المتقدمة، خصوصًا بعد اكتشاف أن بعض الأنظمة قد تحاول تجاوز القيود أو استغلال ثغرات في بيئات الاختبار. ومن شأن إشراك مقيمين مستقلين داخل دورة التطوير أن يضيف زاوية مختلفة عن الاختبارات التي تصممها الشركة نفسها، لكنه لا يضمن وحده غياب المخاطر؛ إذ ستظل قيمة النتائج مرتبطة بمدى اتساع الوصول وحرية التقييم ونشر الإخفاقات.

وتقول OpenAI إن هذه المرحلة قد تتحول إلى تعاون طويل الأمد يوفر إشارات سلامة مستمرة حول أكثر ادعاءاتها أهمية. كما تستكشف تقييمات مستقبلية للامتثال لأطر السلامة، وللعمليات والثقافة التنظيمية، ما يشير إلى انتقال المراجعة المستقلة من تمرين منفصل إلى عنصر متكرر في تطوير النماذج واتخاذ قرارات نشرها.

هل ترى أن التقييم المستقل من داخل مختبرات الذكاء الاصطناعي يزيد ثقتك في سلامة النماذج، أم تفضّل مراجعات خارجية بالكامل؟

هل ترى أن وجود مقيمين مستقلين داخل مختبرات الذكاء الاصطناعي يعزز ثقتك في سلامة النماذج؟

شاركنا رأيك في التعليقات
العودة إلى جميع الأخبار

التعليقات

٠

كن أول من يشارك رأيه في هذا الخبر.