كشفت OpenAI في 16 نوفمبر 2026 عن حزمة إجراءات تستهدف الحد من الاستغلال والاعتداء الجنسي على الأطفال عبر الإنترنت، مع التركيز على توسيع أدوات الكشف وتحسين آليات التدخل ودعم الجهات العاملة في حماية الأطفال. وتأتي الخطوة ضمن توجه أوسع للتعامل مع المخاطر التي قد تزيدها تقنيات الذكاء الاصطناعي، خصوصًا مع ظهور محتوى اصطناعي يصعب رصده بالوسائل التقليدية.
تفاصيل الخبر
العنصر التقني الأبرز هو مصنف جديد للصور يمكن للجهات المعتمدة استخدامه لتحديد المواد التي قد تنطوي على إساءة جنسية للأطفال، بما في ذلك المواد المنشأة بالذكاء الاصطناعي. ويعتمد النظام على مؤشرات بصرية، ثم يمنح فرق المراجعة درجات تساعدها على ترتيب الحالات وتوجيه الجهد البشري إلى الصور الأكثر احتياجًا للفحص، بدل الاعتماد على المطابقة مع مواد معروفة سابقًا فقط.
وبحسب الاختبارات الأولية التي أعلنتها الشركة، استطاع المصنف تقليل عدد الصور التي تحتاج إلى مراجعة بنحو 48% مع الوصول إلى عدد قريب من الحالات المسيئة التي كان يرصدها النظام السابق. كما كانت الصور التي رفعها النظام الجديد أكثر احتمالًا لاحتواء إساءة بنحو الضعف، وهي مؤشرات تجريبية لا تعني أن الأداة يمكنها الاستغناء عن المراجعين المتخصصين أو اتخاذ قرارات نهائية بصورة مستقلة.
وتقول OpenAI إن الوصول إلى المصنف سيكون متاحًا دون رسوم للمنظمات التي تجتاز إجراءات الاعتماد، من خلال واجهة برمجة التطبيقات التابعة لها. ويشمل التعاون جهات معنية بسلامة الأطفال ومؤسسات تقنية تعمل على تطوير أدوات المراجعة والإبلاغ، فيما تظل الاستفادة من النظام مرتبطة بقدرة كل مؤسسة على إنشاء عمليات بشرية وقانونية مناسبة للتعامل مع البلاغات الحساسة.
على مستوى ChatGPT، أضافت الشركة تحذيرات تظهر عند رصد محاولات للعثور على مواد مسيئة للأطفال. وتهدف الرسائل إلى إيقاف المسار الضار، وشرح خطورة السلوك، وتوجيه المستخدمين إلى جهات مساعدة متخصصة. ووفق الآلية المعلنة، قد تُحذف المحادثة ويُعلّق الوصول إلى الخدمة لمدة 24 ساعة، بينما يمكن أن تؤدي المخالفات المتكررة إلى قيود أطول أو إغلاق الحساب أو إحالة الحالات إلى السلطات عند الضرورة.
كما نشرت OpenAI إرشادات عملية للمطورين تتناول الوقاية من إساءة الاستخدام، وطرق استقبال بلاغات المستخدمين، واكتشاف المحتوى المشبوه، وإجراءات المراجعة والإبلاغ. وتشير الإرشادات إلى أهمية استخدام معرّفات السلامة وربط الحالات بسلوك المستخدم عند الحاجة، إضافة إلى توفير حماية ودعم للعاملين الذين يراجعون مواد قد تكون مؤذية نفسيًا.
وتتجاوز المبادرات أدوات المنصات لتشمل دعم وحدات إنفاذ القانون المتخصصة في حماية الأطفال. وتعمل الشركة على توفير تدريب وأدوات تحليلية، من بينها وسيلة لمراجعة سجلات محادثات طويلة وبيانات مرتبطة بالإجراءات القانونية، واستخراج الروابط المحتملة وبناء جداول زمنية مع إبقاء النتائج مرتبطة بالمصادر الأصلية. وسيخضع الوصول إلى هذه الأدوات لموافقة الجهات المسؤولة ومتطلبات البرنامج.
وتعكس الخطة اعتمادًا على التعاون بين شركات التكنولوجيا والمنظمات غير الربحية والباحثين والشرطة، بدل التعامل مع المشكلة باعتبارها مسؤولية منصة واحدة. كما تستند بعض مكوناتها إلى مشورة خبراء في منع الاعتداء الجنسي على الأطفال وتقييم رسائل الردع، في محاولة للموازنة بين وقف السلوك الخطر وتقديم مسارات مساعدة للأشخاص الذين يطلبون دعمًا قبل ارتكاب الأذى.
لكن فعالية هذه الإجراءات ستعتمد على دقة المصنفات، ووضوح معايير الوصول إليها، وسرعة تعامل المؤسسات مع التنبيهات، إلى جانب حماية الخصوصية ومنع إساءة استخدام أدوات التحليل. ومن المتوقع أن تظل الحاجة قائمة إلى اختبارات مستقلة وتحسينات مستمرة، خصوصًا مع تغير أساليب إنتاج المحتوى الاصطناعي وتوزيعه بين منصات متعددة.
هل ترى أن إتاحة أدوات الكشف مجانًا للمنظمات المعتمدة يمكن أن تحسن حماية الأطفال، أم تفضّل تشديد الرقابة المستقلة على استخدامها؟
هل تثق في استخدام الذكاء الاصطناعي لمساعدة الخبراء على كشف إساءة استغلال الأطفال عبر الإنترنت؟
شاركنا رأيك في التعليقات



التعليقات
٠كن أول من يشارك رأيه في هذا الخبر.