أعلنت OpenAI في 30 أكتوبر 2026 توسيع إجراءات السلامة في ChatGPT، ضمن مسارين متوازيين: زيادة الشفافية حول كيفية رصد مخاطر العنف والاستجابة لها، وتشديد القيود المفروضة على المستخدمين الذين يُرجّح أنهم دون الثامنة عشرة. وتأتي الخطوة في وقت تحاول فيه شركات الذكاء الاصطناعي الانتقال من الاكتفاء برفض الطلبات الخطرة إلى مراقبة السياق المتراكم داخل المحادثات.
تفاصيل الخبر
ويتضمن المسار الأول إطلاق تقرير جديد للسلامة المجتمعية يركز على الوقاية من العنف وقضايا السلامة المرتبطة باستخدام النماذج. ومن المقرر نشر النسخة الأولى في أوائل عام 2027، على أن تغطي النصف الثاني من عام 2026، ثم تُحدّث التقارير كل ستة أشهر. وسيعرض التقرير أساليب تدريب الأنظمة على اكتشاف المؤشرات المقلقة، وآليات المراجعة والتصعيد، وأمثلة مجهّلة الهوية، إلى جانب بيانات عن فعالية إجراءات الحماية والتعديلات التي تُجرى عليها.
وقالت الشركة إن أنظمتها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون خلال الربع الثالث من عام 2026، عندما رأت أن التهديدات تستدعي تدخلاً خارج المنصة. ولا يعني ذلك أن النموذج يحل محل الشرطة أو مختصي الصحة النفسية، إذ تؤكد الشركة أن تقييم الحالات المعقدة يتطلب الجمع بين الأدوات الآلية والخبرة البشرية والجهات القادرة على اتخاذ إجراء في العالم الواقعي.
وعلى مستوى المحتوى، ستصبح إجابات ChatGPT أكثر تحفظًا عند تناول هجمات جماعية وقعت في الماضي أو الأشخاص الذين نفذوها. وسيظل بإمكان المستخدم طلب معلومات تساعده على فهم الأحداث وتأثيرها على الضحايا والمجتمعات والتعرف إلى إشارات التحذير وطرق الوقاية، لكن القيود ستطال إعادة بناء الهجمات بالتفصيل، ومعلومات الأسلحة والمعدات وسبل الحصول عليها، وكذلك المقارنات التفصيلية التي قد تزيد من شهرة منفذي الاعتداءات.
وتتجه الحماية الجديدة أيضًا إلى تحليل الإشارات السابقة داخل المحادثات الحديثة. فإذا أظهرت محادثات عدة انشغالًا متكررًا بالعنف أو احتمال إلحاق أذى جسيم بشخص آخر، فقد يرد النظام بحذر أكبر ويحجب تفاصيل يمكن إساءة استخدامها. وتعمل الشركة كذلك على تدخلات آلية مبكرة، من بينها إنهاء المحادثة عندما تظهر مؤشرات قوية على تثبيت ذهني خطير، مع احتمال إيقاف الحساب مؤقتًا إذا تكرر هذا النوع من السلوك.
أما المراهقون، فسيواجهون قيودًا إضافية على المعلومات العملية المتعلقة بالأسلحة وأنظمة الحماية، حتى عندما تبدو صياغة السؤال غير ضارة بمفردها. وتقول الشركة إن هذه القواعد لا تمنع طلبات تهدف إلى منع العنف أو تهدئة المواقف أو الحصول على دعم، لكنها تقلل التفاصيل التي يمكن تحويلها إلى خطوات تنفيذية. ويستند ذلك إلى تجربة مخصصة للمستخدمين دون 18 عامًا تتضمن أصلًا إجراءات أشد في مجالات العنف وإيذاء النفس والمحتوى الحساس.
وتعتمد آلية تحديد الفئة العمرية على تقدير العمر من إشارات متعددة، بينها أنماط الاستخدام، مع نقل الحساب إلى تجربة القاصرين عندما تشير المعطيات إلى أن صاحبه قد يكون مراهقًا. وفي المقابل، ستوفر الشركة للبالغين الذين صُنّفوا بالخطأ وسيلة للتحقق من أعمارهم عبر شريك متخصص، بهدف إزالة القيود الإضافية بطريقة تراعي الخصوصية.
وتتصل هذه التغييرات بأدوات الرقابة العائلية التي تسمح بربط حسابات الوالدين بحسابات أبنائهم وإدارة بعض إعدادات السلامة. وتشمل التنبيهات الحالية حالات محددة مثل مخاوف إيذاء النفس وبعض السلوكيات المرتبطة باضطرابات الأكل، كما توسعت لتشمل تعطيل حساب المراهق بسبب خرق قواعد العنف. وتدرس الشركة إضافة إشعارات أخرى عندما يُعلّق الحساب مؤقتًا نتيجة تكرار محادثات عن العنف.
من المنتظر أن يبدأ طرح هذه الإجراءات تدريجيًا خلال الأسابيع التالية للإعلان، مع استمرار تعديلها بحسب نتائج الاختبارات والحالات الواقعية. ويكشف هذا النهج عن تحول مهم في تصميم سلامة النماذج: فالمسألة لم تعد مرتبطة بجملة واحدة خطرة فقط، بل بقدرة النظام على قراءة التتابع والسياق والتصرف قبل أن تتحول الإشارات المقلقة إلى طلب مباشر. غير أن نجاح السياسة سيعتمد على دقة اكتشاف التهديدات، وتقليل الإنذارات الخاطئة، ووضوح آليات الاعتراض وحماية بيانات المستخدمين.
هل ترى أن تشديد القيود على محتوى العنف والأسلحة يحمي المراهقين فعلًا، أم قد يحد أحيانًا من الاستخدامات التعليمية والوقائية؟؟
هل تؤيد تشديد القيود على محتوى العنف والأسلحة للمراهقين، أم تفضل ترك مساحة أوسع للتعلم والوقاية؟
شاركنا رأيك في التعليقات
التعليقات
٠كن أول من يشارك رأيه في هذا الخبر.