لطالما ارتبط تصور الآلات الذكية بفكرة العصيان. ففي الخيال العلمي، تظهر الروبوتات التي ترفض الأوامر أو تنقلب على مشغليها بوصفها تحذيرًا من منح الأنظمة غير البشرية استقلالًا واسعًا. ومع انتقال الذكاء الاصطناعي من القصص إلى المنتجات والخدمات اليومية، تغيّرت زاوية النقاش: لم يعد السؤال فقط ما إذا كانت الآلة ستتمرّد، بل ما إذا كان يمكن الوثوق بها عندما تقرر الامتناع عن تنفيذ طلب ما.
تفاصيل الخبر
تبدو القدرة على الرفض للوهلة الأولى علامة على السلامة. فالنظام الذي يمتنع عن تقديم تعليمات خطرة أو كشف بيانات حساسة أو تنفيذ أمر غير مشروع قد يكون أكثر مسؤولية من نظام يجيب عن كل شيء. لكن الرفض لا يصبح مفيدًا لمجرد حدوثه؛ إذ يعتمد أثره على فهم النظام للسياق، وعلى دقة تفسيره لنية المستخدم، وعلى قدرته على التمييز بين الطلب الضار والطلب المشروع الذي صيغ بطريقة ملتبسة.
المشكلة أن كلمة «لا» الصادرة عن نموذج ذكاء اصطناعي ليست حكمًا أخلاقيًا مستقلًا بالمعنى البشري. إنها نتيجة لتدريب وتعليمات وقيود تقنية وسياسات يضعها مطورون أو مشغلون. لذلك قد يرفض النظام طلبًا آمنًا بسبب سوء الفهم، أو يسمح بسلوك غير مناسب لأن صياغة الطلب تجاوزت القواعد التي يعتمد عليها. هذا يجعل الرفض إشارة إلى طريقة بناء النظام، لا دليلًا نهائيًا على امتلاكه حسًا موثوقًا بالمسؤولية.
وتزداد أهمية المسألة عندما تُدمج النماذج في أدوات قادرة على تنفيذ أفعال خارج المحادثة، مثل تعديل ملفات أو إرسال رسائل أو تشغيل خدمات أو اتخاذ قرارات أولية نيابة عن المستخدم. في هذه الحالات، لا يكفي أن ننتظر من النظام أن يتوقف في اللحظة الأخيرة. ينبغي تحديد الصلاحيات مسبقًا، وتقييد العمليات الحساسة، وإبقاء الإنسان قادرًا على المراجعة والإلغاء، لأن الخطأ قد يتحول من إجابة غير دقيقة إلى أثر عملي يصعب التراجع عنه.
كما أن الإفراط في الثقة بقدرة الذكاء الاصطناعي على الرفض قد ينقل المسؤولية بعيدًا عن المؤسسات التي تستخدمه. فقد تتعامل جهة ما مع وجود آلية للامتناع بوصفه بديلًا عن الاختبارات المستقلة، وسجلات التدقيق، وتحديد الجهة التي تتحمل تبعات القرار. غير أن النظام الآمن يحتاج إلى منظومة كاملة من الضوابط، تشمل وضوح الغرض، ومراقبة الأداء، وتقييم الحالات الاستثنائية، ووسيلة واضحة للطعن في القرار أو تصحيحه.
ولا يعني ذلك أن الرفض الآلي بلا قيمة. على العكس، يمكن أن يكون طبقة مهمة ضمن تصميم مسؤول، بشرط ألا يُقدَّم باعتباره ضمانًا مكتملًا. القيمة الحقيقية تكمن في أن يشرح النظام سبب امتناعه بقدر مناسب، وأن يطلب توضيحًا عندما يكون السياق غامضًا، وأن يوجه المستخدم إلى بديل آمن بدل الاكتفاء بإجابة مقتضبة. كما يجب اختبار هذه السلوكيات في مواقف متنوعة، لا في أمثلة مثالية معدة مسبقًا.
المسار الأكثر واقعية هو التعامل مع «قول لا» كوظيفة تحتاج إلى هندسة وقياس ومراجعة مستمرة. فمع توسع استخدام النماذج، ستصبح الأسئلة الحاسمة مرتبطة بحدود التفويض، ودرجة الشرح المطلوبة، وكيفية التعامل مع التعارض بين تعليمات المستخدم وقواعد المؤسسة. والنتيجة أن الثقة في الذكاء الاصطناعي لن تُبنى على عدد المرات التي يرفض فيها، بل على مدى قابلية قراراته للفهم والمراجعة والتصحيح.
في النهاية، لا يكمن الخطر في أن تكون الأنظمة مطيعة دائمًا أو رافضة دائمًا، بل في أن يخلط البشر بين الرفض الظاهري والحكم السليم. النظام الذي يقول «لا» في الوقت الخطأ قد يعطل مهمة مشروعة، والنظام الذي يقولها في الوقت المناسب قد يظل عاجزًا عن اكتشاف خطر آخر. لذلك ينبغي أن تكون القدرة على الامتناع جزءًا من منظومة أوسع للمساءلة، لا مبررًا للتخلي عن الرقابة البشرية أو عن مسؤولية الجهة التي اختارت استخدام التقنية.
العودة إلى جميع الأخبار
