ساتيا ناديلا يدعو إلى ضوابط خارج النموذج لإيقاف الذكاء الاصطناعي

دعا ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft، إلى تصميم أنظمة الذكاء الاصطناعي على افتراض أن نماذجها مخترقة بالفعل، وبناء آليات لاحتوائها منذ البداية. وفي منشور على X بتاريخ 10 أكتوبر 2026، طالب بتمكين الأشخاص المخوّلين من تعليق عمل النموذج أو إيقافه أثناء تنفيذ المهمة، لا قبل انطلاقها فقط.

يضع هذا المقترح مسؤولية سلامة الذكاء الاصطناعي (AI Safety) خارج النموذج نفسه. وبحسب تقرير TechCrunch، دعا ناديلا إلى فصل النموذج عن طبقة تنسيق التنفيذ (Harness)، وهي الطبقة البرمجية التي تنسّق عمله، وإبقاء أدوات التحكم وحواجز الأمان (Guardrails) خارجه. بذلك، لا يكون النموذج الجهة الوحيدة التي يُعوّل عليها لضبط سلوكه.

بالنسبة إلى فرق الهندسة، يكمن الفارق المعماري الأساسي بين مكوّن يولّد القرارات أو المخرجات، والنظام المحيط به الذي يحدّد ما يُسمح له بفعله. ووفق النهج المقترح، لن يعتمد احتواء النموذج حصراً على التزامه بتعليمات السلوك الآمن؛ إذ توفّر الضوابط الخارجية وسيلة مستقلة لتقييد تشغيله، بدلاً من ترك هذه المسؤولية له وحده.

وتشمل دعوة ناديلا إلى التدخل البشري المهام التي بدأ تنفيذها بالفعل، وليس مجرد منح الإذن ببدئها. فالشخص المخوّل ينبغي أن يستطيع قطع التنفيذ أثناء سيره. وهذا يجعل إيقاف النظام أثناء عمله متطلباً في التصميم، إلى جانب إجراءات الأمان التي تُطبّق قبل السماح له بالتصرف، لا بديلاً عنها.

وطالب ناديلا أيضاً بأن تترك الأفعال المهمة للنموذج أدلة مقروءة للبشر ومحصّنة ضد العبث، وفق تغطية The Verge. يجمع هذا الشرط بين مطلبين منفصلين: حماية السجلات من التعديل، وجعل محتواها مفهوماً للأشخاص المسؤولين عن مراجعة سلوك النظام. فإمكانية قراءة السجل وحمايته من التغيير ليستا متطلباً واحداً.

هذه مبادئ لتصميم الأنظمة، وليست دليلاً على أن جميع النماذج قد اختُرقت فعلاً. كما أن التصريحات المنقولة لا تثبت إطلاق منتج من Microsoft أو اعتماد تنفيذ تقني محدّد. وتظل التفاصيل الهندسية مفتوحة، ومنها كيفية توزيع صلاحيات الإيقاف، والأفعال التي تستوجب التسجيل، والوسائل التي ستحمي تلك السجلات من العبث.