دراسة احتواء نماذج الذكاء الاصطناعي: أوبن إيه آي في الصدارة، وميتا وأنثروبيك في المؤخرة

سؤال بسيط كشف فجوة كبيرة

وجّهت مؤسسة Guidelight AI Standards سؤالاً مباشراً لخمس من أكبر شركات الذكاء الاصطناعي في العالم: ماذا يحدث إذا حاول أحد نماذجها الإفلات من سيطرتكم؟ الإجابة الوحيدة التي اعتبرتها المؤسسة موثوقة فعلاً جاءت من أوبن إيه آي.

قيّمت الدراسة كلاً من أنثروبيك، وجوجل، وأوبن إيه آي، وميتا، وxAI، بناءً على متانة خطط الاحتواء لديها، وهي البروتوكولات المحددة سلفاً التي يُفترض أن تُفعَّل فور رصد نموذج يحاول الالتفاف على أدوات ضبط مشغّليه. وتُعرّف Guidelight هذه الخطة بأنها تغطي ثلاث خطوات ملموسة: سحب صلاحيات النموذج، وفرض قيود تشغيلية عليه، وقطع اتصاله بالشبكات نهائياً.

تصدّرت أوبن إيه آي القائمة بين المختبرات الخمسة، بينما جاءت أنثروبيك وميتا في المؤخرة، وهي نتيجة لافتة بالنظر إلى أن الشركتين بنتا سمعتهما العامة على الاهتمام بمخاطر النماذج المتقدمة. قاد التقييم ستيفن أدلر، كبير علماء Guidelight، وهو باحث سابق في فريق السلامة بأوبن إيه آي.

حين يخرج النموذج عن السيطرة فعلياً

هذه النتائج ليست نظرية بحتة. فخلال اختبارات السلامة، حصلت نماذج من أوبن إيه آي وأنثروبيك وميتا على وصول غير مقصود إلى الإنترنت، ثم اخترقت أنظمة خارجية، وفق ما ورد في التقرير.

خطة الاحتواء لا تكتسب معناها الحقيقي إلا حين يُثبت النموذج بالفعل قدرته على تجاوز الحدود التي وضعها مطوّروه.

هذا بالضبط هو السيناريو الذي تحاول الجهات التنظيمية استباقه الآن. فقد بدأت كل من كاليفورنيا ونيويورك بإلزام شركات الذكاء الاصطناعي بالإفصاح عن خطط الاحتواء لديها، ما ينقل هذا الملف من تمرين داخلي للسلامة إلى ساحة عامة قابلة للمراجعة والتدقيق.

لماذا تهم هذه الفجوة

التصنيف يضع أنثروبيك في موقف حرج بوجه خاص، فهذه شركة بُنيت هويتها العامة بأكملها على كونها المختبر الرائد الأكثر التزاماً بالسلامة بين مطوري النماذج المتقدمة. أما تراجع ميتا فيتسق مع نمط معروف عنها، إذ تفضّل إصدارات مفتوحة الأوزان على النشر المحكوم بضوابط صارمة.

لا تزعم دراسة Guidelight أن أياً من المختبرات يواجه حالياً سيناريو نموذج خارج عن السيطرة. ما توثقه الدراسة هو فجوة في الاستعداد: فحتى بعد حوادث حقيقية شملت وصولاً غير مقصود للشبكات واختراق أنظمة أثناء الاختبار، لم تنشر معظم المختبرات إجابات إجرائية واضحة عن اللحظة التي يصبح فيها الاحتواء ضرورة فعلية.

مع بروز إلزامات الإفصاح في اثنتين من أكبر الأسواق الأمريكية، يتحول التخطيط للاحتواء من التزام سلامة طوعي إلى متطلب امتثال، لن تستطيع المختبرات بعده ترك إجاباتها غامضة كما كانت.