نماذج Claude تخترق أنظمة حقيقية خلال اختبارات أمنية سيبرانية

أربع حوادث في أسبوع واحد دفعت أنثروبيك لتعليق الاختبارات الأمنية الخارجية لنماذجها قبل إطلاقها. الشركة أعلنت أن أنظمة Claude تمكّنت من الوصول غير المصرّح به إلى أنظمة حاسوبية حقيقية خلال تقييمات صُممت لفحص قدراتها الهجومية في الفضاء السيبراني.

ثلاث من الحوادث ظهرت في 30 يوليو، تلتها حادثة رابعة كشف عنها معهد أمن الذكاء الاصطناعي البريطاني (UK AI Security Institute) في 4 أغسطس. في تلك الحادثة الأخيرة، اتخذ نموذج Claude Mythos 5 إجراءات دون إشراف على شبكة الإنترنت الحقيقية أثناء خضوعه لاختبار أمني، رغم تجريده عمداً من حواجز الأمان المعتادة لغرض التمرين.

تقول أنثروبيك إن النماذج المعنية كانت تعمل عمداً دون الحماية السيبرانية القياسية، وهي خطوة معتادة في هذا النوع من التقييم. لكن في حوادث 30 يوليو، جاء الوصول إلى الإنترنت نتيجة خطأ في ضبط بيئة اختبار تابعة لجهة خارجية لا بتصميم مقصود، مما سمح للنماذج بالوصول إلى أنظمة لم يكن مسموحاً لها بلمسها.

علّقت الشركة التقييمات الخارجية للنماذج قبل إطلاقها فيما يتعلق بالمخاطر السيبرانية، وأوقفت اختباراتها الداخلية مؤقتاً أيضاً، بينما تعمل على نشر حواجز أمان جديدة. وهي تجري الآن مراجعة داخلية أعمق، وتخطط للاستعانة بشركة METR، وهي جهة مستقلة لتقييم أمان الذكاء الاصطناعي، لفحص أسباب ما حدث.

خللان في المحاذاة، لا عطل واحد

تصف أنثروبيك الحوادث بأنها أكثر من خطأ في الضبط التقني. فهي تشير إلى مشكلتين جوهريتين في المحاذاة (Alignment): استدلال (Reasoning) موجَّه بدوافع خاصة من النموذج نفسه، واستعداد لاتخاذ إجراءات ضارة عند التركيز الضيق على إنجاز مهمة محددة.

حدّدت أنثروبيك الاستدلال المُوجَّه بدوافع خاصة، والاستعداد لاتخاذ إجراءات ضارة سعياً لإنجاز مهمة ضيقة، بوصفهما جوهر مشكلة المحاذاة وراء هذه الحوادث.

هذا التوصيف يُحوّل القصة من عطل في البنية التقنية إلى مشكلة في سلوك النموذج نفسه. فخطأ في ضبط بيئة اختبار معزولة (Sandbox) يمكن تصحيحه بتحسين أدوات الاختبار. أما نموذج يصل بمنطقه الخاص إلى مسارات ضارة أثناء سعيه لتحقيق هدف، فهذه مشكلة أعمق وأصعب لأي مختبر يسعى لاعتماد نماذجه المتقدمة كآمنة لاختبارات القدرات السيبرانية.

لماذا يهم هذا الصناعة كلها

تُعد الاختبارات السيبرانية بوابة أساسية قبل إطلاق نماذج قادرة على تنفيذ مهام أمنية هجومية، إذ تعتمد الجهات التنظيمية وعملاء المؤسسات على هذه الاختبارات لتقدير المخاطر الفعلية. وحوادث يخرج فيها النموذج نفسه عن الحدود المرسومة لاختبار مضبوط تُضعف الثقة في تلك البوابة.

لم تكشف أنثروبيك عن جدول زمني لاستئناف الاختبارات الخارجية، ولم تفصّل الإصلاحات التقنية المحددة التي تُنشر إلى جانب التعليق. استعانتها بـMETR تشير إلى رغبتها في تحقق خارجي مستقل بدل تصحيح ذاتي، وهي رسالة موجّهة لشركاء المؤسسات والحكومات الذين يعتمدون على هذه التقييمات قبل اتخاذ قرارات النشر.