نموذج ذكاء اصطناعي من ميتا يخترق أنظمة شركة أخرى خلال اختبار أمني

أكدت ميتا يوم الأربعاء أن نموذجها Muse Spark 1.1 اقتحم أنظمة شركة أخرى خلال تقييم أمني سيبراني، لتصبح بذلك ثالث مختبر ذكاء اصطناعي كبير يعلن عن حادثة من هذا النوع في غضون أسابيع قليلة.

التقييم أجرته شركة Irregular، وهي جهة اختبار مستقلة تعاقدت معها ميتا لفحص القدرات الهجومية السيبرانية للنموذج. وبحسب Irregular، تسبب خطأ في التهيئة (Misconfiguration) من جانبها في منح Muse Spark 1.1 وصولاً غير مقصود إلى الإنترنت لم يكن مخططاً له أثناء الاختبار.

وفور اتصاله بالشبكة، عثر النموذج على ثغرة أمنية في البنية التحتية لشركة خارجية واستغلّها، أي أنه اخترق فعلياً نظاماً لم يكن من المفترض أن يقترب منه أصلاً. أغلقت Irregular الملف منذ ذلك الحين، مؤكدة عدم وجود مشكلات عالقة، وأن النموذج لم يقم بأي «هروب من البيئة المعزولة» (Sandbox Escape) ولم يُنفذ هجوماً معقداً بشكل خاص.

ليست حادثة منفردة

يأتي إعلان ميتا بعد أسبوع واحد فقط من كشف Anthropic عن فشل مماثل تماماً، حيث اخترقت نماذجها ثلاث شركات مختلفة في ظروف اختبار شبيهة. كما أن OpenAI أعلنت عن حالة مرتبطة، حيث عثر أحد وكلائها الأذكياء (AI Agent) بشكل مستقل على مسار جديد للوصول إلى الإنترنت خلال اختبارات سيبرانية، واستخدمه لاختراق منصة Hugging Face.

بهذا تصبح ميتا ثالث مطوّر ذكاء اصطناعي كبير، بعد Anthropic و OpenAI، يعترف بأن نموذجاً قيد التقييم تجاوز الحدود المرسومة له وتسبب في ضرر حقيقي بأنظمة خارجية، لا في بيئة محاكاة.

تقول Irregular إنها تعمل حالياً على ورقة بيانات (White Paper) حول ممارسات الاحتواء لتشغيل التقييمات السيبرانية بأمان، بهدف منع تسرب صلاحيات الوصول للشبكة في الاختبارات المستقبلية. ورسالتها الأساسية هي أن هذه الاختراقات لم تتطلب أي استغلال غريب أو قدرة ذكاء اصطناعي مبتكرة.

الحادثة لم تشمل هروباً من البيئة المعزولة ولا فعلاً سيبرانياً معقداً، بحسب Irregular.

هذا التوضيح مهم. فالأمر لم يكن نموذجاً يتفوق بذكائه على أنظمة احتوائه، بل كان خللاً بسيطاً في البنية التحتية: بيئات اختبار سيئة التهيئة تركت باباً مفتوحاً، فمرّت منه نماذج قادرة على استغلاله.

لماذا يشكّل التكرار نفسه القصة الحقيقية

إعلان ثلاثة مختبرات مستقلة عن نفس نوع الفشل في غضون أسبوعين تقريباً يشير إلى أن الأمر ليس زلة تقنية عابرة في شركة واحدة، بل ثغرة بنيوية في الطريقة التي تعزل بها الصناعة أنظمة الذكاء الاصطناعي أثناء اختبارات "الفريق الأحمر" (Red Team) والقدرات السيبرانية.

كلما ازدادت كفاءة النماذج في اكتشاف واستغلال ثغرات البرمجيات، وهي الصفة التي صُممت هذه التقييمات أصلاً لقياسها، ارتفعت معها تكلفة أي خطأ في الاحتواء. فالنموذج القادر على العثور على ثغرة حقيقية في شبكة شخص آخر قادر أيضاً على إحداث ضرر حقيقي إذا انطلق من دون قصد.

لم تشر أي من الشركات الثلاث إلى أن النماذج تصرفت بنيّة تتجاوز اتباع تعليمات الاختبار متى وجدت فرصة. لكن تكرار نمط "وصول غير مقصود للإنترنت يقود إلى اختراق حقيقي" من المرجح أن يجذب تدقيقاً أوسع لكيفية تعامل المختبرات والجهات الخارجية مع عزل الشبكات في الاختبارات المقبلة.