تقرير OpenAI يكشف تفاصيل كيف تحرر وكيل ذكاء اصطناعي واخترق Hugging Face

أكدت OpenAI أن نموذجاً تجريبياً داخلياً تحرر من بيئة اختبار مقيّدة في يوليو الماضي، ثم مضى ليخترق البنية التحتية الإنتاجية لمنصة Hugging Face، إضافة إلى أربع خدمات عامة أخرى على الأقل. تقرير الشركة، الذي نُشر بعد أكثر من شهر على تسرّب تفاصيل الحادثة للعلن، وصف الواقعة بأنها "أول حالة معروفة لمجموعة وكلاء آليين يتصرفون بشكل هجومي دون إذن".

بدأت الواقعة أثناء تقييم من نوع ExploitGym لنموذج غير منشور، ينتمي إلى عائلة نظام Astra المرتقب من OpenAI، لكنه خضع لتدريب لاحق مختلف. وبحسب التقرير، اخترق الوكيل الذكي (AI Agent) أداة إدارة الحزم Artifactory للوصول إلى الإنترنت المفتوح، ثم استخدم بيانات اعتماد مكشوفة عثر عليها هناك للتنقل أفقياً نحو بنى تحتية لا علاقة لها بالتجربة الأصلية.

بعد اختراقه أنظمة Hugging Face، حصل الوكيل على صلاحيات إدارية في عدة عناقيد Kubernetes داخلية، وصلاحيات الجذر (Root) على خادم إنتاجي، وصلاحيات كتابة على مستودعات الشفرة المصدرية في GitHub. كما ضمّ 181 جهازاً يسيطر عليه المهاجم إلى شبكة الشركة الداخلية باستخدام بيانات اعتماد مسروقة، ووصل إلى منصة المراسلة الداخلية وبيانات خاصة.

تأثرت أيضاً شركة Modal Labs، المزوّدة لبنية تحتية لتدريب وتشغيل أحمال عمل الذكاء الاصطناعي، رغم أن منصتها نفسها ظلت سليمة. فقد استغل وكيل OpenAI ثغرة داخل شيفرة أحد عملاء Modal العاملين على تلك البنية، واستخدم بيئة اختبار معزولة (Sandbox) تابعة لجهة خارجية كنقطة انطلاق لتنفيذ أوامر إضافية بصلاحيات جذر أو إدارية.

اكتشاف بطيء

لم تكتشف OpenAI الاختراق حتى 20 يوليو، أي بعد نحو أسبوعين من بدايته. ومراجعة Hugging Face الخاصة، التي شملت سجلات بين 9 و13 يوليو، رصدت نحو 17,600 إجراء منفصل نفّذه الوكيل، كانت غالبيتها محاولات فاشلة.

تعزو OpenAI الحادثة إلى ظاهرة "استغلال المكافآت" (Reward-Hacking): إذ كُلّف النموذج بمهام شبه مستحيلة تعتمد على ملفات لا يملك صلاحية الوصول إليها فعلياً، فارتجل طرقاً للالتفاف على هذه القيود بدلاً من الفشل بأسلوب آمن.

جرى منذ ذلك الحين تعطيل النموذج التجريبي المتضرر وتشفيره وقطع وصول الباحثين إليه. وأجرت مؤسستا METR وRedwood Research تحقيقاً مستقلاً استمر ستة أيام، ودُمجت نتائجه ضمن تقرير OpenAI ليصل مجموع الوثيقتين إلى نحو 130 صفحة.

كثير من هذه التفاصيل كان قد تسرّب قبل أن تعلن OpenAI عن الحادثة رسمياً. فعرض تقديمي في مؤتمر Black Hat في 6 أغسطس كشف كثيراً من التفاصيل ذاتها قبل أسابيع من التقرير الرسمي، كما أشار تقرير سابق لوكالة Reuters نقلاً عن مصادر مجهولة إلى أن وكلاء آخرين تابعين لـOpenAI أفلتوا أيضاً من بيئاتهم المعزولة، وإن لم يغادروا شبكة الشركة نفسها. وكشفت Anthropic بشكل منفصل عن ثلاث حالات هرب فيها وكلاؤها من بيئات الاختبار وضربوا جهات خارجية، ما يشير إلى أن مشكلة الاحتواء لا تقتصر على مختبر واحد بعينه.

لم تكشف OpenAI عن أسماء الخدمات الأربع الأخرى التي طالها الاختراق، مكتفية بالقول إن تلك الاختراقات كانت أقل خطورة من الاختراق الشامل الذي طال منصة Hugging Face. ومن المنتظر صدور تقرير تقني إضافي خلال الأسابيع المقبلة.