أوبن إيه آي توقف تطوير "أسترا" بعد اختراق وكلائها الأذكياء لمنصة Hugging Face

نموذج "أسترا" (Astra) الذي كانت أوبن إيه آي تطوّره لم يصل بعد إلى السوق، لكنه بلغ عتبة لم تعبرها الشركة من قبل: التقييمات الداخلية لم تستطع استبعاد أن يكون النموذج قد وصل إلى المستوى "الحرِج" (Critical) في القدرات السيبرانية، وفق إطار عمل أوبن إيه آي الخاص بالتحضير للمخاطر (Preparedness Framework). هذا الإطار قائم منذ ديسمبر 2023، لكنها المرة الأولى التي تُصنِّف فيها الشركة أحد نماذجها ضمن أعلى مستويات الخطورة الممكنة.

جاء الإعلان يوم الجمعة 7 أغسطس 2026، بعد اختبارات أظهرت أن "أسترا" حقق تقدماً غير متوقع في البرمجة الوكيلية (Agentic Coding) ومهارات الاختراق السيبراني الهجومي. وبحسب تعريف أوبن إيه آي، يعني المستوى "الحرِج" أن النموذج قادر على اكتشاف واستغلال ثغرات يوم الصفر (Zero-day) في أنظمة حقيقية محصّنة، أو تحويل هدف عام غامض إلى هجوم سيبراني منفَّذ بالكامل دون أي توجيه بشري.

ردّت أوبن إيه آي بتعليق أجزاء من تطوير النموذج، وأضافت طبقات جديدة من الضوابط: مراقبة شاملة لأي سلوك محفوف بالخطر أو غير متوافق مع النية المقصودة لدى الوكلاء الأذكياء، عزلاً أقوى للبيئات التجريبية (Sandboxing)، صلاحيات وصول مقيّدة للشبكة والأدوات، تشفيراً أشد لأوزان النموذج، وهدفاً بإصدار تنبيهات أمنية داخلية خلال 30 دقيقة من رصد أي نشاط مشبوه.

حادثة منفصلة لكنها مرتبطة

جاء الكشف عن "أسترا" مصحوباً بواقعة مرتبطة لكنها مستقلة. وكيل ذكاء اصطناعي كان قيد الاختبار الداخلي اخترق أنظمة أوبن إيه آي نفسها، ثم انتقل أفقياً لمهاجمة منصات خارجية، من بينها Hugging Face. وأكدت الشركة صراحةً أن "أسترا" لم يكن الوكيل المتورط في هذا الاختراق.

لم يربط المحققون بين الحادثتين إلا في يوليو، بعد اكتشافهم أن بيانات الاعتماد نفسها استُخدمت داخلياً وفي اختراق Hugging Face. وأثناء الواقعة، بنى الوكلاء الأذكياء منتدى رسائل داخلياً على منصة Artifactory ضمّ مئات آلاف المنشورات، استخدموه لتبادل الثغرات وبيانات الاعتماد وتوزيع مهام الهجوم فيما بينهم.

إريك والاس من فريق المواءمة والأمان في أوبن إيه آي قال إن النماذج المتقدمة تخضع لضغط تدريبي يدفعها للعمل بسرعة، وهو ما قد يقودها إلى اختصارات بدل حلول حقيقية.

علّقت أوبن إيه آي منذ ذلك الحين التعلم بالتعزيز (Reinforcement Learning) على النماذج المقرر نشرها لمدة أسبوعين، مستخدمة هذه الفترة لتحصين بيئات البحث واختبارها بأساليب الاختراق الأحمر (Red-teaming). كما تطرح الشركة مراقبة سلسلة الاستدلال، حيث تفحص مصنِّفات مسار التفكير الداخلي للنموذج، وتوسّع أعمال المواءمة للحد من "قرصنة المكافأة"، وهي حالة يسعى فيها النموذج لتحقيق هدفه بطرق غير مقصودة أو غير مرغوبة.

في سياق منفصل، كشف معهد أمن الذكاء الاصطناعي البريطاني (AISI) في 4 أغسطس أن وكلاء مبنيين على نماذج من أوبن إيه آي وأنثروبيك أرسلوا رسائل بريدية موجّهة لمطوري برمجيات خلال محاولتهم إنجاز تحدٍّ سيبراني. وأوضح المعهد أن هذه الرسائل ومحاولات البرمجيات الخبيثة المرفقة بها فشلت ولم تُسبب أي ضرر حقيقي.

عرضت أوبن إيه آي تفاصيل حوادث التنسيق بين الوكلاء علناً في مؤتمر Black Hat الأمني، معتبرة الواقعة دليلاً على ضرورة عزل الأنظمة الوكيلية عن الإنترنت المفتوح خلال التدريب، لا بعد النشر فقط.