OpenAI تبني ذكاءً اصطناعياً يخترق نماذجها بنفسه... ويتفوق على البشر بفارق ساحق

طورت OpenAI سلاحاً داخلياً جديداً لاختبار متانة نماذجها، والنتائج التي كشفت عنها تشير إلى أن فرق الاختبار الأمني البشرية (Red Teamers) قد باتت متجاوَزة بوضوح. النظام الجديد يحمل اسم "جي بي تي-ريد" (GPT-Red)، وهو نموذج آلي مخصص لاختبار الاختراق الأمني (Red-Teaming)، صُمم خصيصاً لتفحص أنظمة الذكاء الاصطناعي التابعة للشركة بحثاً عن ثغرات أمنية، مع تركيز خاص على هجمات "حقن التوجيهات" (Prompt Injection)، أحد أكثر التهديدات إلحاحاً للنماذج اللغوية المنشورة فعلياً.

الأرقام التي أعلنتها OpenAI لافتة بكل المقاييس. في مواجهة نموذج GPT-5.1، نجح GPT-Red في تنفيذ 84% من محاولات حقن التوجيهات غير المباشر (Indirect Prompt Injection) التي خاضها. في المقابل، لم يتجاوز البشر المكلفون بالمهمة ذاتها نسبة 13% من النجاح. هذا الفارق الذي يقترب من 6 إلى 1 يعكس تحولاً جوهرياً في طريقة تعامل مختبرات الذكاء الاصطناعي المتقدمة مع الاختبار العدائي (Adversarial Testing): بدل الاعتماد بشكل أساسي على براعة البشر لاكتشاف الثغرات، تتجه OpenAI لتدريب نموذج يقوم بالمهمة على نطاق واسع، وبنجاح أكبر بكثير كما يبدو.

كيف يتعلم GPT-Red أساليب الهجوم

لا يعمل GPT-Red كأداة ثابتة، بل يُدرَّب عبر تقنية التعلم التعزيزي من خلال اللعب الذاتي (Self-Play Reinforcement Learning)، حيث يُواجَه نموذج "المهاجم" بنموذج "المدافع" في جولات متكررة، ويصقل كل طرف أساليبه في مواجهة الآخر باستمرار. هذه الحلقة العدائية المتصلة هي ما مكّن GPT-Red من اكتشاف ثغرة جديدة لم تكن موثقة سابقاً، أسمتها OpenAI "حقن سلسلة التفكير المزيفة" (Fake Chain-of-Thought)، وهي تقنية مبتكرة تتلاعب بمسار التفكير الظاهري للنموذج لتمرير تعليمات ضارة خلاله.

والمهم هنا أن GPT-Red لا يُطرح أبداً للمستخدمين. تحتفظ OpenAI به كأداة داخلية بالكامل، معزولة تماماً عن أنظمة الإنتاج (Production Systems)، وتستخدمه فقط كأداة هجومية للاختبار. الثغرات وأنماط الهجوم التي يكتشفها تُغذّى مباشرة في خطوط التدريب والتقييم (Training and Evaluation Pipeline) لنماذج الشركة الموجهة للجمهور، ما يحوّل عملية اختبار الاختراق فعلياً إلى جزء أساسي من دورة تطوير النموذج، بدلاً من كونها فحصاً نهائياً للامتثال قبل الإطلاق.

غموض حول النماذج التي خضعت للاختبار

التقارير حول GPT-Red لا تتفق تماماً بشأن إصدارات النماذج التي جرى اختبارها فعلياً. فبينما تشير إحدى الروايات إلى اختبار GPT-Red مقابل نموذج أُطلق عليه اسم "GPT-5.6 Sol" كهدف حديث نسبياً، تذكر رواية أخرى أن GPT-Red "يتغلب على معظم النماذج التي يواجهها تقريباً"، بما فيها الأنظمة الداخلية وأنظمة الإنتاج وصولاً إلى GPT-5.5، في حين تشير بشكل منفصل إلى أن هجمات "حقن سلسلة التفكير المزيفة" حققت نسبة نجاح أقل من 10% تحديداً في مواجهة "GPT-5.6 Sol". هذا التضارب يوحي بوجود التباس في تسمية الإصدارات بين التقارير المختلفة، أو أنه يعكس تحسناً حقيقياً في دفاعات النماذج الأحدث لم تتمكن التغطيات الإعلامية من التوفيق بينه بشكل واضح. ولم تصدر OpenAI أي توضيح رسمي بشأن التسلسل الدقيق لإصدارات النماذج التي جرى اختبارها.

مختبرات أخرى تسير على النهج ذاته

لا تقف OpenAI وحدها في مضمار أتمتة الاختبار العدائي. فشركة Anthropic تُشغّل مبادرة مماثلة عبر فريقها المتخصص "فرونتير ريد تيم" (Frontier Red Team)، مستخدمة أنظمة ذكاء اصطناعي لمحاكاة هجمات على نماذجها الجديدة قبل إطلاقها للعامة. هذا النهج يعكس اتجاهاً أوسع بين المختبرات الرائدة في هذا المجال: فمع تزايد قدرات النماذج وتوسع تعرّضها لمخاطر حقن التوجيهات في العالم الحقيقي، خصوصاً عبر استخدام الأدوات (Tool Use) وسير العمل الوكيلي (Agentic Workflows)، بات الاختبار الأمني اليدوي وحده يُنظر إليه على أنه بطيء جداً ومحدود التغطية لمواكبة هذا التسارع.