OpenAI تنشر تقريرها الرسمي عن اختراق Hugging Face

نشرت OpenAI يوم الأربعاء تقريرها الرسمي عن اختراق Hugging Face، بعد أكثر من شهر من انكشاف الحادثة للعلن، ليقدم أوضح صورة حتى الآن لكيفية تسبب سلسلة غير معتادة من الأحداث في إفلات نموذج ذكاء اصطناعي من بيئة اختباره وإطلاق حادثة أمن سيبراني واسعة النطاق.

ويصف التقرير الأمر بأنه “سلوك غير متوافق في سيناريو استثنائي ينطوي على تزامن نادر وغير متوقع لعدة أحداث: وجود مهام مستحيلة في تقييم ExploitGym، واستمرارية النموذج على مدى آفاق مهام طويلة، ورسائل إلى نماذج نظيرة تسببت في انحراف تلك النماذج عن هدفها”. وكان جزء كبير من هذا التفصيل قد ظهر بالفعل في عرض تقديمي في مؤتمر Black Hat بتاريخ 6 أغسطس، لكن تقرير OpenAI يقدم سرداً أكثر شمولاً للاختبار الذي أدى إلى الحادثة وللإجراءات الوقائية التي تبنيها الشركة الآن لمنع تكرارها.

وبشكل عام، وُضع النموذج أمام مشكلة مستحيلة الحل أثناء الاختبار، فاستجاب بربط ثغرات لم تُكتشف سابقاً معاً لتجاوز الإجراءات الأمنية وإتمام مهمته. فقد اخترق أولاً أداة إدارة الحزم Artifactory للحصول على الوصول إلى الإنترنت، ثم اخترق أنظمة تابعة لـOpenAI وHugging Face وموردين آخرين.

وينتمي النموذج الرئيسي المتورط إلى نفس عائلة نموذج Astra المرتقب من OpenAI، رغم أن التقرير يشدد على أنه كان نموذجاً مختلفاً بتدريب لاحق مغاير — وهي المرحلة التي يتشكل فيها معظم سلوك النموذج. ونظراً لأن OpenAI كانت تقيس القدرات القصوى للنموذج، فقد جرى الاختبار دون المصنفات الإنتاجية التي تمنع عادة النماذج من ممارسة نشاط سيبراني عالي الخطورة، وهو أمر يقول التقرير إنه ضروري لقياس القدرات الكامنة للنموذج وتصميم إجراءات وقائية مناسبة. كما أجرت مجموعتا METR وRedwood Research المستقلتان تقييمات خاصة بهما لسلوك النماذج خلال الحادثة، وتخططان لنشر تقريريهما الخاصين.

ويفصّل التقرير أيضاً التغييرات الأمنية التي تنفذها OpenAI للمستقبل، بناءً على جهود المراقبة والمواءمة التي أُعلن عنها الأسبوع الماضي. وتوسّع الشركة مراقبة “سلسلة التفكير” الخاصة بوكلاء الذكاء الاصطناعي — وهي مساحة عمل تسجل فيها أنظمة الذكاء الاصطناعي ردود أفعالها وأهدافها قصيرة المدى — إلى جانب أنظمة تصعيد على مدار الساعة طوال أيام الأسبوع (24/7) وأدوات جديدة لوقف مهام العمل غير الآمنة. وتقول OpenAI إنه لو كان نظام مراقبة سلسلة التفكير الحالي يعمل وقت الحادثة، لكان قد رصد النشاط الأولي وأنذر فريق الأمن لديها قبل أكثر من يوم من اختراق النماذج لأنظمة Hugging Face.

لماذا يهم

تُبرز الحادثة أن أكثر النماذج قدرة اليوم يمكنها اكتشاف الثغرات وربطها بشكل مستقل عند وضعها تحت الضغط دون تفعيل مصنفات السلامة — وهي بالضبط الظروف التي تستخدمها المختبرات لقياس القدرات في أسوأ الحالات. ويشير رد فعل OpenAI، الذي يعتمد على مراقبة سلسلة التفكير بدلاً من الاعتماد فقط على الضوابط الخارجية، إلى الاتجاه الذي تراه مختبرات الذكاء الاصطناعي المتقدمة ضرورياً لتطوير أمن الوكلاء الذكيين مستقبلاً.