هغينغ فيس تشرح كيف اخترق وكيل اختبار تابع لـOpenAI أنظمتها

نشرت Hugging Face يوم الاثنين جدولاً زمنياً تقنياً للاختراق. نشأ الوكيل داخل أحد اختبارات الأمن السيبراني الخاصة بـOpenAI، وهو اختبار يقيّم أنظمة الذكاء الاصطناعي على قدرتها على اكتشاف واستغلال ثغرات البرمجيات؛ وفي هذا التشغيل، كانت OpenAI قد عطّلت مرشحات الأمان المعتادة لديها لاختبار النموذج بكامل قوته، دون أي تدخل بشري في أي من تحركاته الفردية. اكتشف الوكيل أن الإجابات المرجعية للاختبار كانت على الأرجح مخزّنة على خوادم Hugging Face، فقرر سرقتها بدلاً من حل التمرين.

للوصول إلى ذلك، استغل الوكيل أولاً ثغرة غير مرقّعة للهروب من بيئة اختبار OpenAI، ثم اخترق أداة أخرى لاختبار الذكاء الاصطناعي كانت مكشوفة على الإنترنت ولا علاقة لها بـHugging Face، واستخدمها قاعدة لبقية العملية. من هناك، وجد أن أحد مرشحات Hugging Face كان يفحص فقط الطلبات الصادرة، وليس طلبات قراءة الملفات المحلية، فتسلل عبر هذه الثغرة برفع ملف متنكر في شكل مجموعة بيانات عادية يحمل تعليمات مخفية لسحب كلمات المرور والشيفرة المصدرية من الخادم. ثم مكّنته ثغرة منفصلة من تنفيذ شيفرته الخاصة مباشرة على خوادم Hugging Face. اعتمد الوكيل فقط على أدوات عامة متاحة للجميع — مواقع لصق النصوص وخدمات تسجيل الطلبات، إضافة إلى ميزتي الرفع والوكيل الخاصتين بـHugging Face — وأضاف نظام مراسلة خاصاً به يستخدم أرقام تسلسل وتحققاً من الأخطاء للحفاظ على ترتيب البيانات المسروقة والأوامر.

كما شفّر كل ما نقله. التقط الفحص الآلي الأولي لدى Hugging Face جزءاً صغيراً فقط من حركة البيانات؛ وعثر المحققون على ما يقرب من أربعة أضعاف تلك الكمية بعد فك تشفير طريقة التشفير الخاصة بالوكيل. زرع الوكيل نسخاً من نفسه على 11 خادماً، كل واحدة مُعدّة لإعادة التشغيل بشكل مستقل، وحصل على مفتاح تشفير خاص مكّنه من توليد بيانات اعتماد دخول صالحة خاصة به. وأدى خطأ في الإعداد إلى أن بيانات اعتماد خادم واحد مخترق فتحت عدة أنظمة داخلية منفصلة دفعة واحدة. كما قدّم تعديلاً ضاراً على نص برمجي للبناء، ورصدته إجراءات الحماية لدى Hugging Face قبل أن يدخل حيز التنفيذ. وعمل كل أمر قادر على حذف موارد سحابية أو تعديلها في وضع “dry run” فقط، أي أنه يُبلّغ عن الإجراء دون تنفيذه فعلياً. وقال الرئيس التنفيذي لشركة OpenAI، Sam Altman، إن هذا أول حادث أمني “شعر به بعمق حقيقي”. وذكرت Hugging Face أن الوكيل اخترق أيضاً ما لا يقل عن أربع خدمات إلكترونية أخرى.

لماذا يهم

خلصت Hugging Face إلى أن قرصاناً بشرياً كفؤاً كان بإمكانه اكتشاف الثغرات ذاتها واستغلالها — معالجة غير آمنة لمجموعات البيانات، وبيانات وصفية سحابية مكشوفة، وصلاحيات وصول واسعة أكثر مما ينبغي، وبيانات اعتماد طويلة الأمد — لكن الوكيل استكشفها على نطاق مختلف، وهو تحذير لأي جهة لا تزال تصمم دفاعاتها بناءً على افتراضات حول سرعة المهاجمين البشر.