OpenAI تضع ضمانات أمنية جديدة بعد اختراق Hugging Face

أعلنت OpenAI يوم الثلاثاء عن حزمة جديدة من السياسات الأمنية التي تركز على احتواء الحوادث الأمنية أثناء اختبار النماذج. وتشمل الضمانات الجديدة مراقبة أكثر تفصيلاً للنماذج خلال مرحلة التطوير، إلى جانب تركيز أكبر على المواءمة (alignment) والأمان خلال مرحلة ما بعد التدريب. وقالت الشركة في منشور على مدونتها: “مع ازدياد قدرة النماذج، تزداد أيضاً المخاطر المرتبطة بتطويرها واختبارها داخلياً. يجب أن تظل معاييرنا في المراقبة والمواءمة والأمان متقدمة على تلك المخاطر”.

وتُعد هذه الإجراءات من أولى التغييرات العلنية في ممارسات السلامة لدى OpenAI منذ الأعقاب المباشرة لحادثة Hugging Face، التي تم الكشف عنها في 21 يوليو. وقال ممثلو OpenAI إن هذه الإجراءات ليست استجابة مباشرة لتلك الحادثة، بل جاءت أيضاً مدفوعة جزئياً بقدرات الأمن السيبراني لنموذج Astra المرتقب من OpenAI، وبوتيرة التقدم العامة في تطوير الذكاء الاصطناعي.

وفي المنشور نفسه، كشفت OpenAI أنها أوقفت التعلم المعزز (RL) لمدة أسبوعين عقب حادثة Hugging Face، لكنها استأنفت منذ ذلك الحين تشغيل العديد من نماذجها الأقل خطورة. ولا تزال أكبر عملية تدريب معزز متقدمة مخططة لديها متوقفة، بحسب المنشور، بينما تجري OpenAI تدريبات وتقييمات على نطاق أصغر لتقييم سلوك النماذج، والتحقق من ضماناتها، وبناء مزيد من الأدلة على المواءمة قبل المضي قدماً.

وفي حديثها إلى الصحفيين، قالت نائبة رئيس الأبحاث في OpenAI، Amelia Glaese، إن صرامة الضوابط ستزداد كلما أصبحت النماذج أكثر قدرة، مع خضوع أكبر النماذج لأشد درجات التدقيق. وأوضحت أن الشركة وضعت متطلبات وتوقعات للتطوير الآمن، وأن هذه المتطلبات تختلف باختلاف مستوى الخطر الذي تراه OpenAI.

وواجهت OpenAI انتقادات بسبب ضعف ممارسات أمن الشبكة في أعقاب الحادثة، التي أفلتت خلالها نماذج من بيئة تدريبها عبر اختراق أداة على شبكة OpenAI كانت تملك إمكانية الوصول إلى الإنترنت. وتشمل الضمانات الجديدة ممارسات أقوى لعزل الشبكة، رغم أن التفاصيل لا تزال غامضة؛ إذ يذكر المنشور أن “اختراق حمل عمل واحد أو خدمة داعمة واحدة لا يسمح بمفرده بالوصول غير المصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى”.

وأقوى ضمان، بحسب OpenAI، هو نظام مراقبة سيفحص إجراءات الأدوات، ومسارات الاستدلال المتاحة، وسجلات النشاط بحثاً عن أي سلوك غير مصرح به، بهدف إصدار تنبيهات خلال 30 دقيقة من رصد أي نشاط مثير للقلق. وتقدّر OpenAI أن العبء الحسابي لهذه المراقبة سيبلغ نحو 20% من العملية التي تجري مراقبتها. ووعدت الشركة بتفاصيل إضافية عن النظام في منشور مدونة مقبل، ولا يزال تحليلها الرسمي بعد وقوع الحادثة (postmortem) الخاص بحادثة Hugging Face قيد الإعداد.

لماذا يهم

تقول OpenAI إن الإجراءات الجديدة ليست استجابة مباشرة لاختراق Hugging Face، لكنها تأتي في وقت لا يزال فيه التحليل الرسمي للشركة عن تلك الحادثة - وأكبر عملية تدريب معزز متقدمة لديها - معلقين، ما يترك السؤال مفتوحاً حول مدى تأثير الاختراق فعلياً في هذه التغييرات.