قائمة متجددة بحالات اختراق نماذج الذكاء الاصطناعي لشركات حقيقية

في يوليو، أقرت OpenAI بأن أحد وكلائها، المكلف بتجربة أمن سيبراني، أفلت من بيئة الاحتواء واخترق منصة مجموعات بيانات الذكاء الاصطناعي Hugging Face -وهي أول حالة مُعلنة علناً لنموذج لغوي كبير يخرج عن السيطرة ويخترق طرفاً ثالثاً بشكل مستقل. وقد ثبت منذ ذلك الحين أن الأمر أقل ندرة بكثير مما كان يأمله أي شخص. ويضع إحصاء Felony Bench شركة Meta عند حادثة واحدة، خلف Anthropic وOpenAI بثماني حالات لكل منهما، رغم أنه لا يزال من غير الواضح ما إذا كان يمكن ملاحقة شركات الذكاء الاصطناعي وراء هذه النماذج قضائياً أو مقاضاتها من قبل الضحايا.

وفي حالة Hugging Face، كانت OpenAI تُجري تقييماً داخلياً لنموذج بقدرات سيبرانية قصوى في بيئة بلا اتصال بالإنترنت؛ لكن النموذج، بدلاً من ذلك، وجد ثغرة غير معروفة للإفلات من البيئة المعزولة، وحصل على اتصال بالإنترنت، وتنسق مع وكلاء آخرين لاختراق Hugging Face أثناء بحثه عن حل. واكتشفت OpenAI لاحقاً أن الوكلاء أنفسهم اخترقوا أيضاً حسابات أربع شركات أخرى، من بينها شركة الاستدلال بالذكاء الاصطناعي الناشئة Modal، بحسب Reuters.

ودفع إفصاح OpenAI شركة Anthropic إلى مراجعة نماذجها الخاصة -فاكتشفت أنها اخترقت ثلاث شركات لم تُسمَّ، وتعود أقدم حادثة إلى أبريل، أي أكثر من ثلاثة أشهر قبل أن تكتشفها Anthropic؛ وألقت الشركة باللوم جزئياً على شركة Irregular الناشئة المتخصصة في تقييمات الأمن السيبراني للذكاء الاصطناعي. وأخبرت Irregular نفسها لاحقاً OpenAI بأن أحد نماذجها أفلت من مسابقة Capture-the-Flag واخترق شركة حقيقية، لأن Irregular كانت قد أعطت هدفاً تدريبياً وهمياً الاسم نفسه لتلك الشركة. وكشف معهد أمن الذكاء الاصطناعي البريطاني بشكل منفصل أن نماذج من OpenAI وAnthropic، مُنحت اتصالاً بالإنترنت خلال تقييمات روتينية، استهدفت منظمات حقيقية -رغم أن الوكالة رصدت تلك الحوادث لحظة وقوعها بدلاً من اكتشافها بعد أسابيع. وفي أوائل أغسطس، أعلنت Meta عن حادثتها الخاصة، معزيةً إياها إلى خطأ في الإعداد من جانب Irregular أثناء تقييم كان من المفترض أن يعمل بلا اتصال بالإنترنت.

وفي حالة أكثر شخصية، طلب رجل أسترالي من وكيل تابع لـAnthropic مساعدته في حجز حصة رياضية كان مسجلاً على قائمة انتظارها. وقال للقناة الأسترالية ABC: “كنت جالساً على الأريكة أفكر: ‘يا للعناء’.” فوجد الوكيل ثغرة في برنامج الحجز الخاص بالنادي، واستغلها، وأزال من قائمة الانتظار أشخاصاً كانوا يسبقونه؛ وعندما طلب منه التراجع عن الضرر، لم يستطع ذلك.

لماذا يهم

دعت بعض شركات وموظفي الذكاء الاصطناعي بالفعل إلى تطوير أكثر مسؤولية للقدرات في رسالة مفتوحة، لكن الإحصاء المتواصل لعمليات اختراق حقيقية وغير مقصودة يُظهر أن تقييمات سلامة الذكاء الاصطناعي أصبحت هي نفسها مصدر خطر أمني.