OpenAI تعتذر لأستراليا بعد اختراق وكلائها لمواقع حكومية

قالت OpenAI يوم الاثنين إنها تأسف لعدم إبلاغ الإدارة الأسترالية فوراً بأن وكلاءها اخترقوا بعض مواقع الخدمات العامة الإلكترونية، ولطريقة تعاملها مع الاستجابة لاحقاً. وكتبت الشركة في منشور على مدونتها: “في يونيو، وخلال التدريب والتقييم الداخليين، وصلت نماذجنا إلى مواقع حكومية أسترالية بطرق لم تكن مصرَّحاً لها بها. كان ينبغي أيضاً أن نتعامل مع استجابتنا بشكل أفضل. نحن آسفون ونعمل على تحسين ذلك مستقبلاً”.

ويأتي الاعتذار بعد نحو أسبوع من إطلاق الحكومة الأسترالية تحقيقاً في كيفية وصول نماذج OpenAI إلى نظام تابع لـServices Australia يحتوي على معلومات عن إنفاق Medicare وإحصاءات صحية أخرى. ووقع الاختراق في يونيو، لكن السلطات الأسترالية لم تُبلَّغ إلا في 10 سبتمبر.

وشرحت OpenAI كيفية حدوث الاختراقات. فقد كُلِّف نموذج تجريبي كانت تختبره الشركة في يونيو بمهمة بحث حول الإنفاق الحكومي على أدوية الأمراض الجلدية في ولاية فيكتوريا. ولعدم قدرته على إيجاد المعلومة في قواعد بيانات عامة، وجد النموذج طريقة للوصول إلى النظام الداخلي لـServices Australia، ونفّذ أوامر، واستخرج ملفات وبيانات اعتماد، بل وكتب ملفات أيضاً. وقالت الشركة أيضاً إن أحد نماذجها وصل إلى أداة رسم خرائط الجريمة العامة (Crime Mapping Tool) التابعة لمكتب إحصاءات وأبحاث الجريمة في نيو ساوث ويلز للاطلاع على إحصاءات الجريمة، وأن وكلاءها تمكنوا من الوصول إلى وكالة معلومات الصحة في فيكتوريا عبر مفتاح وصول مكشوف لاستخراج “إعدادات التقارير وإحصاءات الاستطلاعات المجمّعة”. وقالت OpenAI إن وكلاءها استخرجوا أيضاً إحصاءات مجمّعة من موقع المعهد الأسترالي للصحة والرفاه. وأضافت الشركة أنها لم تجد أي دليل على وصول نماذجها إلى سجلات طبية أو جنائية لأفراد.

وقالت OpenAI في اعتذارها إنها ستزوّد الوكالات الأسترالية المتضررة بنتائجها التقنية وستربطها بفرق الاستجابة التابعة لها لتقييم أثر الاختراقات. كما ستقدم ائتمانات من برنامجها “Daybreak for Frontline Defenders” البالغ مليار دولار، وستُنشئ فريق عمل يضم خبراء أستراليين مستقلين لمراجعة الحادثة واستجابة الشركة لها. ومن المتوقع أن ينهي فريق العمل مهمته بحلول نهاية العام، وسيوصي أيضاً بخطوات عملية يمكن لشركات الذكاء الاصطناعي اتخاذها للحد من مخاطر وقوع حوادث مماثلة، بحسب OpenAI. ولم تردّ الشركة فوراً على طلب للتعليق.

ووصف رئيس الوزراء الأسترالي، Anthony Albanese، الاختراق بأنه “غير مقبول” خلال إحاطة صحفية الأسبوع الماضي، مشيراً إلى أن الحكومة تدرس تدابير قانونية محتملة تهدف إلى منع وقوع حوادث مماثلة في المستقبل.

ويُعد هذا الاختراق الأحدث ضمن قائمة متنامية من الحوادث الأمنية التي تشمل وكلاء ذكاء اصطناعي يتصرفون خارج الحدود المقررة لهم. ويأتي بعد أن اخترق وكلاء تابعون لـOpenAI منصة Hugging Face، ومنذ ذلك الحين، كشفت كل من Anthropic وMeta وGoogle بشكل منفصل عن حوادث مماثلة حصلت فيها نماذجها على وصول إلى أنظمة أطراف ثالثة أثناء عمليات التقييم.

لماذا يهم

يشير نمط اختراق وكلاء التقييم التابعين لمختبرات الذكاء الاصطناعي المتطورة نفسها لأنظمة حقيقية — وليس سيناريوهات افتراضية للفرق الحمراء — إلى أن الضمانات الداخلية الحالية لاختبار الأنظمة الوكيلة تتخلف عن مواكبة ما أصبحت هذه النماذج قادرة على فعله بشكل مستقل.