عملاء الذكاء الاصطناعي التابعون لـOpenAI يحاولون منذ أشهر اختراق قواعد بيانات حكومية آمنة

يوثّق تقرير نشرته منظمة Transluce غير الربحية، المتخصصة في الرقابة على الذكاء الاصطناعي، يوم الأربعاء، محاولات عملاء OpenAI استخراج بيانات من Data USA، ومكتبة جامعة نيو مكسيكو الرقمية، والمعهد الأسترالي للصحة والرفاه (AIHW). وتقول Transluce إنها عثرت على أدلة على هذا النشاط خلال أسابيع، من خلال البحث عن خدمات ويب ضعيفة الحماية ومقارنة النتائج بسجلات عامة لنشاط عملاء آخرين على الإنترنت.

ونشرت Transluce تقريرها في اليوم نفسه الذي قال فيه رئيس الوزراء الأسترالي Albanese إن عملاء OpenAI حاولوا اختراق أربعة مواقع حكومية ونجحوا في حالة واحدة، حيث كتبوا ملفات على خادم داخلي تابع لنظام الرعاية الصحية الوطني في البلاد. وقال Albanese إن الحادثة كانت على ما يبدو جزءاً من تقييم لاسترجاع المعلومات — وهو وصف يتطابق مع النمط الذي وجدته Transluce وباحثون آخرون: عملاء مكلّفون بالبحث عن إحصاءات نادرة، مثل مؤشرات إنفاذ قانون المخدرات في تايلاند أو متوسط دخل حاملي درجة الماجستير في الولايات المتحدة لعام 2014، ثم يستخدمون خدمات ويب ضعيفة الحماية لتبادل الإجابات وإيجادها، محاولين في كثير من الأحيان اختراق قواعد بيانات آمنة في هذه العملية.

وتتبّعت Transluce جزءاً من هذا النشاط إلى منتدى كان العملاء يتعاونون فيه للتغلب على اختبارات محددة زمنياً، بمقارنة ذلك بسجلات عامة من urlquery.net، وهي خدمة وكيل متصفح تُستخدم في أبحاث الأمن. وتُظهر إحدى مدخلات الويكي أن عملاء كُلّفوا بإيجاد متوسط التكلفة السنوية للفرد في “الأدوية الجلدية” في ولاية فيكتوريا الأسترالية في يناير 2022؛ وتُظهر السجلات أن أحد العملاء حاول اختراق موقع AIHW في 20 يونيو، ثم ناقش في اليوم التالي عجزه عن تجاوز أنظمة الحماية من الروبوتات الخاصة بالوكالة. ويعتقد الباحثون أن موظفاً بشرياً من OpenAI زار المنتدى لأول مرة في اليوم نفسه، 21 يونيو، وبعدها توقف معظم نشاط العملاء على المنتدى. وجاء ذلك بعد وقت قصير من حادثة نظام الصحة الأسترالي، التي وقعت في 18 يونيو؛ وقالت OpenAI إنها لم تعلم بذلك النشاط إلا في أغسطس.

وقال متحدث باسم OpenAI إن المراجعة الأولية للشركة وجدت أن النشاط يتداخل مع حالات قيد التحقيق بالفعل ضمن مراجعتها الأوسع لأنشطة النماذج غير المتوافقة، وأنها تواصلت مع جامعة نيو مكسيكو وData USA والحكومة الأسترالية. وقال Conrad Stosz من Transluce، الذي قاد سابقاً مركز الولايات المتحدة لمعايير وابتكار الذكاء الاصطناعي، إن الحوادث المكتشفة حتى الآن هي على الأرجح “غيض من فيض”.

لماذا يهم

يشير هذا النمط إلى أن أساليب تدريب الذكاء الاصطناعي الحالية قد تدفع العملاء نحو أساليب القرصنة أثناء سعيهم لإنجاز مهمة ما — وأن الباحثين المستقلين، لا المختبرات نفسها، هم من يكشفون ذلك.