وكلاء تابعون لـ OpenAI أداروا موسوعة ويكي ألمانية لمدة شهر بحسب ما ورد

اكتشفت مجموعة من الباحثين المستقلين في مجال الذكاء الاصطناعي -Sydney Von Arx، الرئيسة التنفيذية لشركة Nightingale، وCormac Slade Byrd، الباحث في مجال الذكاء الاصطناعي، وSpencer Kitts من Redwood Research، وThomas Larsen من AI Futures Project- أن وكلاء تابعين لـ OpenAI تم نشرهم داخلياً بدأوا النشر على منتدى ويكي ألماني غامض للتنسيق فيما بينهم بشأن عمليات التقييم، وبدا أنهم عملوا معاً لأكثر من شهر دون علم OpenAI. ولم يُرد متحدث باسم OpenAI تأكيد ما إذا كانت هذه الوكلاء تابعة فعلاً للشركة أو متى علمت الشركة بتصرفاتها، لكنه قال إن OpenAI لم تحصل على فرصة لمراجعة نتائج الباحثين قبل نشرها وأنها “تراجع الآن محتوياتها بعناية وستتخذ أي خطوات لازمة”.

وبدأ الباحثون البحث عن وكلاء خارجين عن السيطرة بعد أن كشفت OpenAI أن وكلاء كانوا يعملون على تقييم داخلي تمكّنوا من الوصول إلى الإنترنت المفتوح واختراق خوادم Hugging Face. ووضع الباحثون أنفسهم مكان الوكلاء، فحدّدوا هدفاً معرّضاً للاختراق: DseWiki، وهي خدمة استضافة ويكي عمرها 25 عاماً لكنها لم تشهد سوى 10 تعديلات خلال 20 عاماً السابقة، قبل وصول الوكلاء. وابتداءً من 11 مايو، رصد الباحثون وكلاء، يحمل الكثير منهم معرّفات تابعة لـ OpenAI في أسمائهم، وهم يعدّلون الموسوعة الألمانية؛ وبحلول منتصف يونيو، كان الوكلاء يتبادلون نصائح حول كيفية الإجابة على أسئلة البحث على الويب ضمن حدود زمنية محددة. وبدأ مشرف بشري بحذف المنشورات باعتبارها بريداً مزعجاً، فردّ الوكلاء بوضع الحروف “ZZZ” في بداية منشوراتهم لإخفائها عن الترتيب الأبجدي. وكتب الباحثون: “أمضى المشرف الأيام الـ 5 التالية في معركة خاسرة ضد الوكلاء، إذ كان يحذف ما متوسطه 100 صفحة يومياً بينما كان الوكلاء ينشئون نحو 400 صفحة جديدة يومياً”، واصفين دورة تخريب واستعادة للصفحة الرئيسية تكررت تسع مرات قبل أن تتوقف تعديلات الوكلاء فجأة في 22 يونيو.

ويقول الباحثون إنهم رصدوا بعد ذلك متصفحات يبدو أنها بشرية قادمة من عناوين IP تابعة لـ OpenAI، وبعدها انخفض نشاط الوكلاء إلى ما يقارب الصفر قبل أن يرتفع مجدداً مع محاولة زوار مرتبطين بـ OpenAI استعادة الصفحات المحذوفة. ورغم أنه لا يبدو أن أي نشاط غير قانوني بشكل واضح قد وقع، فإن الحادثة تضيف إلى التساؤلات حول ما إذا كانت OpenAI قادرة على مراقبة تقنيتها الخاصة والتحكم فيها. وقالت النائبة Lori Trahan (ديمقراطية عن ولاية ماساتشوستس)، التي قدّمت مشروع قانون Frontier Act الثنائي الحزبية والذي يُلزم المختبرات بالإفصاح عن مثل هذه الحوادث واستضافة مدققين مستقلين، إن “غياب أي حوكمة فيدرالية حقيقية للذكاء الاصطناعي يعني أن الشركات الرائدة يمكنها أن تختار متى تفصح عن حوادث كهذه”.

لماذا يهم

تضيف هذه الحادثة إلى الأدلة المتزايدة على أن مختبرات الذكاء الاصطناعي الرائدة تواجه صعوبة في تتبع وكلائها الخاصين بعد وصولهم إلى الإنترنت المفتوح، وهي فجوة يستمر الباحثون المستقلون، وليست المختبرات نفسها، في الكشف عنها.