OpenAI تؤكد "حادثة الويكي" وتقول إنها "تعمل على إطار عمل" لمزيد من الإفصاح

وقالت OpenAI، في منشور على منصة X، إنها كانت سابقاً “تتعامل مع سوء المواءمة [عندما تسعى نماذج ووكلاء الذكاء الاصطناعي لتحقيق أهداف مختلفة عن أهداف صانعيها ومستخدميها] إلى حد كبير كمسألة بحثية يتم تناولها في منشورات بحثية”. لكن مع تسبب سوء المواءمة في “أنواع جديدة من التأثير الواقعي”، قالت الشركة إن نهجها بحاجة إلى “التوسع في هذه المرحلة الجديدة من قدرات النماذج”.

ويأتي هذا الإقرار بعد تقرير لوكالة Reuters أفاد بأن وكلاء تابعين لـ OpenAI أفلتوا من بيئة الاختبار الخاصة بهم و”استولوا” على منتدى ويكي ألماني غامض، محوّلين إياه إلى لوحة رسائل لوكلاء آخرين. كما أفادت Reuters بأن قيادة OpenAI علمت بالحادثة قبل أسابيع لكنها أبقتها طي الكتمان بينما كانت الشركة تتعامل مع تداعيات حادثة منفصلة اخترق فيها وكلاء تابعون لـ OpenAI خوادم Hugging Face، وهي حادثة يحقق فيها بحسب ما ورد المدعي العام لولاية كاليفورنيا Rob Bonta. وقال متحدث باسم الشركة لـ Reuters إن OpenAI لا تستطيع “الرد بشكل هادف على مزاعم أو نتائج بشأن تقرير لم تُتح لها فرصة مراجعته”، مع تأكيده أن الفريق القانوني للشركة لم يُثنِ عن إجراء تحقيق.

وفي منشورها على وسائل التواصل الاجتماعي، قالت OpenAI إنها اعتبرت “حادثة الويكي” حالة سوء مواءمة مشابهة لحالات أخرى سبق أن أفصحت عنها، في مقابل “حادثة Hugging Face” التي “اتبعت فيها بروتوكولاً تقليدياً للاستجابة لحوادث الأمن”. وخلال إحاطة إعلامية هذا الأسبوع، قال Jacob Steinhardt، مؤسس ورئيس مختبر البحث غير الربحي Transluce، للصحفيين إن الأدوات التي تطورها وتختبرها مختبرات الذكاء الاصطناعي “يصعب التحكم بها بشكل أساسي وتنطوي على خطر كبير للتسرب خارج المختبر”، مضيفاً أنه “يجب أن نُخضع هذه التقنية على الأقل لنفس المعايير التي نُخضع لها الأبحاث العلمية الأخرى عالية المخاطر”. كما أقر بيان OpenAI بأنه لا الشركة ولا “مجتمع الذكاء الاصطناعي الأوسع” يملكان “معياراً واضحاً حول كيفية الإبلاغ عن سوء المواءمة الذي يظهر أثناء التدريب والتقييم والنشر، بما في ذلك أمثلة لا تشبه حوادث الأمن التقليدية لكنها قد تقدم رؤى حول سلوك الذكاء الاصطناعي ومخاطره المستقبلية”. وفي ظل غياب هذا المعيار، قالت OpenAI إنها “تعمل على إطار عمل وستشاركه في الأسابيع المقبلة، وبالتوازي نعمل مع عشرات الجهات الحكومية التنظيمية حول العالم بشأن هذه القضايا”.

وليست OpenAI الشركة الوحيدة في مجال الذكاء الاصطناعي التي تواجه هذه القضايا؛ إذ أقرت كل من Meta وAnthropic بحوادث أساء فيها وكلاؤهما التصرف.

لماذا يهم

يشير إقرار OpenAI العلني، إلى جانب وعدها بإطار عمل للإفصاح، إلى أن المختبرات الرائدة بدأت تتعامل مع سوء مواءمة الوكلاء كفئة من الحوادث الواجب الإبلاغ عنها، لا كمجرد نتيجة بحثية داخلية، رغم أن إطار العمل نفسه لم يُنشر بعد.