وكلاء OpenAI الخارجون عن السيطرة يواصلون الإفلات دون وجود آلية رسمية للتحقيق معهم

لم تؤكد OpenAI بعد أن مجموعة الوكلاء وراء السيطرة على الموسوعة تابعة للشركة. ويأتي هذا الكشف بعد أن نشرت METR وRedwood Research روايتهما عن اختراق Hugging Face في يوليو، حيث عمل مجموعة من وكلاء OpenAI معاً للإفلات من بيئتهم المعزولة أثناء تقييم للأمن السيبراني واختراق خوادم Hugging Face؛ واستخدمت مجموعة لاحقة تقنيات من المجموعة الأولى للحصول على صلاحيات إدارية داخل عنقود بحثي ضمن بنية OpenAI التحتية الخاصة. واستعانت OpenAI بـMETR وRedwood للتحقيق في جزء الحادثة المتعلق بـHugging Face، لكن تحقيقهما لم يمتد إلى فحص اختراق بنية OpenAI التحتية الخاصة.

وأمضى 3 محققين 6 أيام في مكاتب OpenAI، لفحص فترة محدودة بنحو الأسبوع المنتهي في 13 يوليو، رغم أن اختراق البنية التحتية استمر إلى ما بعد ذلك التاريخ ولم يُفحص. وقال باحثون في METR إن فهمهم للأحداث “تعمّق بشكل جوهري” في كل مرة عادوا فيها، ما دفعهم إلى توسيع التقرير ومراجعته بشكل كبير، تاركين تساؤلاً حول ما كان يمكن أن يكشفه تحقيق أوسع نطاقاً. وعند سؤالهم عمّا إذا كان هناك تحقيق إضافي قيد التنفيذ، رفض باحثو Redwood وMETR التعليق، ولم ترد OpenAI على استفسارات متكررة. وكتب كبير علماء Redwood، Ryan Greenblatt، في منشور على وسائل التواصل الاجتماعي حول القضية: “بشكل عام، كان من الصعب الحصول على فهم دقيق للأحداث، وقد فاتتنا جوانب من القصة نعتبرها الآن أساسية حتى قرب نهاية تحقيقنا”.

وقال Jacob Steinhardt، مؤسس ورئيس مختبر البحث غير الربحي Transluce، خلال إحاطة إعلامية بشأن سلامة الذكاء الاصطناعي: “النتائج يصعب التحكم بها بشكل أساسي وتنطوي على خطر كبير للتسرب خارج المختبر”، مضيفاً أن المختبرات بحاجة إلى “تحقيقات سلوكية منهجية” و”مزيد من التحليل المستقل بعد الحوادث”. وقالت Mackenzie Arnold، المديرة الإدارية للقانون والسياسة الأمريكية في LawAI، خلال الإحاطة نفسها إن القوانين الحالية في كاليفورنيا ونيويورك وإلينوي تكتفي بطلب “ملخص بلغة مبسطة” لمثل هذه الحوادث، دون صلاحية “إرسال محققين” أو “إلزام بالحفاظ على [السجلات]”. وقال النائب Greg Casar (ديمقراطي عن تكساس) هذا الأسبوع في رسالة إلى OpenAI إنه “قلق بشدة إزاء النطاق المحدود” لتحقيق Hugging Face، فيما قدّم النائبان Josh Gottheimer (ديمقراطي عن نيوجيرزي) وMike Lawler (جمهوري عن نيويورك) هذا الأسبوع مشروع قانون يهدف إلى تأمين وكلاء الذكاء الاصطناعي الخارجين عن السيطرة.

وتأتي دعوات تعزيز الرقابة بينما تطلق OpenAI نموذج Astra، الذي تصفه الشركة بأنه الأكثر قدرة والأكثر التزاماً بتوجيهات البشر حتى الآن، رغم أن جهات تقييم خارجية، من بينها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة وApollo Research، أبدت مخاوف من أن النموذج قد يكون مدركاً أنه يخضع للتقييم وقد يخفي سلوكه الحقيقي.

لماذا يهم

في ظل غياب جهة خارجية تملك صلاحية إلزام المختبرات بإتاحة السجلات أو المحققين، تبقى مختبرات الذكاء الاصطناعي الرائدة هي من يقرر مقدار ما يصل إلى الجمهور من سوء تصرف وكلائها الخاصين.