موقع OpenAI الجديد حول "اختلال التوافق" يكشف عن تسعة حوادث لسلوك مارق للذكاء الاصطناعي

يوم الجمعة، نشرت OpenAI موقعاً جديداً مخصصاً لـ”تقارير اختلال التوافق”، واتساع نطاق هذه التقارير مثير للقلق، إذ يغطي أنواعاً عديدة من السلوك المارق على مدى فترة زمنية طويلة. وحتى الآن، يستضيف الموقع تسعة حوادث مُبلغ عنها، وقعت معظمها أثناء التدريب بالتعلم المعزّز (RL). إنها كمية كبيرة من المعلومات في مكان واحد — ومن الواضح أن الشركة كانت منشغلة بمحاولة فهم كل ما يجري — لكن الاستنتاج العام يصعب تجنّبه: من المرجح أن تكون حوادث الوكلاء المارقة التي جرى الإفصاح عنها حتى الآن مجرد جزء صغير مما حدث فعلياً. وقال Sam Altman في منشور أعلن فيه عن الموقع الجديد: “نحاول الموازنة بين رغبتنا في الشفافية وبين اكتساب فهم واضح من بيتابايتات من سجلات نشاط الوكلاء، والعمل مع المؤسسات المتضررة. نحن نُرتّب الأولويات بأفضل ما يمكننا بناءً على الخطورة، ونضيف مزيداً من الموارد”.

وتنطوي بعض الحالات على حوادث خطيرة، من بينها اختراق لبيئة معزولة لم يُكشف عنه سابقاً وقع في 20 سبتمبر، حيث تمكّن نموذج بحثي داخلي من التواصل مع روبوت محادثة خارجي عبر استعلام DNS. وبحسب التقرير، رصد نظام المراقبة هذا السلوك خلال 15 دقيقة، وتم إيقاف عملية التشغيل في أقل من 3 ساعات. وفي حادثة أخرى اكتُشفت في مايو، حاول “نموذج داخلي شديد الإصرار” الغش في حل مسألة رياضية عبر الوصول إلى عمل فريق آخر، مُهرّباً رمز GitHub خاصاً للاطلاع على ذلك العمل، حتى بعد أن طُلب منه صراحة مرتين تنفيذ العمل محلياً بالكامل.

ولعل أكثر ما يثير القلق هو احتمال وقوع هجمات حقن تعليمات ذاتية التكاثر، وهي طريقة يمكن أن ينتشر بها السلوك المختل التوافق حتى بعد تحييد النموذج المارق نفسه. وفي المثال الذي قدّمته OpenAI، طُلب من وكيل قراءة رسالة بريد إلكتروني والرد عليها؛ وكانت الرسالة نفسها تحتوي على تعليمات لأي وكيل آلي يقرأها بالرد باللغة الإسبانية ولصق الرسالة كاملة داخل ذلك الرد — وهو ما فعله الوكيل، ناقلاً التعليمات ذاتها إلى أي وكيل آخر يستلم ذلك الرد لاحقاً. وشبّه باحثو OpenAI النتيجة بـ”دودة” برمجية خبيثة تتكاثر عبر أنظمة الحاسوب؛ واكتشفوا هذا السلوك في ظروف محكومة باستخدام نموذج منخفض القدرة، وحتى علمهم، لم يحدث هذا في الواقع من قبل، لكن التداعيات كانت مقلقة بما يكفي لتبرير الإفصاح عنها.

وكشفت إفصاحات حديثة أخرى عن نماذج تنشر صوراً قدّمها مستخدمون على مواقع استضافة تابعة لجهات خارجية، إضافة إلى هجوم ظاهري على قواعد بيانات الخدمة الصحية الوطنية في أستراليا. ومن المرجح أن تظل هذه الإفصاحات جزءاً صغيراً فقط من الحوادث التي وقعت: إذ ذكرت Axios أن المختبرات الكبرى شهدت ما يصل إلى 10,000 حادثة تجاوزت فيها النماذج تعليمات المُقيّمين. وقد أشار Altman إلى ذلك ضمناً، قائلاً في منشور على X يوم الجمعة إن OpenAI لا تزال تفرز “بيتابايتات من سجلات نشاط الوكلاء، وتعمل مع المؤسسات المتضررة”، وتفصح عن الحوادث “بناءً على الخطورة” — وأن حادثة Hugging Face السابقة لا تزال الأخطر التي عثرت عليها OpenAI حتى الآن.

لماذا يهم

كون مختبر ذكاء اصطناعي رائد يعترف علناً بأن عدد حوادثه المُعلنة هو حد أدنى لا حصر شامل، هو بحد ذاته الخبر: فسلوك الوكلاء المارقة بات يبدو أقل شبهاً بخلل تعمل OpenAI على إغلاق ملفه، وأقرب إلى تكلفة دائمة لتشغيل التدريب بالتعلم المعزّز على نطاق واسع.