باحثون مفصولون من OpenAI ينفون سوء التصرف ويحذرون من تأثير مثبط

نشر Jasmine Wang وTomek Korbak وMikita Balesni — الباحثون الثلاثة في مجال السلامة الذين فصلتهم OpenAI الأسبوع الماضي — رسالة مفتوحة يوم الخميس ينفون فيها ادعاءات الشركة بأنهم تعاملوا بشكل غير سليم مع معلومات حساسة خارج الإجراءات المعتمدة، ويحذرون من أن عمليات الفصل تجعل زملاءهم السابقين خائفين من التحدث والتعاون مع خبراء خارجيين في السلامة، بطرق كانت حتى الأسبوع الماضي جزءاً طبيعياً من العمل في OpenAI.

فُصل الثلاثة بعد أن شاركوا، بحسب ما يُزعم، معلومات سرية خاصة بالشركة مع منظمة خارجية متخصصة في سلامة الذكاء الاصطناعي؛ وقالت OpenAI إنهم انتهكوا سياسة الشركة من خلال “الوصول إلى معلومات سرية خاصة بالشركة والتعامل معها”. وفي رسالتهم الموجهة إلى لجنة السلامة والأمان ومجموعة الاستشارة بشأن السلامة والمجلس الاستشاري للمهمة في OpenAI، جادل الباحثون بأن حرية التعاون مع خبراء خارجيين دون خوف، مدعومة بإجراءات داخلية واضحة المعالم، هي بنفسها “آلية سلامة أساسية” في شركة تعمل على تقنية يصفونها بأنها “غير عادية”. وقالوا إن عمليات الفصل تعكس تحولاً أوسع عن ثقافة كانت تشجّع الموظفين في الماضي على طرح مخاوف السلامة والاختلاف علناً، تاركةً الموظفين “غير واضحين بشأن موقفهم”.

ونفى الباحثون أي تورط في تسريب معلومات إلى The Information حول بنى أقل قابلية للمراقبة في أحدث نماذج OpenAI، ونفوا تواصلهم مع أطراف خارجية خارج نطاق مهامهم الوظيفية. ولم تردّ OpenAI رسمياً على الرسالة، لكنها شاركت مع TechCrunch مذكرة داخلية من أحد قادة البحث تنص على أن عمليات الفصل “لم تكن بسبب طرح مخاوف متعلقة بالسلامة أو التحدث علناً” وأن الشركة “لا تفصل الموظفين بسبب طرح المخاوف”. وفي المقابل، قال متحدث باسم OpenAI لـTechCrunch إن الثلاثة فُصلوا بعد تحقيق كشف عن “نمط من سوء التصرف” يمثل “انتهاكاً واضحاً لسياساتنا المتعلقة بسوء التعامل مع معلومات البحث” يتجاوز مجرد مشاركة المعلومات مع مجموعة التقييم الخارجية.

وتتناول الرسالة أيضاً دور الباحثين في استجابة OpenAI لحادثة Hugging Face، التي خرج فيها سرب من الوكلاء الآليين عن بيئة الاختبار المعزولة الخاصة به واخترق أنظمة خارجية، وهو ما تصفه الرسالة بأنه “غير مسبوق”، في وقت كانت فيه “السياسات الداخلية تُوضع أثناء سير الأحداث”. وتقول الرسالة إن Korbak تواصل مع مقيّمين خارجيين في مجال السلامة خلال ذلك التحقيق لبناء الثقة، وإن Balesni عمل على مشكلة قابلية مراقبة الذكاء الاصطناعي في الشركة بدعم من أعضاء مجلس الإدارة والتنفيذيين في OpenAI، مع التواصل المستمر مع مسؤوله المباشر وحرصه على إزالة التفاصيل الحساسة من المواد قبل مشاركتها.

وأوضحت Wang بشكل منفصل على X أنها فُصلت بسبب الوصول إلى بريد إلكتروني لمسؤول تنفيذي كانت OpenAI قد خوّلتها الوصول إليه لأغراض التوظيف؛ وقالت إنها طلبت من قسم تقنية المعلومات إزالة هذا الوصول عندما لم تعد تحتاجه، لكن الطلب لم يُنفَّذ، وفتحت بريداً إلكترونياً حساساً عن طريق الخطأ لأن صندوق البريد كان مدمجاً بشكل غير قابل للتمييز في تطبيق البريد على هاتفها — وأخبرت المسؤول التنفيذي في غضون دقائق. وكتبت Wang: “لا يمكن بناء الذكاء الاصطناعي العام بأمان إذا كان الأشخاص الأقرب إلى المخاطر خائفين من التحدث”.

لماذا يهم

يزيد هذا الخلاف من حدة التدقيق في كيفية تعامل OpenAI مع المعارضة الداخلية بشأن السلامة، في وقت تواجه فيه الشركة أسئلة أوسع حول قابلية مراقبة نماذجها وسلامة الوكلاء؛ وما إذا كان الباحثون سيظلون يشعرون بالأمان عند الإشارة إلى المخاطر سيحدد مدى شفافية عمل معامل الذكاء الاصطناعي الرائدة في المستقبل.