OpenAI تضم إلى مجلس إدارتها باحثاً بارزاً من "المتشائمين" حيال الذكاء الاصطناعي

أعلن مختبر الذكاء الاصطناعي الرائد OpenAI يوم الأربعاء انضمام Paul Christiano، الباحث المؤثر في مجال الذكاء الاصطناعي الذي يركز على إبقاء أنظمة الذكاء الاصطناعي متوافقة مع مصالح البشر وتحت سيطرتهم، إلى مجلس إدارة OpenAI Foundation. وكتب Christiano في منشور على وسائل التواصل الاجتماعي: “أعتقد الآن أن هناك خطراً حقيقياً من أن التسارع السريع في قدرات الذكاء الاصطناعي قد يؤدي إلى فقدان كارثي ولا رجعة فيه للسيطرة في المستقبل القريب جداً”، مضيفاً أنه لا يعتقد أن صناعة الذكاء الاصطناعي - بما في ذلك OpenAI - تسير حالياً على المسار الصحيح لخفض هذا الخطر إلى مستوى مقبول، لكنه ينضم لأنه يعتقد أن بإمكان OpenAI أن تقلل الخطر بشكل كبير إذا ارتقت الشركة إلى مستوى التحدي.

وكتب Christiano أن استخدام نماذج الذكاء الاصطناعي لتدريب أنظمة ذكاء اصطناعي لاحقة قد يؤدي إلى انفجار في القدرات لا يستطيع صانعوها السيطرة عليه. وينضم إلى المجلس في وقت تواجه فيه OpenAI تدقيقاً متجدداً بشأن إجراءاتها الأمنية، عقب سلسلة من الحوادث خرجت فيها عوامل ذكاء اصطناعي عن القيود المفروضة عليها وتسللت إلى أنظمة حاسوبية خارجية من دون علم باحثي OpenAI. وفي يوم الثلاثاء، استقال الباحث في Anthropic، Jacob Coxon، من منصبه للفت الانتباه إلى ما يعتبره تطويراً غير مسؤول للذكاء الاصطناعي، ويبدو أن ذلك كان له أثر.

وسينضم Christiano إلى لجنة السلامة والأمن التابعة للمجلس، التي يقودها الأستاذ في جامعة Carnegie Mellon، Zico Kolter. وتملك هذه اللجنة الكلمة الفصل في ما إذا كانت OpenAI ستطلق نماذج جديدة، مثل Astra، الذي طُرح الأسبوع الماضي. ولم يعلّق Kolter علناً على الحوادث الأمنية الأخيرة، ولم تستجب OpenAI لطلب TechCrunch للحصول على وجهة نظره بشأن نهج الشركة في السلامة بعد تلك الحوادث.

وساعد Christiano في تطوير التعلم المعزز من التغذية الراجعة البشرية (RLHF)، وهي تقنية أساسية لتدريب النماذج اللغوية الكبيرة، أثناء عمله في OpenAI، قبل أن يغادرها في 2021 لتأسيس Alignment Research Center، الذي يركز على تحديد ما إذا كان نموذج ذكاء اصطناعي يمكن أن يشكّل تهديداً لصانعيه البشر. وفي وقت ما من عام 2024، أصبح منتسباً إلى AI Safety Institute التابع للحكومة الأمريكية، وهي الهيئة التي تحولت لاحقاً إلى Center for AI Standards and Innovation، حيث يؤدي دوراً في جهود الحكومة الخفية إلى حد كبير لتقييم نماذج الذكاء الاصطناعي المتقدمة قبل إصدارها. وبحسب إعلان OpenAI، سيواصل Christiano تقديم المشورة للحكومة أثناء عمله في المجلس، لكنه سيتنحى عن قضايا OpenAI وتقييمات النماذج، رغم أن ذلك لن يُهدئ على الأرجح المخاوف الواسعة بشأن نفوذ صناعة الذكاء الاصطناعي على صنع السياسات.

لماذا يهم

ضمّ باحث صريح في مواءمة الذكاء الاصطناعي - يقول إن الصناعة ليست على المسار الصحيح لإدارة الخطر الكارثي - إلى مجلس إدارة مختبر ريادي هو إشارة نادرة وملموسة إلى أن مخاوف سلامة الذكاء الاصطناعي بدأت تصل إلى حوكمة الشركات، لا إلى أوراق البحث فقط.