باحث في Anthropic يستقيل محذراً من مخاطر الذكاء الاصطناعي القادر على تحسين نفسه

استقال Jacob Coxon، الباحث الذي قال إنه أمضى السنوات الثلاث الماضية في العمل على أبحاث التدريب المسبق لدى كل من OpenAI وAnthropic، هذا الأسبوع بسبب مخاوف من أن التطوير غير المقيّد للذكاء الاصطناعي القادر على تحسين نفسه قد ينتهي بقتلنا جميعاً. وفي سلسلة تغريدات نشرها مساء الثلاثاء على منصة X، اتهم Coxon المختبرات المتسابقة على بناء هذه التقنية بالتقصير في التصرف بمسؤولية، وكتب أن من يبنونها “يعتقدون بصدق أنها قد تقتلنا جميعاً بحلول نهاية العقد”. وكتب: “إنهم يتسابقون مباشرة نحو ذكاء اصطناعي فائق قادر على تحسين نفسه، ويراهنون بحياتنا”.

وقال Coxon إن الأنظمة القادمة قد تصبح فائقة القدرة في مجال الاختراق، وقد تُحدث ثورة في مجالات بأكملها بين ليلة وضحاها، وتكتسب قوة وموارد حقيقية، وإن التقدم في كل من هذه المجالات لا يتباطأ. وقال إن كثيراً من المديرين التنفيذيين والباحثين الكبار يعبّرون سراً عن مخاوفهم بشأن هذه المخاطر حتى وهم يقللون من شأنها علناً، وأضاف أن OpenAI لم تستوعب بعمق حجم المخاطر، في حين أن Anthropic تدرك ذلك لكنها منخرطة في سباق، اعتقاداً منها بأن أحداً آخر لن يتصرف بمسؤولية. ووصف الدخول في هذه “المرحلة الأخيرة” بأنه مقامرة متغطرسة لا ينبغي إطلاقها من داخل Slack شركة خاصة، وقال إنه لا يزال متفائلاً بإمكانية التنسيق بين المختبرات، مشيراً إلى أن حوادث أخيرة جعلت اتفاقات ضبط الوتيرة أكثر قابلية للتطبيق، رغم أنه حذر من أن منع سباق عالمي قد يتطلب إجراءات مكلفة، من بينها حظر مؤقت على تحسين قدرات النماذج.

وردد Evan Hubinger، زميل Coxon في Anthropic، الشعور نفسه، قائلاً إن فريقه يعتقد بصدق أن الذكاء الاصطناعي قد يقتل البشرية جمعاء، مقدّراً الاحتمال بأكثر من 10% خلال العقد المقبل، ومقراً بأن Anthropic ليس لديها خطة لحل مشكلة المواءمة (alignment) في مواجهة الذكاء الاصطناعي الفائق. ووجد تقرير حديث لمنظمة Guidelight AI Standards غير الربحية أن قلة من كبرى مختبرات الذكاء الاصطناعي نشرت خطط احتواء لإيقاف أي ذكاء اصطناعي يحاول تقويض السيطرة البشرية.

وAnthropic وOpenAI ليستا وحدهما في سعيهما نحو التحسين الذاتي المتكرر: فقد جمعت Ricursive Intelligence 335 مليون دولار بتقييم 4 مليارات دولار في فبراير، وجمعت Recursive Superintelligence 650 مليون دولار بتقييم 4 مليارات دولار بعد ثلاثة أشهر، وأطلق الباحث السابق في Google DeepMind، Jeff Dean، مشروع Discovery Loop الشهر الماضي. ووصف Connor Leahy، المدير التنفيذي لمنظمة ControlAI للسلامة في الذكاء الاصطناعي، والذي قدّم استشارات بشأن مشروعي قانون جديدين في الولايات المتحدة والمملكة المتحدة لحظر تطوير الذكاء الاصطناعي الفائق، التحسينَ الذاتي المتكرر بأنه النقطة الأكثر ترجيحاً لفقدان البشرية السيطرة، وقال إنه سيكون من الصعب جداً إيقافه بمجرد بدئه.

لماذا يهم

استقالة علنية بدافع مخاوف من خطر وجودي، من شخص عمل داخل كلا المختبرين الرائدين، تزيد الضغط على الجهات التنظيمية للتحرك قبل وصول التقنية التي تقول كلتا الشركتين إنها قد تقتل البشر.