تحذير من Anthropic في نموذج S-1A: اقتراب ذكاء اصطناعي يحسّن نفسه ذاتياً

يتضمن نموذج S-1A المعدّل الذي قدّمته Anthropic يوم الاثنين، إلى جانب بيانات مالية محدّثة تُظهر ارتفاعاً في الإيرادات والنفقات معاً، إضافة لافتة إلى قسم عوامل الخطر: تحذير من أن المختبر قد يستوفي قريباً حدّه الداخلي لـ RSI، وهي النقطة التي يصبح فيها النموذج جيداً بما يكفي في تدريب نفسه بحيث تتسارع قدرات الذكاء الاصطناعي بشكل كبير. ويشير الإفصاح إلى أن تقديرات Anthropic الداخلية وتوقعاتها بشأن النماذج المقبلة، لا النماذج الحالية، تشير إلى أنها قد تبلغ قريباً جداً الحد الذي تضعه سياسة التوسع المسؤول الخاصة بها لما تسمّيه تقدماً متسارعاً بشكل كبير بفعل الذكاء الاصطناعي.

كشفت الشركة أيضاً أنها سبق أن بنت نماذج لم تلاحظ وقتها حجم الطفرة في قدراتها: وجاء في الإفصاح: “لم نحدد في الماضي، وقد لا نحدد في المستقبل، تسارعاً كبيراً في معدل تطورنا إلا بعد حدوثه”. وتصف Anthropic RSI بأنه يحمل وعداً وخطراً في آن واحد — وعد بذكاء اصطناعي يحسّن نفسه بشكل موثوق ليصبح أداة لإنتاجية هائلة وتقدم علمي، وخطر يتمثل في أن استخدام الذكاء الاصطناعي لتسريع تطوير ذكاء اصطناعي آخر قد يُحدث مخاطر أمنية إذا تسارع التقدم بشكل حاد.

ومع ذلك، تقول Anthropic إن أياً من نماذجها الحالية لم يتجاوز حدّ RSI، وتتعهد بإبقاء البشر جزءاً من تطوير النماذج المتقدمة في الوقت الراهن، قائلة إنها لا تتوقع أن تسمح لـ Claude بتصميم وبناء نماذج لاحقة بشكل مستقل تماماً دون إشراف بشري فعلي حين يصبح ذلك ممكناً تقنياً، وإنها تدرس تحديث سياسة التوسع المسؤول الخاصة بها للحفاظ على هذا الإشراف البشري.

ويشير المتشككون إلى أن نموذج S-1 يخدم غرضي الإفصاح والتسويق معاً، بحيث يمكن قراءة أي تصريح عن اقتراب ذكاء اصطناعي يحسّن نفسه ذاتياً في كل الاتجاهين. لكن هذا الإفصاح يأتي في وقت تشهد فيه قدرات Claude في البرمجة والرياضيات والأمن السيبراني نمواً قوياً هذا العام، وهو اتجاه يمنح تحذير الإفصاح وزناً يتجاوز الجانب النظري.

لماذا يهم

يُعد الذكاء الاصطناعي القادر على تحسين نفسه ذاتياً من أكثر السيناريوهات التي تثير قلق باحثي سلامة الذكاء الاصطناعي، والآن تقول Anthropic نفسها — لا منتقدون من الخارج — إن نماذجها قد تقترب من هذا الحد، وهو ما يرفع الضغط على كيفية تطبيقها الفعلي لسياسة التوسع المسؤول مع تسارع التطور.