الرئيس التنفيذي لشركة Anthropic يدعو مختبرات الذكاء الاصطناعي إلى تعمّد إبطاء نمو القدرات

وسط تحذيرات متزايدة الخطورة من باحثي الذكاء الاصطناعي بشأن مخاطر التقنية، وتصريحات الرئيس التنفيذي لشركة OpenAI، Sam Altman، بأن الوقت قد يكون مناسباً “لضبط وتيرة” تطوير الذكاء الاصطناعي، طرح الرئيس التنفيذي لشركة Anthropic، Dario Amodei، ما قد يبدو عليه ذلك عملياً. وفي منشور مدونة جديد، كرر Amodei الدعوة إلى “ضبط وتيرة الحدود المتقدمة” ووضع ثلاث استراتيجيات عامة لتحقيق ذلك، قائلاً إن Anthropic “تلتزم من طرف واحد” بواحدة منها، فيما انضم Altman قائلاً إن OpenAI ستحذو حذوها.

وتصاعد النقاش حول سلامة الذكاء الاصطناعي هذا الأسبوع بعدما كتب الباحث Jacob Coxon أنه يستقيل من Anthropic بسبب مخاوف من أن شركات الذكاء الاصطناعي الرائدة “تراهن بحياتنا” في حين أن من يبنون هذه التقنية “يؤمنون بصدق بأنها قد تقتلنا جميعاً بحلول نهاية العقد”، وهو ادعاء قال إنه يتكرر بين آخرين في Anthropic. ولم يذكر منشور Amodei استقالة Coxon صراحة، لكنه كتب أن أمرين أقنعاه بأن الوقت قد حان لاتباع نهج أكثر حذراً: اختراق OpenAI-Hugging Face، وحقيقة أن “الذكاء الاصطناعي كان يتقدم بسرعة أكبر بكثير” في الأشهر الأخيرة، وتحديداً “قدرته المتنامية على بناء الجيل التالي من الذكاء الاصطناعي”. وكتب Amodei: “يجب أن نبطئ الوتيرة التي نُحسّن بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، ويجب أن نستغل الوقت الذي نكسبه بحكمة”.

وتتضمن الخطوة الأولى التي اقترحها Amodei الاستعانة بـ”مقيّمين مقيمين” من منظمات خارجية مثل METR، يمكنهم التحقق من التزام شركات الذكاء الاصطناعي بتعهداتها المتعلقة بالوتيرة والسلامة، وضمان الإبلاغ عن حوادث السلامة، مشبّهاً إياهم بالمنظمين المصرفيين المتواجدين داخل الشركات. وقال إن هذا “أمر تلتزم به Anthropic من طرف واحد”، مانحة المقيّمين بطاقات تعريف ومكاتب وأجهزة كمبيوتر محمولة بوصول “يماثل إلى حد كبير ما تملكه فرق تقييم المخاطر الداخلية”. ووصف Altman ذلك بأنه “فكرة جيدة” وقال إن OpenAI ستفعل الأمر نفسه.

وبعد ذلك، دعا Amodei الشركات الرائدة في مجال الذكاء الاصطناعي “داخل الدول الديمقراطية” إلى التنسيق بشأن معايير سلامة مشتركة وحدود لوتيرة التقدم غير المنضبط في الذكاء الاصطناعي، مقراً بأن ذلك قد يثير مخاوف تتعلق بمكافحة الاحتكار، ومقترحاً أن تتمكن حكومة الولايات المتحدة من “الوساطة أو على الأقل تمكين” هذه المحادثات. كما جادل بأن خطوات مثل تقييد بيع الرقائق ومعدات أشباه الموصلات للشركات الصينية، إلى جانب قمع تقطير النماذج، يمكن أن “تبطئ تقدم الصين بما يكفي لتوسيع تفوق أمريكا بشكل كبير خلال 3 إلى 5 سنوات مقبلة”. وأخيراً، دعا إلى “تنسيق عالمي”، بما في ذلك “التعاون مع الصين”، مع إقراره بوجود “حدود صارمة لما يمكن تحقيقه”، مشيراً إلى أن اتفاقات ضيقة النطاق قد تظل ممكنة، مثل حظر استخدام الذكاء الاصطناعي في إنتاج الأسلحة البيولوجية.

وقد انتقد بعض المتحمسين للذكاء الاصطناعي Amodei بوصفه متشائماً تغذي تصريحاته الموجة الحالية من الانتقادات ضد الذكاء الاصطناعي؛ ورد بأنه حاول تقديم منظور “متوازن” وأن هذه الموجة تعكس “أزمة ثقة” أوسع تجاه شركات التكنولوجيا والحكومة. آخرون، من بينهم الصحفي Brian Merchant، أبدوا تشككهم في هذا الطرح الكارثي؛ إذ كتب Merchant أنه لم يرَ بعد “توثيقاً موثوقاً وخطوة بخطوة” لكيفية انتقال الذكاء الاصطناعي من تحسين نفسه ذاتياً إلى القضاء على البشرية، مقترحاً أن مقترحات مثل مقترح Amodei “من المرجح أن تخدم فقط Anthropic وOpenAI”.

لماذا يهم

يحوّل مقترح Amodei خطاب سلامة الذكاء الاصطناعي إلى آلية حوكمة ملموسة، أي مقيّمين خارجيين داخل مختبرات الحدود المتقدمة، وقد يصبح نموذجاً تستند إليه الجهات التنظيمية، حتى مع رؤية المنتقدين له كوسيلة تتيح للشركات المهيمنة تشكيل القواعد لصالحها.