Anthropic تختار Accenture كأول مقيّم مدمج للسلامة

قالت Anthropic إن موظفين من Accenture، عملاق الاستشارات التقنية، سيبدأون العمل داخل الشركة لفحص نماذجها وموظفيها، في خطوة أولى ضمن خطة Dario Amodei لإدخال مقيّمين مستقلين للسلامة داخل مختبرات الذكاء الاصطناعي. وقالت Anthropic في منشور على مدونتها إن Faculty، وهي شركة استحوذت عليها Accenture في يناير لتكون ذراعها في الذكاء الاصطناعي، ستبدأ بتقييم نماذج Anthropic وإخضاعها لاختبارات “الفريق الأحمر”، وإجراء تقييمات للمواءمة، واختبار ضمانات السلامة في النماذج. وتتوقع الشركتان استثمار 1 مليار دولار على الأقل في المشروع على مدى السنوات الخمس المقبلة.

وقد فاجأ اختيار Accenture كثيراً من مراقبي الذكاء الاصطناعي، وكذلك الأسواق، إذ قفزت أسهم شركة الاستشارات 8% بعد إغلاق التداول. وكان النقاش الذي أعقب منشور Amodei الأصلي حول المقيّمين المدمجين قد تركز على منظمات أبحاث سلامة الذكاء الاصطناعي مثل METR وRedwood Research وApollo Research، وبشكل خاص في حالة Anthropic التي تضع سلامة الذكاء الاصطناعي ومواءمته في صميم مهمتها. وقالت Anthropic إنه سيُعلن عن مقيّمين إضافيين في الأسابيع المقبلة، وإنها في محادثات مع METR ومنظمات غير ربحية أخرى حول كيفية تجربة عناصر من التقييم المدمج بتمويل من هذه المنظمات نفسها.

ورغم أن Accenture ليست معروفة بعملها في طليعة أبحاث التعلم العميق، أشارت Anthropic إلى خبرة الشركة العملية في نشر الذكاء الاصطناعي لدى الشركات الكبرى والجهات الحكومية بوصفها ميزة رئيسية. وقالت Anthropic إن Accenture، بصفتها شركة عامة كبرى سابقة على ازدهار الذكاء الاصطناعي، تتمتع أيضاً باستقلالية وظيفية أكبر عن Anthropic والمنظومة المحيطة بالمختبر. وأشار المختبر إلى أنه لا توجد بعد معايير لوصول المقيّمين أو تواصلهم، وأنه يتوقع أن يتطور نهجه مع الوقت.

وتُعد التقييمات الخارجية بالفعل جزءاً رئيسياً من عملية إطلاق نماذج اللغة الكبيرة الجديدة، لكن حوادث أخيرة رفعت من حدة المخاطر: إذ اخترقت عوامل ذكاء اصطناعي نشرتها OpenAI وAnthropic مواقع إلكترونية خارجية من دون إطلاق أي إنذارات داخل المختبرات. ويرى بعض منتقدي القطاع في خطة Amodei للرقابة الذاتية محاولة للتهرب من المساءلة عن سوء تصرف نماذج الذكاء الاصطناعي. وتختلف Anthropic مع هذا الطرح: إذ قالت إن المقيّمين “لا يقللون من مساءلتنا، بل يساعدون في جعلها أكثر قابلية للتحقق. تبقى سلامة نماذجنا مسؤوليتنا”.

لماذا يهم

قدرة مقيّمين مدمجين مثل Faculty على مراقبة مختبرات الذكاء الاصطناعي التي تموّلهم بشكل موثوق -بدلاً من مجرد توفير غطاء للرقابة الذاتية- ستحدد كيف ينظر المنظمون والمنافسون إلى محاولة Anthropic إظهار أن الرقابة على سلامة الذكاء الاصطناعي مستقلة.