شركة AIUC الناشئة تجمع 40 مليون دولار لاعتماد وكلاء الذكاء الاصطناعي على غرار شهادة SOC 2 للأمان

بعد يوم من استقالة الباحث في Anthropic جاكوب كوكسون من وظيفته بسبب مخاوف من أن الذكاء الاصطناعي قد يمثل خطراً كارثياً، وصف المؤسسان -وصهرا العائلة- رون كفيست وراجيف داتاني مشكلة أضيق يعتقدان أنهما يستطيعان حلها: منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة داخل الشركات. وقال كفيست، الموظف المبكر في Anthropic: “يزداد ذكاء الذكاء الاصطناعي بمعدل متسارع بشكل متزايد. والأمر المثير للاستغراب في الذكاء الاصطناعي هو أنه يصبح أصعب في التبني والتحكم كلما ازداد ذكاؤه، لا أسهل”. وداتاني هو المدير التنفيذي للعمليات السابق في منظمة أبحاث سلامة الذكاء الاصطناعي METR، وهو منصب شغله من 2024 إلى 2025 وما زال عضواً في مجلس إدارتها.

وتهدف الشركة الناشئة التي أسسها الثنائي، Artificial Intelligence Underwriting Company (AIUC)، إلى تقديم تقييم سلامة الذكاء الاصطناعي للشركات وللشركات التي تبني نماذج ووكلاء الذكاء الاصطناعي؛ وتذكر Cursor وLovable وHarvey وElevenLabs من بين عملائها. وأعلنت AIUC يوم الثلاثاء عن جولة سلسلة A بقيمة 40 مليون دولار بقيادة Ribbit Capital، بمشاركة First Harmonic، إضافة إلى جولة تمويل أولي سابقة بقيمة 15 مليون دولار من صندوق NFDG التابع لنات فريدمان، إلى جانب Emergence وTerrain والمؤسس المشارك لـAnthropic بن مان، ليصل إجمالي التمويل إلى 55 مليون دولار.

وتطبق AIUC نموذج تدقيق على غرار الأمن السيبراني على مخاطر الذكاء الاصطناعي، مستخدمة معيار SOC 2 المعتمد على نطاق واسع كنموذج لها. وطورت الشركة معياراً يُدعى AIUC-1 وخدمة اختبار لفحص الوكلاء بموجبه، بمساهمة من تحالف يضم نحو 250 من قادة الأمن والمخاطر الذين يشترون الوكلاء. وقال كفيست: “البنوك والمستشفيات والحكومات والجيوش لم تعد ترفض نشر الذكاء الاصطناعي لأن النموذج ليس ذكياً بما يكفي. إنها ترفضه لأنها قدمت تعهدات لعملائها بشأن ما سيفعله النظام وما لن يفعله، ولا يمكن لأي طرف حالياً أن يضمن ذلك”. وتُجري AIUC على الوكيل نحو 5,000 اختبار تغطي محاولات الاختراق والهلوسة وتسرب البيانات، وتُنتج تقريراً من نحو 100 صفحة؛ وتُشغّل وكلاء الذكاء الاصطناعي الاختبارات وتحلل البيانات، لكن بشراً يتحققون من التدقيق النهائي.

ويُذكّر هذا النهج بعمل METR نفسها في تقييم نماذج مختبرات الذكاء الاصطناعي المتقدمة، على أن تركيز METR كان في الغالب على الأداء لا السلامة. وقد دعا الرئيس التنفيذي لـAnthropic داريو أموداي مؤخراً الصناعة إلى تخفيف وتيرة التطوير المتقدم، وطرح فكرة إلزام المختبرات باستخدام مقيّمين خارجيين مدمجين، مسمياً METR كأحد الخيارات الممكنة. ولا تقترح AIUC دمج نفسها داخل مواقع عملائها، لكن داتاني قال إن الهدف مماثل: إعطاء الشركات قراءة مستقلة لمدى أمان وكلاء الذكاء الاصطناعي الخاصة بها قبل شرائها.

لماذا يهم

قد تتحول طبقة اعتماد خارجية لوكلاء الذكاء الاصطناعي إلى شرط مسبق لتبني القطاعات الخاضعة للتنظيم -البنوك والمستشفيات والحكومات- للذكاء الاصطناعي على الإطلاق، محولةً تقييم سلامة الذكاء الاصطناعي إلى فئة مبيعات مؤسسية بحد ذاتها.