شركة Forum AI التابعة لـ Campbell Brown تستهدف تقييم الذكاء الاصطناعي في المجالات عالية المخاطر

أطلقت Campbell Brown، الرئيسة السابقة لقسم الأخبار في Meta، شركة Forum AI، وهي شركة ناشئة يبلغ عمرها 17 شهراً ومقرها نيويورك. وقد جمعت الشركة مبلغ 3 ملايين دولار في الخريف الماضي ضمن جولة تمويل قادتها شركة رأس المال الاستثماري Lerer Hippeau. تعمل Forum AI على تقييم أداء النماذج التأسيسية (foundation models) — وهي نماذج ذكاء اصطناعي ضخمة — في مواضيع عالية المخاطر مثل الجغرافيا السياسية، والتمويل، والتوظيف. وقد أسست Brown الشركة بعد أن أدركت خلال فترة عملها في Meta أن روبوتات الدردشة العامة ستصبح القناة الرئيسية للمعلومات، على الرغم من كونها غير موثوقة إلى حد كبير.

لبناء معاييرها، تقوم الشركة الناشئة بتوظيف خبراء بشريين، من بينهم Niall Ferguson، وFareed Zakaria، ووزير الخارجية السابق Tony Blinken، ورئيس مجلس النواب السابق Kevin McCarthy، ومسؤولة الأمن السيبراني السابقة Anne Neuberger. وتستخدم Forum AI هذه المعايير التي صممها الخبراء لتدريب “قضاة الذكاء الاصطناعي” (AI judges) — وهي أنظمة تقييم آلية. وتهدف الشركة الناشئة إلى أن تصل هذه الأنظمة الآلية إلى ما يقرب من 90٪ من التوافق مع الخبراء البشريين، وهو حدّ تقول Brown إن الشركة تمكنت بالفعل من الوصول إليه.

ووفقاً لـ Brown، فإن شركات النماذج التأسيسية تركز بشكل مفرط على البرمجة والرياضيات، مما يجعل مواضيع المعلومات المعقدة عرضة للأخطاء. وأشارت Brown قائلة: “تسمع من قادة شركات التكنولوجيا الكبرى عبارات مثل: ‘هذه التكنولوجيا ستغير العالم’، ‘ستتسبب في فقدان وظيفتك’، ‘ستعالج السرطان’. ولكن بالنسبة للشخص العادي الذي يستخدم روبوت دردشة لطرح أسئلة أساسية، فإنه لا يزال يحصل على الكثير من المعلومات الرديئة والإجابات الخاطئة”. وإلى جانب عدم الدقة العامة، كشفت تقييمات Forum AI للنماذج التأسيسية عن وجود “انحياز سياسي يساري” عبر جميع النماذج تقريباً. كما أشارت Brown إلى أن نموذج Gemini “يستمد معلوماته من مواقع إلكترونية تابعة للحزب الشيوعي الصيني” لقصص لا علاقة لها بالصين. وقد وصفت مشهد الامتثال الحالي للذكاء الاصطناعي بأنه “مزحة”، مشيرة إلى أن المعايير الموحدة وعمليات التدقيق القائمة على قوائم المراجعة (checkbox audits) تفشل في رصد الحالات الاستثنائية الحرجة.

تراهن Forum AI في أعمالها على طلب المؤسسات لإدارة المسؤولية. وفي حين أن تحويل الاهتمام بالامتثال إلى إيرادات ثابتة يظل تحدياً، تعتقد Brown أن الشركات التي تستخدم الذكاء الاصطناعي في اتخاذ قرارات عالية المخاطر مثل الائتمان، والإقراض، والتوظيف ستطالب بدقة صارمة لإدارة مسؤوليتها. وقد يجبر هذا الضغط التجاري مطوري الذكاء الاصطناعي على إعطاء الأولوية لصحة الإجابات بدلاً من مجرد تحسين التفاعل مع المستخدم.

لماذا يهم

تراهن Forum AI على أن طلب المؤسسات لإدارة المسؤولية — وليس فقط اهتمام المستهلكين — سيجبر شركات النماذج التأسيسية على إعطاء الأولوية للدقة على حساب التفاعل. ومن خلال الاستعانة بخبراء بشريين لتدريب أنظمة تقييم آلية، تهدف الشركة الناشئة إلى وضع معيار تجاري لموثوقية الذكاء الاصطناعي في الصناعات عالية المخاطر.