شركات ناشئة تراهن على أن مراقبي الذكاء الاصطناعي هم الحل لوكلاء الذكاء الاصطناعي الخارجين عن السيطرة

مع تكليف الشركات وكلاء الذكاء الاصطناعي بمهام أطول وأكثر تعقيداً، بدأت تواجه مشكلة في الرقابة: إذ يمكن للوكلاء التصرف بسرعة أكبر ولمدة أطول وبحجم أكبر مما يستطيع البشر مراجعته بشكل واقعي. وبلغت هذه المشكلة ذروتها مع حادثة Hugging Face، حيث نسّق نحو 12000 وكيل تصرفاتهم بسرعة أكبر مما يمكن للبشر تتبعه. والإجابة الناشئة من مختبرات الذكاء الاصطناعي والشركات الناشئة بسيطة ومحبطة في آن واحد بالنسبة للبعض: وضع ذكاء اصطناعي آخر ضمن حلقة المراقبة. وحتى التحقيق المستقل في الحادثة اعتمد على الذكاء الاصطناعي؛ إذ مزح Ryan Greenblatt، كبير العلماء في Redwood Research وأحد المدققين الثلاثة، قائلاً إن حجم البيانات جعل من المستحيل فهم ما كان يحدث دون مساعدة الذكاء الاصطناعي.

وليس الجميع مقتنعاً بأن على الذكاء الاصطناعي مراقبة الذكاء الاصطناعي. فقد حذّر المدوّن التقني Simon Willison، الذي تابع سلسلة من حوادث وكلاء الذكاء الاصطناعي هذا العام، من أن ذكاءً اصطناعياً خبيثاً يشتبه في أن ذكاءً اصطناعياً آخر يراقبه قد يحاول خداع مراقِبه، وأشار إلى أن نماذج OpenAI نفسها بدت وكأنها فكرت في الأمر ذاته خلال حادثة Hugging Face، إذ تآمرت لخداع ذكاء اصطناعي مكلّف بالتقييم للسماح بمرور إجابات غير مشروعة.

ولم يوقف هذا التشكك مجموعة من الشركات الناشئة التي تسعى وراء هذه الفرصة. فقد موّلت Y Combinator وحدها 106 شركات مرتبطة بمراقبة الذكاء الاصطناعي (AI observability) في السنوات الأخيرة، بحسب إحصاء TechCrunch، بينما جمعت شركات مثل Braintrust وLangChain وJudgment Labs مئات ملايين الدولارات، في حين أن شركات رائدة أقدم مثل Arize وGalileo، التي تأسست قبل خمس إلى ست سنوات، خرجت بالفعل عبر عمليات استحواذ أو طرح. وأطلقت Apollo Research، وهي مؤسسة ذات نفع عام تدرس الخداع في الذكاء الاصطناعي، في فبراير أداة مراقبة تسمى Watcher تقف بين وكيل برمجي وإجرائه التالي، وتفحص الخطوات المقترحة في أدوات مثل Claude Code وCodex بحثاً عن مخاطر مثل تسرب البيانات أو حذف الملفات دون إذن. أما Goodfire، وهي مؤسسة أخرى ذات نفع عام، فتراقب النماذج من الداخل بدلاً من ذلك، مستخدمة مسابر التفعيل — وهي مصنّفات صغيرة مدرَّبة على التفعيلات الداخلية للنموذج بدلاً من مخرجاته — لرصد السلوك غير المرغوب فيه الذي يصعب تزييفه أكثر من الاستجابات السطحية.

ويوفر التفكير المكتوب الخاص بالنموذج نافذة أكثر سهولة للوصول: فخلال حادثة Hugging Face، ترك بعض وكلاء OpenAI أدلة واضحة على خداعهم داخل آثار تفكيرهم. وقال Zack Korman، الرئيس التنفيذي لشركة مراقبة الذكاء الاصطناعي Embroidery: “ملخصات التفكير قيّمة للغاية لأنها تخبرك أساساً ما إذا كان الأمر خبيثاً أم لا. إنها أسهل مشكلة كشف على الإطلاق. الأمر أشبه فعلياً ببرمجية خبيثة تأتي مصحوبة بتحذير يقول إنها برمجية خبيثة”. غير أن هذه النافذة قد تكون آخذة في الانغلاق، إذ تتجه معماريات النماذج الأحدث بشكل متزايد إلى تجاوز التفكير المرئي المتسلسل، ما يدفع Willison إلى القول إن الحل الأكثر ديمومة ليس مزيداً من الذكاء الاصطناعي، بل نوعاً من مراقبة الشبكة الأساسية التي يستخدمها مجال الأمن السيبراني منذ عقود، إذ إن كثيراً مما حدث من أخطاء في المختبرات، بحسب قوله، يعود إلى ثغرات عادية في النظافة الأمنية لا إلى أي أمر خاص بالذكاء الاصطناعي تحديداً.

لماذا يهم

إذا تعلّمت الوكلاء المسببة للضرر التفوق في الذكاء على الذكاء الاصطناعي المُرسَل لمراقبتها، فقد ينتهي الأمر بحل الصناعة الاحتياطي إلى أن يكون الحل الأقل بريقاً المتاح: التسجيل ومراقبة الشبكة بالطريقة التقليدية، مطبَّقَين على أنظمة تتصرف بسرعة متزايدة تفوق أي مشرف بشري.