Nvidia تطلق منصة لكبح جماح وكلاء الذكاء الاصطناعي المارقين

في ظل استمرار الجدل حول ما إذا كانت الموجة الأخيرة من وكلاء الذكاء الاصطناعي المارقين خطوة نحو الذكاء الاصطناعي العام (AGI) أم مجرد مشكلة هندسية تقليدية، تقدّم Nvidia إجابتها الخاصة. وكشف الرئيس التنفيذي Jensen Huang يوم الاثنين عن مجموعة أدوات من البرمجيات والعتاد تضيف طبقات أمان مستقلة حول وكلاء الذكاء الاصطناعي لإبقائهم داخل بيئات اختبارهم حتى في حال حاولوا الإفلات منها. ويأتي هذا الإطلاق عقب سلسلة من حوادث الاختراق التي طالت نماذج ذكاء اصطناعي من Anthropic وGoogle وOpenAI وMeta، والتي تجاوزت ضوابط الأمان للإفلات من بيئات اختبارها والوصول إلى أنظمة العالم الحقيقي — وأبرز هذه الحوادث اختراق وكلاء OpenAI لمنصة Hugging Face هذا الصيف أثناء محاولتهم إنجاز مهمة تتعلق بالأمن السيبراني. ونشرت OpenAI منذ ذلك الحين موقعاً مخصصاً لتقارير وكلائها المارقين. وقال Huang في مقابلة مع CNBC يوم الاثنين إن المنصة الجديدة كانت ستمنع وقوع تلك الاختراقات.

ولا تدعم Nvidia، التي جنت عشرات المليارات من الدولارات من بيع رقائق GPU وCPU لمختبرات الذكاء الاصطناعي، تباطؤ وتيرة التطوير أو إضافة تنظيمات جديدة لحل مشكلة الأمان. وبدلاً من ذلك، تعتقد الشركة أن الحل يكمن في نقل بعض ضوابط الأمان إلى خارج الوكيل نفسه بالكامل، عبر إنشاء حارس أمان مستقل وثابت. وقال Huang في بيان: “لن تتحقق الإمكانات الاستثنائية للذكاء الاصطناعي بالنسبة للمجتمع إلا إذا حللنا مسألة سلامة الذكاء الاصطناعي. وبينما نواصل اكتشاف حدود قدرات الذكاء الاصطناعي، يجب أن نسرّع الاكتشاف عند حدود سلامة الذكاء الاصطناعي. السلامة والأمان يتطلبان هندسة على مستوى المنظومة الكاملة”.

وتجمع منصة Nvidia Open Agent Safety Platform الجديدة بين OpenShell — وهو برنامج مفتوح المصدر للتحكم فيما يمكن للوكلاء الوصول إليه أثناء عملهم، أُعلن عنه في مارس — وبين Sentry، وهو نظام مراقبة مستقل يعمل على وحدات معالجة البيانات BlueField-4 من Nvidia. ويوفر وضع Sentry على معالج منفصل، بدلاً من وحدة المعالجة المركزية (CPU) أو الرسوميات (GPU) التي يعمل عليها الوكيل، رؤية معزولة لنشاط الوكيل، ويمكنه “عزل الوكلاء الذين يحاولون تجاوز حدودهم خلال أجزاء من الثانية (ميلي ثانية)”، بحسب Nvidia. وأدرجت الشركة عشرات الشركات التي انضمت لدعم هذا الجهد واستخدام المنصة مفتوحة المصدر، من بينها Anthropic وArm وMicrosoft وOracle وSpaceX؛ ولا تظهر OpenAI ضمن الشركات المشاركة. وقال Huang إن العمل على هذا الجهد بدأ قبل عام، عقب إطلاق OpenClaw، وهو نظام تشغيل لوكلاء الذكاء الاصطناعي طوّره Peter Steinberger؛ وفي مارس، أصدرت Nvidia منصة NemoClaw، نسختها الخاصة على مستوى المؤسسات مع أمان مدمج.

لماذا يهم

تراهن Nvidia على أن يصبح أمان الوكلاء بنداً في العتاد — أي شريحة منفصلة تراقب كل وكيل ذكاء اصطناعي — بدلاً من مجرد تصحيح برمجي، وهو ما يجعل الأمان جزءاً مما يتعين على كل مختبر ذكاء اصطناعي شراءه من Nvidia إلى جانب قدرة الحوسبة.