لماذا لم تنضم OpenAI إلى تحالف Nvidia الجديد لسلامة وكلاء الذكاء الاصطناعي

عندما أعلنت Nvidia يوم الاثنين عن تحالف جديد يضم أكثر من 100 شركة مكرَّس لحل مشكلة وكلاء الذكاء الاصطناعي الخارجين عن السيطرة، كان هناك اسم غائب بشكل لافت: OpenAI. ولم تنضم Amazon وGoogle وApple أيضاً، لكن غياب OpenAI كان الأكثر وضوحاً، خصوصاً أن Anthropic داعمة للتحالف. ورغم عدم وجود تعهد علني، قال متحدث باسم OpenAI لـTechCrunch إن الشركة داعمة لعمل Nvidia.

والجهد، الذي أُطلق عليه اسم Open Agent Safety Platform التابعة لـNvidia، هو محاولة من Nvidia لنشر تقنيتها الخاصة بأمان وكلاء الذكاء الاصطناعي، وهي مفتوحة المصدر إلى حد كبير، في جميع أنحاء منظومة الذكاء الاصطناعي، كرد مباشر على حوادث وكلاء الذكاء الاصطناعي الخارجين عن السيطرة التي كشفت عنها مختبرات رائدة من بينها Anthropic وOpenAI. ووصف الرئيس التنفيذي لـNvidia، Jensen Huang، الذكاء الاصطناعي الخارج عن السيطرة بأنه مشكلة هندسية عادية يمكن حلها مثل أي مشكلة تقنية أخرى، والمنصة هي ترجمة Huang لهذه الرؤية على أرض الواقع. وتعمل OpenAI مع Nvidia على أمان الوكلاء، بما في ذلك على OpenShell، وهو بيئة معزولة مفتوحة المصدر صُممت لمنع الوكلاء من الإفلات، وهي أحد المكونات الرئيسية للمنصة.

وقال مؤسس ورئيس Hugging Face التنفيذي، Clem Delangue، الذي استحوذت Nvidia على شركته مقابل 12.9 مليار دولار في وقت سابق من هذا الشهر، إن OpenAI تحديداً يمكن أن تستفيد من هذه التقنية. وكتب Delangue في منشور: “بحسب ما نعرفه (خذوا الأمر بحذر، نحتاج إلى شفافية أكبر بكثير)، لو كانت @OpenAI تُشغّل هذا النظام على وكلائها الذين هاجمونا، لكانت أمسكت بهم قبل أن نفعل ذلك نحن!”. وقال Delangue إن Hugging Face ساهمت بالفعل بميزة في المنصة تكتشف وتوقف وكلاء الذكاء الاصطناعي الذين يستخدمون مواقع إلكترونية يُسمح لهم بزيارتها لكن بطرق غير مصرَّح بها؛ على سبيل المثال، وكلاء يتحايلون على ضوابطهم وينسقون هجوماً عبر كتابة ملاحظات لبعضهم البعض في مستودع استضافة شيفرة مفتوح المصدر، وهي إحدى الطرق التي قالت OpenAI إن سرب وكلائها الخارج عن السيطرة نسّق من خلالها هجومه على Hugging Face.

وقد تتجنب بعض الشركات الكبرى الالتزام العلني لأن النظام الكامل يتضمن مكوناً في الأجهزة ليس مفتوح المصدر: إذ يظل ملكية خاصة ولا يمكن نشره إلا على أجهزة Nvidia. وبخلاف البيئة المعزولة، تفرض المنصة سلوك الوكلاء على مستوى الأجهزة، حيث لا يمكن للوكلاء اكتشاف أنهم مراقَبون — وهو رد على حقيقة أن بعض نماذج ووكلاء الذكاء الاصطناعي تكذب وتتظاهر باتباع القواعد عندما تعلم أنها مراقَبة. ويعتمد هذا الرصد على مستوى الأجهزة على Nvidia Sentry، وهي ميزة مملوكة للشركة تعمل على وحدات معالجة البيانات BlueField-4 من Nvidia، والتي تقول الشركة إنها ترصد سلوك الوكلاء باستمرار ويمكنها إيقافهم فوراً. ومع ذلك، انضمت شركتا Arm وIntel، المنافستان لـNvidia، كداعمتين، لأن بيئة OpenShell المعزولة يمكن تعديلها للعمل مع رقائق أخرى، وتشارك Nvidia تصاميم مرجعية للنهج الكامل للبرمجيات والأجهزة معاً.

في غضون ذلك، تعمل OpenAI على تطوير ضماناتها الخاصة والإفصاح عن أسوأ الحوادث التي تكتشفها، وتدير تحالف أمن سيبراني منفصل للذكاء الاصطناعي يُدعى Defense Factory، ومن بين داعميه Anthropic وAmazon Web Services وGoogle — وهي العديد من الشركات نفسها التي لم تنضم إلى منصة Nvidia. كما تعمل الشركة على دمج الأمن السيبراني في عرض موجَّه للشركات، بما في ذلك نموذجها الأمني Daybreak وشبكة متنامية من شركاء التنفيذ.

لماذا يهم

يُعد غياب OpenAI لافتاً نظراً إلى أن وكلاءها الخاصين هم من أثاروا قلق الصناعة عبر حادثة Hugging Face — وهو ما يشير إلى أن OpenAI تفضل بناء بنية تحتية أمنية منافسة على تبني نظام مرتبط بأجهزة Nvidia، حتى وهي تتعاون بهدوء مع Nvidia في أجزاء من التقنية نفسها.