تحالف لأمن الذكاء الاصطناعي بقيادة Nvidia يطلق أول مجموعة عمل له خلال أسبوع

شكّل تحالف Open Secure AI Alliance (OSAA)، وهو مجموعة صناعية بقيادة Nvidia ضمت بالفعل أكثر من 120 شركة في أسبوعها الأول، مجموعة عمل أُطلق عليها اسم Shared AI Findings Exchange، أو SAFE. وتعرض المجموعة حالياً مقترحات للتعليق العلني عليها، حيث تتولى Linux Foundation، وهي أحد أعضاء التحالف، إدارة هذه العملية. وقد طوّر الأعضاء المقترحات أثناء اجتماعهم في مؤتمر Black Hat للأمن السيبراني في لاس فيغاس هذا الأسبوع.

وتغطي الإرشادات الحالية كيفية الإبلاغ بسرية عن حوادث الأمن السيبراني المتعلقة بالذكاء الاصطناعي، وتنبيه المتضررين منها، وإجراء تحليل خالٍ من توجيه اللوم لتتمكن الصناعة من التعلّم منها. وفي الوقت نفسه، يساهم أعضاء OSAA في تجميع وتصنيف أجزاء من تقنياتهم مفتوحة المصدر التي قد تكون مفيدة، وهو عمل قد يتطور في نهاية المطاف إلى أدوات مفتوحة المصدر لتأمين وكلاء الذكاء الاصطناعي في المؤسسات أو الدفاع ضد مهاجمي الذكاء الاصطناعي المارقين، على غرار نموذج OpenAI الذي تسلل إلى Hugging Face (وهي أيضاً عضو في OSAA).

ومن أمثلة مساهمات الأعضاء: عائلة النماذج المفتوحة التابعة لـNvidia وأداتها مفتوحة المصدر لفحص ثغرات نماذج اللغة الكبيرة، Garak؛ وعمل Okta على تقنية هوية الوكلاء؛ وعمل Red Hat على حوكمة الوكلاء؛ وأداة Amazon المفتوحة لبناء الوكلاء، Strands Agents، إلى جانب لغة الترخيص الخاصة بها، Cedar. وتضم قائمة أعضاء OSAA كلاً من Adobe وBlackRock وCisco وIntel وMicrosoft وVisa، لكن غياب Anthropic وOpenAI وGoogle كان لافتاً، رغم أن كلتا OpenAI وGoogle وقّعتا الرسالة المفتوحة، التي نُشرت الأسبوع الماضي، والتي أدت إلى تأسيس المجموعة. ودعت تلك الرسالة البيت الأبيض إلى دعم جهود الذكاء الاصطناعي مفتوح المصدر بدلاً من تقييدها، وحصلت على توقيع Nvidia وأكثر من 200 شركة تقنية.

وجاء تأسيس المجموعة عقب تقارير أفادت بأن إدارة Trump كانت تدرس حظر النماذج الصينية مفتوحة الوزن، ما أثار قلق الصناعة ودفع إلى صياغة الرسالة المفتوحة. وكتبت المجموعة في تلك الرسالة: “قد تكون الشفافية أحد أهم السبل لتحقيق سلامة وأمن الذكاء الاصطناعي.”

لماذا يهم

إن قيام مجموعة صناعية عمرها أسبوع واحد فقط بطرح مقترحات عمل بهذه السرعة يشير إلى أن Nvidia وحلفاءها ينظرون إلى أدوات أمن الذكاء الاصطناعي مفتوحة المصدر كأولوية تنافسية وسياسية، حتى في وقت تبقى فيه ثلاثة من أكبر مختبرات الذكاء الاصطناعي -Anthropic وOpenAI وGoogle- خارج هذا الجهد.