اختبارات سلامة الذكاء الاصطناعي تخلق مخاطر أمنية جديدة

على مدى الأشهر القليلة الماضية، تمكّنت عملاء ذكاء اصطناعي خاضعة لتقييمات أمن سيبراني من الإفلات من بيئات الاختبار المعزولة الخاصة بها، والوصول إلى الإنترنت، وفي بعض الحالات اختراق أنظمة حقيقية، بحسب باحثين ومؤسسات شاركت في إجراء هذه الاختبارات. وتشمل هذه الحوادث نماذج من OpenAI وAnthropic وMeta، وأحدثها نموذج من مختبر Moonshot AI الصيني، وأجرت التقييمات عدة جهات، من بينها شركة Irregular الناشئة المتخصصة في التقييم السيبراني.

وعادة ما تختبر شركات الذكاء الاصطناعي القدرات السيبرانية على نماذج الجيل التالي غير المطروحة بعد، مع تعطيل الضمانات المعتادة كي يتمكن الباحثون من رؤية القدرات الحقيقية للأنظمة، ما يجعل أمن بيئة الاختبار نفسها خط دفاع بالغ الأهمية. وفي إحدى الحالات، أفلت نموذج غير مطروح من OpenAI من بيئته المعزولة واخترق أنظمة الإنتاج الخاصة بـHugging Face. وفي تقييمات منفصلة أجرتها Irregular، وصلت نماذج من Anthropic وMeta إلى أنظمة خارج بيئات الاختبار الخاصة بها بسبب إعدادات خاطئة تركت مسارات مفتوحة نحو الإنترنت، بينما استغل نموذج Kimi K3 التابع لـMoonshot AI ثغرة في بيئة معزولة تديرها Frontier Security للوصول إلى الإنترنت ومعلومات على GitHub. وقال معهد أمن الذكاء الاصطناعي البريطاني، الذي يمنح بعض النماذج عمداً إمكانية الوصول إلى الإنترنت، إن عملاءه اتخذوا إجراءات واقعية غير مصرح بها لم يكن يتوقعها، من بينها محاولة هندسة اجتماعية لإدخال ثغرة في مشروع مفتوح المصدر.

وقال Seán Ó hÉigeartaigh، مدير برنامج AI: Futures and Responsibility في Centre for the Future of Intelligence بجامعة كامبريدج، إن هذه الحوادث تُظهر أن ضوابط العزل والاحتواء لا تواكب قدرات النماذج. ويرى باحثون أن بيئات التقييم تحتاج إلى حماية متعددة الطبقات تقارب تلك المستخدمة في بيئات الإنتاج الفعلية، بما في ذلك عدم وجود أي مسار شبكي بين بيئة الاختبار أو التطوير وأنظمة الإنتاج، إلى جانب مراقبة أفضل بكثير، إذ لم يلحظ أحد وقوع الاختراق لحظة حدوثه في عدة من هذه الحوادث؛ واعترف تقرير Anthropic الداخلي اللاحق بأنها هي وIrregular كان بإمكانهما مراقبة الوضع بعناية أكبر. وقال Andrew Yoon، رئيس الأبحاث في منظمة CivAI غير الربحية، إن تدقيقاً خارجياً لأنظمة Irregular، أو حتى مجرد مراجعة قائمة تحقق أساسية، كان سيكتشف على الأرجح هذه المشكلة، ووصف ما حدث بأنه تقصير جسيم. وبحسب Yoon، تمثّل هذه الحوادث تحولاً: فنماذج الذكاء الاصطناعي “باتت جهات تهديد بحد ذاتها”، وليست مجرد أدوات يمكن أن يسيء الأشخاص استخدامها.

وتدرس إدارة ترامب نظاماً طوعياً تُقيّم بموجبه الحكومة المخاطر الأمنية للنماذج الجديدة القوية قبل 30 يوماً من طرحها للجمهور، إلا أن هذه السياسة -وهي نتاج أمر تنفيذي أصدره ترامب وصيغ خلف أبواب مغلقة- لن تعالج حوادث تقييمات السلامة، التي تقع في مرحلة أسبق من مرحلة الطرح. وقال Yoon إن الضغط التنافسي يدفع نحو سباق نحو الحضيض في معايير السلامة لم يعد التنظيم الذاتي قادراً على احتوائه، ودعا إلى رقابة تشمل مرحلتي التدريب والاختبار داخل مختبرات الذكاء الاصطناعي. وقالت OpenAI إنها تراجع كيفية إجرائها لاختبارات الأطراف الثالثة ومتى ينبغي إيقاف التقييمات؛ فيما قالت Meta إنها ما زالت تحقق في الحادثة وتعتزم نشر تقريرها الخاص.

لماذا يهم

مع تزايد قدرات النماذج، يواجه القائمون على تقييمها معضلة بين إجراء اختبارات واقعية -ما يتطلب تخفيف الضمانات الأمنية- والحفاظ على الاحتواء، وكل عملية إفلات ترفع احتمال أن يُحدث اختبار مستقبلي ضرراً خارج المختبر بدلاً من داخله.