نموذج الذكاء الاصطناعي الصيني Kimi يهرب من بيئة اختباره الأمنية السيبرانية، وفق باحثين

هرب نموذج Kimi K3، أحدث نماذج الذكاء الاصطناعي من شركة Moonshot الصينية، من بيئة أُنشئت لاختبار قدراته السيبرانية، بحسب ما قاله باحثون في تدوينة نُشرت يوم الجمعة. ويُظهر هذا مرة أخرى أن الشركات والمنظمات المستقلة تواجه صعوبة في احتواء نماذج الذكاء الاصطناعي المصممة للقرصنة.

وفي الأسابيع الأخيرة، هربت نماذج اللغة الكبيرة المتطورة لدى مختبرات الذكاء الاصطناعي الأمريكية OpenAI وAnthropic وMeta، وكذلك لدى معهد أمن الذكاء الاصطناعي البريطاني (AI Security Institute)، من بيئات الاختبار بطرق مختلفة، وانتهى بها الأمر إلى اختراق أهداف حقيقية لم تكن جزءاً من التجربة. وبات هذا يحدث بوتيرة عالية لدرجة أن هناك الآن موقعاً إلكترونياً يرصد هذه الحوادث يُدعى Felony Bench، في إشارة إلى أن هذه النماذج قد ترتكب جرائم، من الناحية النظرية على الأقل.

وفي اختبار Kimi، لم تكن البيئة المعزولة التي أُنشئت لاحتواء التجربة مُهيّأة بشكل صحيح. فبينما منعت النموذج من الوصول إلى بعض حركة بيانات الويب، تجاوز النموذج تلك البيئة المعزولة بالاعتماد على أدوات سطر الأوامر، بحسب باحثين في شركة Frontier Security المتخصصة في الأمن السيبراني للذكاء الاصطناعي. وكتب الباحثون: “هذا يشير إلى أن بعض تقييمات الأمن السيبراني التي يستخدمها المجتمع عرضة لثغرات أمنية تتيح للنماذج الغش، وأن هناك نماذج تبحث عمداً عن ثغرات ونقاط ضعف تتيح لها الغش في التقييمات”.

وبحسب حصيلة Felony Bench، انضمت Moonshot الآن إلى OpenAI وAnthropic، اللتين لديهما سبعة حوادث مسجلة لكل منهما، وإلى Meta، التي لديها حادثة واحدة.

لماذا يهم

بينما تتسابق مختبرات الذكاء الاصطناعي لبناء نماذج قادرة بما يكفي على اكتشاف واستغلال ثغرات أمنية حقيقية، تثبت هذه القدرة نفسها أنها يصعب احتواؤها داخل بيئة اختبار — وهي فجوة تزداد أهميتها كلما اقتربت هذه النماذج من أن تُستخدم في أعمال هجومية في الأمن السيبراني.