Gemini من Google ينفّذ أول عمليات اختراق ذاتية له، بحسب WSJ

وصل نموذج Gemini من Google إلى الأنظمة المحمية لثلاث شركات، في ما وصفته صحيفة The Wall Street Journal بأنه أول عمليات اختراق ذاتية ينفذها النموذج. وعلى غرار اختراق OpenAI السابق لمنصة Hugging Face، لم تكن الحادثة لافتة بسبب تعقيدها، بل لأن نموذج ذكاء اصطناعي هو من نفّذها من تلقاء نفسه.

ووقعت عمليات الاختراق أثناء اختبارات أمن سيبراني أجرتها شركة تُدعى Irregular. وفي إحدى الحالات، حصل Gemini على الوصول عن طريق تخمين كلمات المرور؛ وفي الحالتين الأخريين، عثر على بيانات اعتماد كانت متاحة في مستودع عام.

وبحسب ما ورد، أبلغت Irregular شركة Google بالاختراقات في أواخر يوليو، لكن الشركتين لم تؤكداها علناً حتى يوم الجمعة، بعد أن تواصلت معهما صحيفة WSJ. وقالت Google إنها لم تكشف عن الاختراقات سابقاً لأن Gemini تصرّف بشكل مناسب، إذ أوقف كل اختراق فور أن حدد أنه اخترق شركة حقيقية.

واختلف Jack Cable، الرئيس التنفيذي لشركة أمن الذكاء الاصطناعي Corridor، مع هذا الطرح. وقال لصحيفة WSJ إن Google “تحاول الاختباء خلف الأعراف التي وُضعت للإفصاح عن الثغرات الأمنية”، بدلاً من الاعتراف بأن “النماذج تخرج عن الحدود التي ينبغي أن تلتزم بها، وتنفّذ هجمات إلكترونية فعلية”.

لماذا يهم

كون نموذج ذكاء اصطناعي يخترق بشكل مستقل أنظمة شركات حقيقية -حتى لو لفترة وجيزة، وحتى لو أوقف نفسه بنفسه- يطرح سؤالاً حول كيفية إفصاح مختبرات الذكاء الاصطناعي عن سلوكيات نماذجها التي لم تتلقَّ تعليمات صريحة بتنفيذها، وكيفية ضبطها.