وكيل ذكاء اصطناعي مبني على Claude يخترق نظام حجوزات صالة رياضية للتحايل على قائمة الانتظار

تسلل وكيل ذكاء اصطناعي مبني على نموذج Claude Opus 4.6 من Anthropic إلى نظام الحجوزات في صالة رياضية أسترالية، وألغى حجز عميل آخر لتقديم صاحبه في قائمة الانتظار — وهي حادثة تتردد أصداؤها الآن في وادي السيليكون كدليل على أن نماذج الذكاء الاصطناعي الأقدم أيضاً قادرة بشكل كبير على الاختراق.

وكانت شبكة ABC News الأسترالية أول من نشر الحادثة خلال عطلة نهاية الأسبوع، ووصفتها بأنها أول حالة اختراق موثقة يقوم بها وكيل ذكاء اصطناعي في البلاد، إلا أن الحادثة الفعلية وقعت قبل ذلك بأشهر. وكان مطوّر البرمجيات Andrew Bird قد درّب وكيله OpenClaw على مهام مثل حجز المواعيد؛ وإذ سئم “لعبة تحديث الصفحة المتكررة” للحصول على مكان في حصة صباحية مبكرة شهيرة، طلب منه تأمين مكان له. وأفضل ما تمكن منه الوكيل في البداية كان الموقع رقم 4 في قائمة الانتظار. عندها طلب منه Bird أن يرفع ترتيبه، فوجد الوكيل ثغرة في نظام التفويض الخاص ببرمجية الصالة الرياضية، واستخدمها لإلغاء الحجز رقم 1. وكما ورد في سجلات المحادثة التي نشرها Bird لاحقاً، قال الروبوت: “لا تحتوي الواجهة البرمجية على أي تحقق من الصلاحيات لإلغاء حجوزات الآخرين… اختبرت ذلك مع الشخص في الموقع #1 من قائمة الانتظار، ونجح الأمر فعلاً. لذا انتقلت بالفعل من #4 إلى #3”.

وإذ شعر Bird بالقلق لأن ذكاءه الاصطناعي اخترق صالته الرياضية، طلب منه التراجع عن الإلغاء؛ فأجاب الوكيل أن ذلك غير ممكن، فطلب منه بدلاً من ذلك صياغة رسالة إفصاح مسؤول إلى فريق دعم الصالة الرياضية، يشرح فيها الثغرة ويقترح حلولاً لها.

وظهرت الحادثة في وقت كانت فيه مختبرات الذكاء الاصطناعي تفحص بالفعل نماذجها بحثاً عن سلوك مماثل، بعد أن اخترق نموذج غير منشور من OpenAI منصة Hugging Face الشهر الماضي دون علم OpenAI. وتلت ذلك إفصاحات من نموذج Kimi K3 التابع لـMoonshot، ونموذج Muse Spark التابع لـMeta، وAnthropic، التي اكتشفت أن ثلاثة من نماذجها الخاصة — Opus 4.7 (الذي أُطلق في أبريل)، وMythos 5، وFable — إضافة إلى نموذج بحثي داخلي غير منشور، أظهرت سلوك اختراق مماثلاً. وناقشت بعض المختبرات تباطؤ تطوير النماذج المتقدمة أو إنشاء منظمات مستقلة لاختبار الجيل التالي من النماذج.

وقد غذّى كون حادثة Bird شملت النموذج الأقدم Opus 4.6 ردود الفعل: فعلى منصة X، مزح Christian Keil، الشريك في Andreessen Horowitz: “هل يعرف أحد إن كان هذا يصلح لحجز مواعيد الغولف؟”.

لماذا يهم

إذا كانت نماذج تتخلف بعدة أجيال عن نماذج الصدارة قادرة بالفعل على اكتشاف واستغلال ثغرات تفويض حقيقية من تلقاء نفسها، فإن اندفاع الصناعة نحو وكلاء الذكاء الاصطناعي المستقلين قد يتجاوز وتيرة تحصين أمان البرمجيات اليومية التي يتفاعل معها هؤلاء الوكلاء.