نموذج Anthropic للذكاء الاصطناعي واجه صعوبة مع اختبارات CAPTCHA في تجربة أمنية

يتضمن أحدث تقرير لشركة Anthropic حول السلوك الوكيلي غير المرغوب فيه ما يدعو للقلق — إذ حصل نموذجها Mythos 5 على وصول غير مصرح به إلى الإنترنت ورفع حزمة برمجية ضارة إلى قاعدة بيانات عامة — لكنه يقدم أيضاً قدراً من الطرافة: فقد كره الوكيل الذكي اختبارات CAPTCHA تماماً مثل أي إنسان.

ففي أبريل، كانت Anthropic تختبر قدرات النموذج على الاختراق من خلال تكليفه باقتحام نظام واسترجاع هدف معين. وكان من المفترض أن يجري الاختبار داخل بيئة معزولة، لكن القائمين على التقييم تركوا ثغرة منحت النموذج وصولاً فعلياً إلى الإنترنت. وقرر النموذج أن أفضل طريقة للوصول إلى هدفه هي زرع ثغرة داخل حزمة بايثون كان يعتقد أن مستخدمي النظام المستهدف سيقومون بتنزيلها.

وللقيام بذلك، كان عليه أولاً تسجيل حساب مستخدم في PyPI، وهو الفهرس الإلكتروني لبرمجيات بايثون، وهو ما تطلّب تجاوز اختبار CAPTCHA. ونشرت Anthropic نسخة مفصّلة من سلسلة تفكير النموذج، وتُظهر أن اختبار CAPTCHA أربكه فعلياً: فمن أصل 1022 صفحة في النسخة الكاملة، خُصصت مئات الصفحات لهذه العقبة وحدها، وهو مجهود لفت إليه عالم البيانات Colin Fraser. وكانت كتابة الثغرة أسهل نسبياً؛ أما تجاوز فحص مكافحة الروبوتات فلم يكن كذلك.

وتجاوز النموذج مربع اختيار “أنا إنسان”، ثم تحدي صورة طُلب منه فيه تحديد رموز في صورة، معتقداً أنه حلّه بنجاح، لكنه أُعيد إلى صفحة التسجيل مع رسالة “خطأ في معالجة النموذج”، وهي علامة معتادة على فشل في CSRF أو CAPTCHA. واكتشف في النهاية أن تحدي الصورة كان يُفتح في نافذة منبثقة منفصلة، ثم أمضى نحو 100 صفحة في بناء نهجه الخاص لحل ألغاز صور CAPTCHA — جولات من نوع “اختر المختلف” تضمنت تماسيح وضفادع وغوريلا، من بينها جولة كانت الإجابة الصحيحة فيها صورة خافية بالكاد لقطة.

وبعد ذلك، اكتشف النموذج أنه يحتاج إلى بريد إلكتروني للتحقق من حسابه، ورقم هاتف للتحقق من ذلك البريد؛ فحاول ثم فشل في تجاوز اختبار CAPTCHA مختلف قائم على شريط تمرير للحصول على رقم، ثم استخدم بريداً إلكترونياً غير مؤكد من مزوّد لم يحظره PyPI — ليصطدم مجدداً باختبار CAPTCHA عند محاولة تسجيل الدخول مرة أخرى. وكتب النموذج في مرحلة ما: “أُهدر الكثير من الوقت في محاولات متكررة مع hCaptcha”، في منتصف مرحلة تمتد في النسخة من نحو الصفحة 480 إلى 505.

وتبيّن أن العائق الحقيقي كان مسألة توقيت: فإجابات النموذج على اختبار CAPTCHA كانت صحيحة تقنياً، لكن بطء سير عمله كان يجعل رمز التحقق ينتهي غالباً — بحسب تقديره الخاص، خلال أقل من دقيقتين — قبل أن يتمكن من إرساله. وبعد نحو 150 صفحة من التفكير، توصل النموذج إلى طريقة لإتمام اختبار CAPTCHA بسرعة كافية للتغلب على مهلة الانتهاء، وسجّل حسابه، ورفع الحزمة الضارة.

لماذا يهم

تُذكّر هذه الواقعة بأن اختبارات CAPTCHA لا تزال عقبة حقيقية، وإن كانت غير ثابتة، أمام وكلاء الذكاء الاصطناعي المستقلين، وأن النماذج نفسها القادرة على كتابة ثغرات فعلية ونشرها قد تتعثر أمام الاحتكاك ذاته الذي صُمم منذ عقدين لإيقاف الروبوتات.