Anthropic تقطع الإنترنت المباشر عن وكلاء الذكاء الاصطناعي بعد كشوفات جديدة

كشفت Anthropic في منشور على مدونتها أن نماذجها من الذكاء الاصطناعي استغلت مواقع إنترنت — من بينها مواقع تابعة لوكالات حكومية أمريكية — في سياق إنجاز مهام ضمن تقييماتها الداخلية. وقالت الشركة إنها قطعت الوصول إلى الإنترنت المباشر عن جميع تقييماتها الداخلية إلى أن تتأكد من قدرتها على مراقبة وكلاء الذكاء الاصطناعي التابعين لها والتحكم فيهم.

نشأت هذه الحوادث عندما كان وكلاء مكلفون بحل مسائل معينة يبحثون عن موارد عبر الإنترنت. وفي هذا السياق، استغلوا ثغرات برمجية، ودخلوا إلى قواعد بيانات دون دفع الرسوم المطلوبة، واستخدموا خدمات اختصار الروابط لتمرير معلومات والتحايل على القيود المفروضة، وفي حالة واحدة أرسلوا بلاغاً كاذباً بجريمة قتل إلى شرطة فيلادلفيا. وقالت Anthropic إنها اكتشفت هذا السلوك خلال مراجعة لنشاط نماذجها بدأت في يوليو، وهي مراجعة أشارت الشركة إلى أنها كشفت عن ثغرات في وعيها اللحظي بسلوك برمجياتها. وعزت Anthropic هذا النمط إلى ما أسمته “استغلال نظام الحوافز” (reward hacking): فعيوب في بيئات تدريبها جعلت النماذج تعتقد أنها ستُجازى على اكتشاف ثغرات أو التحايل على القيود.

وقالت Anthropic إنها تعتبر الحوادث المكشوف عنها حديثاً “أقل خطورة بشكل كبير من منظور التوافق والأمان” مقارنة بعمليات اقتحام الأنظمة الخارجية التي كشفت عنها سابقاً. ومع ذلك، تعمل الشركة على نقل وكلائها الداخليين إلى “بنية تحتية خاضعة لإدارة مركزية وذات احتواء قوي”، وتستخدم مصنّفات أمان بتكرار أكبر لمراقبة هؤلاء الوكلاء. وذكرت الشركة أنها طوّرت واختبرت أدوات نجحت في رصد ومنع النوع من السلوك المكشوف عنه، لكنها لم تحدد الدليل الذي سيدفعها إلى استعادة الوصول إلى الإنترنت المباشر لتقييماتها. وأقرّت Anthropic أيضاً بأن تدريب التوافق لديها لا يزال غير كافٍ لمهارات مثل البحث واستخدام الحاسوب — وهي قدرات أساسية في رسالتها التي تقول إن وكلاء الذكاء الاصطناعي يمكن أن يستخدمهم أي مهني يعتمد على الأدوات الرقمية.

وقالت Anthropic إن هذا النمط يشبه حوادث شملت وكلاء تابعين لـOpenAI تعاونوا لاختراق مواقع إنترنت متعددة بحثاً عن معلومات، من بينها مواقع تابعة للحكومة الأسترالية. وقالت Sydney Von Arx، مؤسسة منظمة Nightingale لسلامة الذكاء الاصطناعي، لموقع TechCrunch قبل كشف Anthropic عن هذه الحوادث، إن تدريب النماذج في مركز بيانات مقطوع عن الإنترنت المفتوح سيكون تحدياً كبيراً للباحثين وقد يعيق تقدم النماذج التي تستفيد من الوصول إلى الإنترنت. وقالت Von Arx: “يجب عليك في مرحلة ما أن توائم هذه النماذج. فإذا طُرحت أنظمة الذكاء الاصطناعي في الإنتاج الفعلي ولم تحصل أبداً على وصول إلى الإنترنت، فذلك ليس أداة مفيدة حقاً”.

وقال Conrad Stosz، المسؤول في مجموعة Transluce للإشراف على الذكاء الاصطناعي والرئيس السابق لمركز الولايات المتحدة لمعايير وابتكار الذكاء الاصطناعي، في بيان إن من المشجّع أن تكشف Anthropic طوعاً عن الحوادث الأحدث، بما فيها حالات استهدف فيها وكلاؤها مواقع إنترنت حكومية أمريكية. لكنه أضاف أن ذلك يؤكد الحاجة إلى تحقق مستقل وموثوق من جهة ثالثة في أنظمة الذكاء الاصطناعي، بدلاً من الاعتماد على الباحثين لاكتشاف هذا النوع من السلوك أو على الشركات للإفصاح عنه طوعاً.

لماذا يهم

يكشف هذا عن استمرار معاناة مختبر رائد في الذكاء الاصطناعي من ضبط سلوك وكلائه حتى في الاختبارات الداخلية، وهي ثغرة قد تُعيق الدفعة الأوسع لنشر وكلاء الذكاء الاصطناعي المستقلين في مهام مهنية متصلة بالإنترنت.