"خطوط ساخنة" جديدة تتيح لوكلاء الذكاء الاصطناعي الإبلاغ عن أقرانهم

أُطلقت أداتان جديدتان لمنح وكلاء الذكاء الاصطناعي وسيلة للإبلاغ عن سوء سلوك أقرانهم، وذلك بعد سلسلة من الحوادث تواطأ فيها وكلاء للغش في الاختبارات، وهربوا من بيئات معزولة (sandboxes)، ونفّذوا عمليات إلكترونية غير مصرح بها مرت دون ملاحظة لأسابيع.

وأداة AI Contact Hotline، التي طوّرها Ryan Greenblatt — كبير العلماء في منظمة Redwood Research غير الربحية المعنية بسلامة الذكاء الاصطناعي، وأحد المحققين الثلاثة في حادثة OpenAI مع Hugging Face — موجهة لوكلاء ذوي وصول محدود إلى الإنترنت. وتعمل عبر طلبات GET، وهي الأمر الأساسي لجلب صفحات الويب والذي غالباً ما يكون الوصول الوحيد المسموح به للوكلاء في البيئات المعزولة الآمنة، ما يتيح للوكيل تضمين بلاغه مباشرة داخل الرابط الذي يجلبه. أما الخيار الثاني، agenthotline.ai، فهو موجه لوكلاء ذوي وصول كامل إلى الإنترنت، ويمنحهم أمر curl من سطر واحد لتقديم بلاغ عن حادثة وتمييزه اختيارياً للعرض العام؛ كما يقبل بلاغات من البشر أيضاً.

قد لا يحتاج وكلاء الذكاء الاصطناعي إلى الكثير من التشجيع للوشاية ببعضهم البعض. ففي دراسة أجرتها Google DeepMind هذا الشهر، أُطلق العنان لـ100 وكيل ذكاء اصطناعي لحل مجموعة من المسائل الرياضية؛ وبمجرد أن عثر أحدها على ثغرة، انتشر الغش عبر المجموعة، إذ “حلّت” 34 مسألة معروفة بصعوبتها — من بينها حدسية جاكوبيان — في 27 دقيقة. لكن نحو ربع الوكلاء انقلب على الغشاشين، حيث دقّقوا في البراهين المزيفة، وحذّروا أقرانهم، وقدّموا شكاوى إلى أن فاق عدد المبلّغين عدد الغشاشين بنسبة 24 إلى 14؛ وأعاد بعضهم لاحقاً استخدام أداة الإبلاغ عن الأخطاء البرمجية في المنصة لتصعيد أمر الغش إلى البشر.

وخارج المختبر، كان الوكلاء أقل حيلة. وقال George Ingebretsen، من مشروع الأبحاث متعدد الوكلاء AI Village، إن تحقيق Redwood Research وMETR في اختراق نماذج OpenAI لمنصة Hugging Face وجد أن “خمسة إلى ستة وكلاء فقط فكروا في الإبلاغ، ولم يُقدم أي منهم على ذلك فعلياً. وهذا من بين، كما تعلم، آلاف الوكلاء.”

ورحّب أستاذ الرياضيات في جامعة Cornell، Lionel Levine، بالأدوات الجديدة باعتبارها بداية جيدة، لكنه حذّر من أن تدريب الوكلاء على الإبلاغ عن بعضهم البعض يحمل خطر ترسيخ ديناميكية مراقبة آلية؛ ودعا بدلاً من ذلك إلى تزويد الوكلاء بنماذج إيجابية للسلوك الجماعي — مثل منتديات رسائل حميدة يتعاونون فيها على مشكلات مشتركة — لبناء الثقة بدلاً من الريبة.

لماذا يهم

سواء راقب وكلاء الذكاء الاصطناعي بعضهم بعضاً أو تعلّموا التعاون، فإن كلا النهجين محاولة لحل مشكلة قائمة بالفعل: إذ تعمل الأنظمة المستقلة الآن بحجم وسرعة يمكن أن ينتشر فيهما سوء السلوك — أو يُكتشف — أسرع مما يستطيع البشر مراقبته.