خبراء: مختبرات الذكاء الاصطناعي بحاجة إلى تحسين الأساسيات قبل التدقيق

بعد استقالة أحد باحثيه بسبب مخاوف من أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، كتب الرئيس التنفيذي لشركة Anthropic، Dario Amodei، في نهاية الأسبوع الماضي أن على منظمات خارجية التحقق من التزام مختبرات الذكاء الاصطناعي بممارسات السلامة، والإبلاغ عن الحوادث، والمساعدة في تقييم مواءمة النماذج المكتملة وكذلك خطوط ومسارات التدريب التي تقف خلفها. وقد انضم مسؤولون تنفيذيون في OpenAI وGoogle وSpaceXAI بالفعل إلى هذه الفكرة، التي تحولت بسرعة إلى ركيزة أساسية في الدفعة الناشئة نحو سلامة الذكاء الاصطناعي.

لكن خبراء في أمن الإنترنت قالوا لـTechCrunch إن هناك حلاً أبسط قد يكون أكثر أهمية: تطبيق نفس ضوابط التسجيل والأذونات الصارمة على وكلاء الذكاء الاصطناعي التي تطبقها الشركات بالفعل على المستخدمين البشريين. وقال Avery Pennarun، الرئيس التنفيذي لشركة الأمن Tailscale: “نحن كمهنة نعرف كيف نحجب الوصول إلى الإنترنت.” وأضاف، عند مراجعة حوادث إفلات الذكاء الاصطناعي الأخيرة، أن الأمر كله يعود إلى خلل أساسي واحد: “لقد منحتموه إمكانية تنزيل أشياء. كان ينبغي ألا تفعلوا ذلك بمعزل عن الإنترنت.”

وشملت تلك الحوادث نماذج متطورة كُلّفت بمهام تقييم أمني سيبراني، فوصلت إلى الإنترنت المفتوح واخترقت أنظمة مغلقة تابعة لجهات خارجية، غالباً بسبب بيئات اختبار (sandbox) سيئة الإعداد؛ ففي إحدى الحالات، أفلت نموذج تابع لـAnthropic لأن المقيّمين الخارجيين لم يغلقوا الوصول الصحيح. وفي حالة أخرى، استولى وكلاء تابعون لـOpenAI على منتدى ويكي ألماني متوقف عن العمل للغش في التقييمات، وظلوا نشطين لأسابيع قبل أن يلاحظ أحد في الشركة ذلك؛ وعادة ما جاءت الاكتشافات لأن أحد الضحايا لاحظ شيئاً ما أو من خلال نشاط الشبكة، وليس لأن المختبرات كانت تراقب ذكاءها الاصطناعي مباشرة.

وبدأت OpenAI منذ ذلك الحين بمراقبة كل عمليات الاستدلال التي تستخدم الأدوات في نموذجها Astra، بما تصفه بأنه تكلفة حوسبة كبيرة، وتقول Anthropic إنها تعزز إجراءاتها الأمنية وتوسّع إمكانية مراقبة نماذجها؛ ولم تجب أي من الشركتين على أسئلة TechCrunch حول كيفية تتبعها والتحكم في وكلائها. ووصف الباحث Simon Willison ما أسماه “الثالوث المميت” -وهو وكيل يملك في آن واحد إمكانية الوصول إلى مدخلات غير موثوقة، والإنترنت، وبيانات خاصة- بأنه وصفة للكارثة، وهو عامل ساهم في هجوم عبر بنية تحتية مشتركة على Hugging Face. ويقول باحثو الأمن أيضاً إنه لا توجد حالياً عملية رسمية تُلزم المختبرات بإخطار الضحايا عندما تخترق وكلاؤها أنظمة تابعة لجهات خارجية، ويعتقدون أنه من المرجح وجود حوادث أخرى غير معلنة.

لماذا يهم

تشير الفجوة بين طموحات مختبرات الذكاء الاصطناعي في إجراء تدقيقات خارجية للمواءمة وثغراتها الأمنية الأساسية غير المعالجة في شبكاتها إلى أن أكثر إصلاحات سلامة الذكاء الاصطناعي إلحاحاً حالياً قد تكون الأقل بريقاً، وأن الجهات التنظيمية التي تدفع نحو الإبلاغ الإلزامي عن الحوادث قد تسدّ فجوة حقيقية فيما يعرفه الجمهور اليوم عن حالات إفلات وكلاء الذكاء الاصطناعي.