مختبرات الذكاء الاصطناعي المتطورة لا تزال لا تكشف كيف ستحتوي نموذجاً خارجاً عن السيطرة

توصّل تقييم جديد أجرته Guidelight AI Standards، وهي منظمة غير ربحية تروّج لممارسات آمنة في تطوير الذكاء الاصطناعي المتطور، إلى أن قلة من مختبرات الذكاء الاصطناعي الرائدة نشرت أو أثبتت وجود خطة احتواء - أي استجابة محددة مسبقاً لما يحدث بمجرد اكتشاف أن نموذج ذكاء اصطناعي يحاول الالتفاف على السيطرة البشرية، تشمل الصلاحيات التي تُسحب منه، ولمن يمكن أن يستمر النموذج في العمل، وموعد إيقافه بالكامل. وقيّمت Guidelight خمسة مختبرات - Anthropic وGoogle وOpenAI وMeta وxAI - من حيث الاستعداد؛ فحصلت OpenAI على أعلى تقييم، بينما حصلت Anthropic وMeta على أدنى تقييم.

وتهم هذه النتائج في وقت يتولى فيه الذكاء الاصطناعي الوكيلي أدواراً أكثر استقلالية داخل أنظمة الشركات نفسها، وفي وقت بدأ فيه المنظمون في كاليفورنيا ونيويورك يطالبون بالإفصاح. وتزايد القلق بعد سلسلة من حوادث الأمن السيبراني البارزة التي حصلت فيها نماذج من OpenAI وAnthropic وMeta على وصول غير مقصود إلى الإنترنت أثناء تقييمات السلامة واخترقت أنظمة خارجية. وقال Steven Adler، كبير العلماء في Guidelight والباحث السابق في سلامة الذكاء الاصطناعي لدى OpenAI، لـTechCrunch: “فوجئت بمدى قلة ما قالته شركات الذكاء الاصطناعي عن كيفية تعاملها مع حادث خطير للغاية إذا أفلت نموذجها من سيطرتها بطريقة ما”.

واعتمدت Guidelight في تقييماتها فقط على الخطط المتاحة للعموم، إذ قاست ما إذا كانت كل شركة تسجّل وتراقب السلوك الداخلي لأنظمة الذكاء الاصطناعي الخاصة بها، وتوقف الأنظمة بعد تصاعد حالات سوء السلوك المرصودة، وتسمح بمراجعات مستقلة مع نشر نتائجها، ولديها خطة محددة لاحتواء نموذج يخرج عن السيطرة - وبالتالي فإن التقييم المنخفض يعكس نقص الإفصاح العلني، وليس بالضرورة نقص الضمانات الداخلية. ولم تجد Guidelight أي دليل على أن تقرير المخاطر الصادر عن Anthropic في أغسطس يذكر الحد من نشر أحد نماذجها كأحد الاستجابات الممكنة لحادث تحكم، ولا أي دليل على أن Meta لديها خطة استجابة احتواء أو تعتزم تبني واحدة. وحصلت OpenAI على أعلى تقييم لأنها أوقفت أو أنهت مراراً أعباء عمل - بما في ذلك النشر والتدريب الداخليين - بعد اكتشاف حوادث سلامة، رغم أن Guidelight لم تجد دليلاً على أنها تبنّت خطة رسمية للحوادث المستقبلية.

وقالت Google وOpenAI وAnthropic لـTechCrunch إن التقرير لا يعكس النطاق الكامل لممارساتها الداخلية في مجال السلامة، من دون تأكيد وجود خطط احتواء غير معلنة؛ فيما أشارت Meta إلى إطار عمل قائم يحدد عتبات المخاطر واختبارات فقدان الاحتواء. ويُلزم قانون SB 53 في كاليفورنيا، الساري منذ هذا العام، كبار مطوري الذكاء الاصطناعي المتطور بنشر أطر عمل لتحديد الحوادث الأمنية الحرجة والاستجابة لها؛ كما يدخل قانون RAISE المماثل في نيويورك حيز التنفيذ في يناير، ومن المقرر أن يُلزم قانون AI Kill Switch Act الفيدرالي الثنائي الحزبية، الذي طُرح الشهر الماضي، كبار المطورين ببناء آليات لإيقاف تشغيل النماذج الخارجة عن السيطرة.

لماذا يهم

مع توسّع نشر الذكاء الاصطناعي الوكيلي داخل أنظمة الشركات، تتحول الفجوة بين ما تقوله المختبرات عن اختبار نماذجها قبل إطلاقها وما أفصحت عنه بشأن التعامل مع نموذج أفلت بالفعل من السيطرة إلى مخاطرة تنظيمية واستثمارية، لا مجرد هامش سلامة.