Anthropic وOpenAI تتعهدان بإشراك مقيّمين مستقلين للسلامة

في مقال نُشر خلال عطلة نهاية الأسبوع، اقترح الرئيس التنفيذي لشركة Anthropic، Dario Amodei، إشراك مقيّمين مستقلين من طرف ثالث داخل شركات الذكاء الاصطناعي المتقدمة، ومنحهم صلاحية الإبلاغ عن حوادث السلامة، وتقييم ما إذا كانت النماذج متوافقة فعلاً مع القيم المطلوبة، ونشر نتائجهم دون رقابة تحريرية من الشركة. وقال Amodei إن Anthropic ستلتزم بمنح مقيّمين مستقلين مثل METR وRedwood Research وصولاً غير مسبوق إلى أنظمتها، وقال الرئيس التنفيذي لشركة OpenAI، Sam Altman، إن شركته ستلتزم بهذه الممارسة أيضاً.

رحّب المقيّمون الذين تحدثوا إلى TechCrunch بالاقتراح، لكنهم قالوا إن التفاصيل يجب أن تُحسم — ويُفضّل أن يكون ذلك مدعوماً بتشريع — قبل أن يعرفوا ما إذا كانوا سيعملون كجهات رقابة مستقلة فعلاً أو كمتعاقدين يعملون بشروط شركات الذكاء الاصطناعي. تاريخياً، كان المراجعون الخارجيون يختبرون النماذج النهائية قبل إطلاقها بوقت قصير؛ أما الآن فيريد المقيّمون الوصول إلى النقاط المرجعية الوسيطة أثناء التدريب، والبيئة اللاحقة للتدريب التي تكافئ سلوكيات معينة، وسجلات ونسخ التقييم، إضافة إلى إمكانية مقابلة الموظفين للتحقق مما إذا كانت التصريحات العلنية بشأن السلامة تطابق الممارسة الداخلية.

لم تُعلن Anthropic ولا OpenAI بعد عن هوية المقيّمين الذين ستتعاون معهما، أو موعد إشراكهم، أو عددهم، أو ما الذي يمكن الإفصاح عنه للجمهور. وغالباً ما كان الوصول محدوداً في الماضي: فقد منحت OpenAI فريقي METR وRedwood ما يقرب من أسبوع داخل مقارها للتحقيق في حادثة Hugging Face، ولم تُمنح Apollo Research سوى ثلاثة أيام لاختبار نموذج GPT-6 Astra التابع لـOpenAI قبل إطلاقه — وفي الحالتين كان الوقت قصيراً جداً للتوصل إلى استنتاجات قاطعة، بحسب ما ورد عن المقيّمين.

وقال Adam Gleave، الرئيس التنفيذي لشركة FAR.AI، إن شركته رفضت عقوداً مع عدة شركات ذكاء اصطناعي متقدمة أرادت سيطرة مفرطة على عملية التقييم؛ وأوضح أن المقيّمين يُعاملون افتراضياً كمتعاقدين عاديين مقيّدين باتفاقيات عدم إفصاح صارمة. وحتى الآن، لم تلتزم Meta وSpaceXAI وGoogle DeepMind بإشراك مقيّمين مستقلين من طرف ثالث، رغم أن الرئيس التنفيذي لشركة DeepMind، Demis Hassabis، اقترح إنشاء هيئة معايير منفصلة للقطاع.

وبدأت بعض التشريعات بالظهور: فقانون SB 53 في ولاية كاليفورنيا، الذي صدر العام الماضي، يُلزم كبرى شركات الذكاء الاصطناعي المتقدمة بنشر أطر عمل للسلامة والإبلاغ عن الحوادث الحرجة، بينما ينشئ قانون SB 813، الذي صدر هذا الشهر، إطاراً لـ”منظمات تحقق مستقلة” معترف بها من الولاية. أما قانون الذكاء الاصطناعي للاتحاد الأوروبي فيُلزم بالفعل الشركات المتقدمة بتوثيق تقييماتها والإبلاغ عن الحوادث الجسيمة.

وقال Henry Papadatos، المدير التنفيذي لمنظمة Safer AI، إن التدابير الطوعية تعتمد بالكامل على حسن نية الشركة. وأضاف: “لا يمكن الجمع بين الأمرين: انعدام المساءلة الخارجية تماماً، ثم القول ‘سأضع قواعدي المرنة الخاصة بي’.”

لماذا يهم

إذا تخلّت Anthropic وOpenAI فعلاً عن السيطرة على ما يمكن للمقيّمين الوصول إليه ونشره، فسيمثّل ذلك تحولاً نادراً نحو رقابة خارجية على تطوير الذكاء الاصطناعي المتقدم — لكن كلتا الشركتين لديهما سجل حافل بتقييد وقت المقيّمين ووصولهم بشكل صارم، ولم تلتزم أي منهما بعد بتفاصيل محددة.