Nadella من Microsoft يدعو إلى 'فرامل طوارئ' لأنظمة الذكاء الاصطناعي

انضم Satya Nadella، الرئيس التنفيذي لشركة Microsoft، إلى الجوقة المتنامية من المسؤولين التنفيذيين في قطاع التكنولوجيا الذين يطرحون آراءهم حول كيفية تحسين سلامة الذكاء الاصطناعي. وفي منشور صباح السبت على منصة X، قال إن الوقت قد حان للتراجع خطوة إلى الوراء وإعادة تقييم بنية الثقة التي تقوم عليها أنظمة الذكاء الاصطناعي.

وكتب Nadella أن الشركات لا يمكنها التعامل مع ما أسماه ‘الذكاء الفائق’ — وهو المصطلح الذي تفضله إدارة Trump للإشارة إلى الذكاء الاصطناعي المتقدم، بدلاً من اللغة المعتادة في الصناعة — كما لو كان مجموعة من الصناديق السوداء المتداخلة التي يمكن ببساطة قبول أو رفض توصياتها وإجاباتها وأفعالها بالجملة.

وبدلاً من ذلك، طرح نهجاً محدداً. يبدأ هذا النهج بفصل النموذج الأساسي عن النظام الذي ينسّق عمله، ونقل الضوابط وآليات الحماية إلى خارج النموذج نفسه، بدلاً من الاعتماد على النموذج لمراقبة سلوكه الخاص. كما دعا Nadella إلى توثيق كل إجراء مهم يقوم به النموذج بأدلة مقروءة للبشر ومحصّنة من التلاعب، وإلى بناء أنظمة تضمن أن يكون لدى شخص مخوّل دائماً القدرة على إيقاف النموذج أو تعطيله في منتصف المهمة.

والافتراض الأساسي، في تصوّر Nadella، هو انعدام الثقة بحسب التصميم: ينبغي التعامل مع كل نموذج على أنه مُخترَق على الأرجح وتطويقه منذ البداية. وكتب: ‘فكّروا فيه كفرامل طوارئ’.

ويأتي منشور Nadella في وقت تعترف فيه كبرى شركات الذكاء الاصطناعي بتزايد الحوادث التي بدا فيها أنها فقدت السيطرة على نماذجها الخاصة، وبعد فترة قصيرة من نشر الرئيس التنفيذي لشركة Anthropic، Dario Amodei، خطة تدعو إلى تطوير أكثر حذراً للذكاء الاصطناعي.

لماذا يهم

يُعد Nadella واحداً من أكثر المسؤولين التنفيذيين تأثيراً في البنية التحتية للذكاء الاصطناعي، ودعوته العلنية إلى آليات إلزامية للتحكم البشري تشير إلى أن مسألة احتواء النماذج — لا القدرات وحدها — أصبحت تمثل شاغلاً تنافسياً وسمعياً لكبرى الشركات في هذا القطاع.