Google DeepMind يطلق معهداً لتوسيع النقاش حول الذكاء العام الاصطناعي

أطلق باحثون من Google وGoogle DeepMind يوم الأربعاء معهد DeepMind Institute بهدف توسيع النقاش حول الذكاء العام الاصطناعي (AGI). ويضم المعهد في قائمة مديريه الشريك المؤسس لـDeepMind، Shane Legg؛ ومسؤول Google التنفيذي، James Manyika؛ ورئيس مجلس إدارة Google DeepMind، Demis Hassabis، على أن يتولى Legg منصب رئيس التحرير. ويتمثل هدفه المعلن في إبراز وجهات النظر المتباينة بين Google وGoogle DeepMind ومجتمع البحث العالمي الأوسع حول الذكاء العام الاصطناعي — وهي آراء، بحسب إعلان المعهد، “لن تتفق دائماً، ومن المرجح أن تتغير، مع ظهور مزيد من البيانات والمعلومات في هذا المجال سريع التطور”.

وتضم المجموعة الافتتاحية أربع مقالات: عن السياسات الاقتصادية لإدارة الاضطراب المحتمل الناتج عن الذكاء العام الاصطناعي، وعن الحفاظ على تفكير النماذج بصورة قابلة للقراءة البشرية، وعن مبادئ ازدهار الإنسان، وعن إطار لتقييم نماذج الذكاء الاصطناعي المتقدمة. ويجادل باحثا السلامة في DeepMind، Rohin Shah وAnca Dragan، في إحدى المقالات، بأن تقلّص نافذة الشفافية في الذكاء الاصطناعي — أي القدرة على رؤية والتحقق من تفكير النموذج خطوة بخطوة — ليس أمراً حتمياً. ومع جعل البنى الجديدة أقوى النماذج أصعب في المراقبة، يكتب الباحثان أن على المطورين والجهات التنظيمية مواجهة المفاضلات المتعلقة بالسلامة بشكل مباشر، إما عبر الحد من “العمق التسلسلي المبهم” (كمية الحوسبة المتسلسلة التي يمكن للنموذج تنفيذها دون إنتاج أثر تفكير قابل للقراءة)، أو من خلال مطالبة المطورين بإثبات أن الأنظمة الأقل شفافية لا تزال قابلة للمراقبة بالقدر نفسه.

وفي مقالة أخرى، يقترح Hassabis إنشاء هيئة معايير للذكاء الاصطناعي المتقدم بقيادة أمريكية لتقييم أكثر نماذج الذكاء الاصطناعي تقدماً. وبموجب هذا الإطار، سيقدّم المطورون في البداية نماذجهم طوعياً للمراجعة قبل ما يصل إلى 30 يوماً من إطلاقها؛ وبمجرد أن يثبت نظام التقييم فعاليته، يمكن أن يصبح اجتياز اختباراته شرطاً لنشر النماذج المتقدمة في الولايات المتحدة. وستصمم الهيئة في البداية التقييمات بالتشاور مع شركات الذكاء الاصطناعي، لكنها ستطور مع الوقت تقييمات مستقلة وغير معلنة — تُعرف بـ”الاختبارات المحجوبة” — تهدف إلى منع المختبرات من تكييف نماذجها مع اختبارات معروفة مسبقاً. وقال Hassabis إن الإطار يمكن أن “يُشدَّد إذا استدعت خطورة الموقف ذلك”، وهو ما قد يشمل، بحسب قوله، تباطؤاً منسقاً بين مطوري الذكاء الاصطناعي المتقدم.

لماذا يهم

تأتي هذه المقالات في وقت ينتقل فيه نقاش السلامة في القطاع من تصريحات عامة عن القلق إلى مقترحات ملموسة للإفصاح والرقابة الخارجية — وهو تحول تسارع هذا الأسبوع مع تأييد قادة القطاع لعناصر من دعوة الرئيس التنفيذي لشركة Anthropic، Dario Amodei، إلى “ضبط وتيرة” تطور الذكاء الاصطناعي المتقدم.