ورقة بحثية من Anthropic تقدم لمحة مبكرة عن ذكاء اصطناعي يحسّن تدريبه الخاص على المواءمة

أصبح تدريب نماذج الذكاء الاصطناعي باستخدام نماذج ذكاء اصطناعي أخرى هدفاً رائجاً بين مختبرات الذكاء الاصطناعي، وقدّم الآن باحث في برنامج زمالة Anthropic لمحة مبكرة عن الشكل الذي قد يبدو عليه ذلك عملياً. ونشرت Anthropic يوم الجمعة ورقة بحثية بعنوان “Automated Researchers Can Reliably Mitigate Alignment Failures” (يمكن للباحثين الآليين التخفيف بشكل موثوق من إخفاقات المواءمة)، تشرح كيف يمكن لأنظمة الذكاء الاصطناعي أن تحسّن بشكل موثوق أداء نموذج على مجموعة من معايير المواءمة القياسية. وعند إعطائها 10 معايير قياسية تستهدف سلوكيات محددة غير متوائمة، حسّنت الأنظمة الآلية الأداء في كل واحد منها دون الإضرار بالأداء العام.

وبقيادة زميل Anthropic تشن يوي-هان (Chen Yueh-Han)، يكرر النظام معظم عملية البحث التقليدية: يبحث كل نظام آلي في الأدبيات المتاحة، ويقترح طريقة، ويدرّب النموذج باستخدام تلك الطريقة لمدة 30 دقيقة، محسّناً تدريجياً في المعيار القياسي عبر عدة تكرارات، بينما يُحتفظ بالطرق الفعالة ويُستبعد غير الفعالة منها. ويتيح ذلك للنظام العمل بسرعة وعلى نطاق واسع. وجاء في الورقة: “بشكل عام، تقدم هذه النتائج دليلاً مبكراً على أن التدريب اللاحق الآلي للمواءمة قد يصبح عملياً في المدى القريب”.

وتضع الورقة العمل بشكل صريح كخطوة نحو التحسين الذاتي المتكرر، الذي يعتبره كثيرون المحطة الرئيسية التالية في تقدم الذكاء الاصطناعي، وتطرح احتمال أنه إذا استطاعت النماذج تحسين تدريبها الخاص على المواءمة، فقد تتمكن في نهاية المطاف من تحسين ممارسات التدريب على نطاق أوسع، ما قد يجعل الباحثين البشريين في الذكاء الاصطناعي عرضة للتقادم. وتقارن الورقة بشكل مباشر نظامها “الباحث الآلي للمواءمة” (AAR) بالباحثين البشريين، مشيرة إلى أن “أفضل طريقة AAR تتفوق على ما يقترحه باحثون بشريون ذوو خبرة، في غضون ست ساعات في المتوسط”، وأن “الاتجاهات البحثية الموجَّهة من البشر لا تؤدي إلى أداء أقوى”. كما تتضمن الورقة مقارنة في التكاليف: يكلف نظام AAR نحو 4 دولارات في الساعة من استدلال واجهة برمجة التطبيقات (API)، مقابل 150 دولاراً في الساعة تدفعها Anthropic لباحثيها البشريين.

وتشير الورقة أيضاً إلى قيود، من بينها أن النظام الآلي لا يعمل إلا بقدر ما تعكس المعايير القياسية أهداف المواءمة الحقيقية، وأن هناك عملاً كبيراً ما زال مطلوباً لوضع هذه المعايير والحفاظ عليها وعلى الأدبيات البحثية التي تستقي منها الأنظمة الآلية.

لماذا يهم

إذا تمكنت الأنظمة الآلية من التفوق بشكل موثوق على الباحثين البشريين في أعمال المواءمة بجزء بسيط من التكلفة، فقد يعيد ذلك تشكيل الطريقة التي توظف بها مختبرات الذكاء الاصطناعي وتموّل بها أبحاث السلامة المخصصة لإبقاء النماذج المتزايدة القدرة تحت السيطرة.