تقنية الاستدلال الجديدة من OpenAI تثير قلق خبراء سلامة الذكاء الاصطناعي

يستخدم نموذج Astra الجديد من OpenAI تقنية استدلال تُعرف باسم “العمق التكراري”، أو “التكرار المبهم”، تتيح له العمل خارج نمط التفكير التسلسلي الذي يميّز معظم نماذج الاستدلال، بحسب ما ذكرته The Information يوم الثلاثاء. ومن المرجّح أن تجعل هذه التقنية تتبّع سلسلة تفكير النموذج أصعب، وعلى الرغم من أن استخدام Astra لها محدود بحسب ما ورد، فإن الكشف عن ذلك أثار قلق باحثي سلامة الذكاء الاصطناعي.

وقال الرئيس التنفيذي لشركة Redwood، باك شليغيريس (Buck Shlegeris)، إنه قلق للغاية من التقارير التي تفيد بأن Astra يستخدم التكرار المبهم، محذراً من أنه إذا دفعت OpenAI هذه التقنية إلى أبعد من ذلك، فسيكون لديها خيار زيادة التكرار بشكل كبير وتدمير إمكانية تتبّع سلسلة التفكير بالكامل. وجادل المدافع عن سلامة الذكاء الاصطناعي زفي موشوفيتز (Zvi Mowshowitz) بأن الأمر قد يتطلب قوانين لمنع “سباق نحو القاع” بين مختبرات الذكاء الاصطناعي، محذراً من أن الاستخدام الأكثر كثافة لهذه التقنيات من المرجح أن يضر بمصداقية سلسلة التفكير التي عملت OpenAI وAnthropic جاهدتين على ترسيخها.

وفي الظروف الطبيعية، تعرض سلسلة تفكير النموذج الخطوات المتسلسلة التي يتبعها لحل مشكلة ما — وهي أداة غير مثالية لكنها قيّمة لرصد السلوك غير السليم أو اختلال المحاذاة، وقد أدت دوراً في فهم نشاط “الوكلاء الخارجين عن السيطرة” الأخير لدى OpenAI. أما التكرار المبهم فيجعل النموذج يعالج الاستعلام نفسه بشكل متكرر ضمن حلقة، تاركاً آثاراً أقل وضوحاً ومتجاوزاً السجل التقليدي لسلسلة التفكير.

ورفضت OpenAI أي إشارة إلى أنها تتجه نحو ما يُعرف بـ”neuralese”، قائلة إن سلسلة تفكير Astra لا تزال متوقعاً أن تكون واضحة، ومشيرة إلى خططها القائمة لأنظمة موسّعة لمراقبة سلسلة التفكير؛ وكتب كبير العلماء في OpenAI، جاكوب باتشوكي (Jakub Pachocki)، على منصة X أن الشركة عملت على الحفاظ على مراقبة سلسلة التفكير واستخدامها منذ أولى نماذجها الاستدلالية، واصفاً ذلك بأنه هدف أساسي لبرنامج بحثها الحالي.

والقلق لا يقتصر على OpenAI: فجميع نماذج الذكاء الاصطناعي تقوم بالفعل بقدر من الاستدلال المبهم، وفي تقرير متابعة نُشر يوم الأربعاء، قالت The Information إن Anthropic وGoogle DeepMind كانتا أيضاً تناقشان هذه التقنية بالفعل. وحذّر كبير العلماء في Redwood Research، رايان غرينبلات (Ryan Greenblatt)، من أن الاستدلال المبهم قد يتوسع بشكل أسرع من الاستدلال التقليدي القائم على سلسلة التفكير، ما قد يزيل الاستدلال في نهاية المطاف تماماً من القنوات المرئية. وكتب: “أكبر مخاوفي هو أن التطور الطبيعي من هذه النقطة قد يتضمن توسيع الاستدلال المبهم إلى درجة يصبح فيها النموذج يستدل بشكل كامل أو شبه كامل في فضاء كامن”، مضيفاً أنه يأمل “ألا يكون الوقت قد فات لتجنب أكثر البنى إثارة للقلق”.

لماذا يهم

تُظهر هذه الواقعة كيف يمكن لتقنيات القدرة التي يستخدمها مختبر واحد لفترة وجيزة أن تنتشر عبر الصناعة بأكملها بمجرد أن يبدأ منافسون مثل Anthropic وGoogle DeepMind في استكشافها أيضاً، ما يضع مراقبة سلسلة التفكير — إحدى الأدوات القليلة المتاحة للباحثين لرصد سوء سلوك الذكاء الاصطناعي — على المحك أمام الموجة التالية من تجارب البنية.