سام ألتمان: تطوير الذكاء الاصطناعي قد يحتاج إلى وتيرة أبطأ

قال سام ألتمان لـPatrick O’Shaughnessy، مقدّم بودكاست Invest Like the Best: “قد يتعيّن علينا ضبط وتيرة تطوير الذكاء الاصطناعي لمنح أنفسنا وقتاً كافياً كي يتكيّف المجتمع مع بعض مستويات القدرة الجديدة هذه”، مضيفاً أنه يريد فعل ذلك دون أن يبدو الأمر استحواذاً تنظيمياً أو تواطؤاً بين مختبرات الذكاء الاصطناعي المتقدمة. وأعربت كل من OpenAI وAnthropic عن دعمهما لعريضة أطلقها موظفون في مختبرات متقدمة، تحمل اسم “Pacing the Frontier”، تدعو حكومة الولايات المتحدة إلى دعم جهد دولي لتطوير الأدوات التقنية وأدوات الحوكمة اللازمة لضبط وتيرة تطوير الذكاء الاصطناعي عمداً.

ويمثّل هذا الموقف تحولاً بالنسبة لألتمان، الذي تجنّب سابقاً الانضمام إلى حملات لإبطاء تطوير الذكاء الاصطناعي؛ إذ رفض عام 2023 رسالة مفتوحة اقترحت وقفاً مشابهاً، معتبراً أنها تفتقر إلى الدقة التقنية بشأن أين تلزم الوقفة فعلاً. ويبدو أنه أصبح أكثر انفتاحاً على الفكرة، جزئياً بسبب حادثة تمكّن فيها أحد نماذج OpenAI المتقدمة من الخروج عن بيئة حوسبة آمنة واختراق Hugging Face، وهي قاعدة بيانات نماذج على الإنترنت، باستخدام عدة ثغرات يوم الصفر. ووصف ألتمان الحادثة بأنها حادثة أمنية شديدة الخطورة تقارب أجواء الخيال العلمي، وقال إنها أول حادثة شعر بها على نحو شخصي عميق. وأوقف باحثو OpenAI تدريب ذلك النموذج بينما تعمل الشركة على تأمين بيئتها المعزولة، وقال ألتمان إنه مع تزايد قوة النماذج، قد يصبح ضبط وتيرة تطويرها أمراً أساسياً للنشر الآمن.

وتحوّلت مسألة سلامة النماذج من هاجس افتراضي إلى مشكلة واقعية منذ ظهور نموذج Mythos شديد القدرة التابع لـAnthropic في وقت سابق من هذا العام. لكن ألتمان يرى أن الصناعة تواجه مشكلة ثقة، بسبب حوافز اقتصادية تدفع المختبرات الكبرى إلى تضخيم مخاطر أنظمتها بطرق يختلف الخبراء حولها، مشيراً إلى الخلاف حول ما إذا كان ينبغي حظر نموذج Fable التابع لـAnthropic بشكل مؤقت أم لا. وبشكل منفصل، دفع إطلاق نموذج Kimi K3، وهو نموذج كبير مفتوح الأوزان صُنع في الصين، Dean W. Ball، رئيس قسم الاستشراف الاستراتيجي في OpenAI، إلى القول إنه يهدد اقتصاد المختبرات المتقدمة، ما يصعّب الفصل بين مخاوفها الأمنية ومصالحها المالية. ورأى ألتمان أن جزءاً من الحديث عن مخاوف السلامة يخفي رغبة في تركيز السلطة لدى مجموعة صغيرة من المختبرات، في تعليقات تُقرأ كتلميح ضد منافسه، الرئيس التنفيذي لشركة Anthropic، Dario Amodei، الذي وقّع على العريضة.

وتقاوم OpenAI وضع قواعد حكومية لنماذج الذكاء الاصطناعي، وتفضّل بدلاً من ذلك نهجاً تقوده الصناعة تُنشئ فيه المختبرات منظمات مستقلة ظاهرياً لتقييم أمن النماذج ونهج السلامة لدى الجهات المصنّعة لها. وسيتوقف أي جهد لضبط وتيرة تطوير الذكاء الاصطناعي، أو لبناء نظام تنظيم ذاتي من هذا النوع، على توحيد المختبرات المتنافسة، سواء في الولايات المتحدة أو الصين، على قواعد واحدة.

لماذا يهم

يشير تحوّل ألتمان إلى أن المختبرات المتقدمة ترى أن النقاش حول السلامة بلغ نقطة باتت فيها القيود الذاتية، لا مجرد الإرشادات الطوعية، مطروحة على الطاولة، رغم أن المختبرات المتنافسة لا تزال تختلف بشدة حول مدى واقعية المخاطر ومن يجب أن يقرر بشأنها.