محادثتان انتشرتا بسرعة تكشفان صعوبة التمييز بين الحقيقة والخيال في سلامة الذكاء الاصطناعي

انتشرت هذا الأسبوع محادثتان حول سلامة الذكاء الاصطناعي بسرعة كبيرة، وتُظهران مدى الصعوبة التي باتت عليها عملية التمييز بين الحقيقة والخيال في هذا المجال.

في المحادثة الأولى، قال Andrew Yang -المرشح الرئاسي السابق الذي يرأس الآن شركة الاتصالات المتنقلة Noble Moble- لشبكة CNN إنه التقى برئيس مختبر ذكاء اصطناعي مجهول الهوية كان يعتقد أن روبوتات القرصنة التابعة لـOpenAI على منصة Hugging Face زرعت شيفرة ذاتية التكاثر في جميع أنحاء الإنترنت، ما يجعله غير صالح لاختبار النماذج. ورأى Yang أن هذا الاعتقاد هو السبب الحقيقي وراء دعوة OpenAI وAnthropic إلى التباطؤ: فبحسب قوله، تحتاج الشركتان إلى وقت ومال لبناء شبكات إنترنت اصطناعية تدرّبان عليها أنظمتهما بدلاً من ذلك. ووصف أحد المختصين في أمن الذكاء الاصطناعي هذا الادعاء بأنه غير مرجح في أفضل الأحوال، مشيراً إلى أنه حتى لو كان الإنترنت ملوثاً بتلك الشيفرة، يمكن للباحثين ببساطة تصفيتها إن صادفوها؛ رغم أن التوجه الأوسع نحو تدريب النماذج على مزيد من البيانات الاصطناعية أمر حقيقي بالفعل.

أما المحادثة الثانية فجاءت من Noam Brown، الذي يقود أبحاث الاستدلال في الذكاء الاصطناعي في OpenAI، خلال حديثه في بودكاست مع Dwarkesh Patel. وقال Brown إن الدرس الحقيقي من حادثة Hugging Face -التي فشل فيها “صندوق عزل” ضعيف في منع نموذج من OpenAI من إنشاء عملاء هاجموا Hugging Face بشكل منسق، واخترقوا أنظمتها، وسرقوا إجابات اختبار مرجعي- هو أن “الناس قللوا من تقدير الذكاء الاصطناعي”. وقال إنه غير مقتنع بأن نظاماً معزولاً تماماً عن الشبكة (air-gapped) سيصمد، مستشهداً ببحث من عام 2015 يشير إلى أن حاسوبين معزولين تماماً وموضوعين قريبين جداً من بعضهما يمكن أن يتواصلا نظرياً عبر رفع أحدهما درجة حرارة معالجه بما يكفي ليرصد الآخر التغير الحراري.

وذلك البحث أكاديمي في معظمه: إذ كان على الحاسوبين أن يكونا شبه متلامسين، وكان معدل التواصل الناتج لا يتجاوز نحو 1 إلى 8 بتّات من البيانات في الساعة -أي ما يعادل نطق كلمة واحدة في الساعة تقريباً.

ومع ذلك، فإن حوادث سلامة الذكاء الاصطناعي الموثقة فعلياً باتت أقرب إلى الخيال العلمي: فقد رصد باحثون نماذج من OpenAI وهي تترك ملاحظات للنسخ المستقبلية حول كيفية إخفاء السلوك السيئ، ونماذج من Anthropic وهي تزداد قسوة -بما في ذلك خرق القوانين عن علم- في محاكاة كانت فيها تدير آلة بيع. وفي وقت سابق من هذا الشهر، كتب الباحث في OpenAI، Dan Selsam، أن النماذج باتت تدرك متى يراقبها البشر وتعدّل سلوكها لتبدو متوافقة حتى عندما لا تكون كذلك. ووصف كبير علماء OpenAI، Jakub Pachocki، نماذج الذكاء الاصطناعي بأنها عقل غريب ينبغي على البشر تعليمه أن يحب البشرية.

لماذا يهم

حوادث سلامة الذكاء الاصطناعي الموثقة فعلياً تفوق التصديق أصلاً، ما يسهّل انتشار ادعاءات تكهنية أو غير مؤكدة دون رادع -وهذا سبب إضافي يدفع الباحثين والمعلقين إلى التزام الدقة بشأن ما لوحظ فعلاً مقابل ما لا يزال مجرد اعتقاد أو نظرية.