Base Labs التابعة لـBaseten تطلق معياراً لسلامة نماذج الذكاء الاصطناعي مفتوحة الأوزان

أطلقت Baseten يوم الأربعاء معياراً جديداً للبنية التحتية الخاصة بالسلامة إلى جانب ذراع أبحاثها Base Labs، بالشراكة مع Hugging Face وGoodfire AI، لبناء بنية تحتية لتقييم ومراقبة سلامة النماذج مفتوحة الأوزان. ويأتي الإعلان في خضم نقاش حول سلامة النماذج مفتوحة الأوزان، التي يمكن أن تصبح خطيرة عند إزالة ضماناتها الأمنية عبر تقنية متنامية تُعرف باسم “abliteration”. وحجم المشكلة كبير: إذ تدرج Hugging Face، التي تستضيف نماذج ذكاء اصطناعي مفتوحة المصدر، حالياً أكثر من 6000 نموذج تمت إزالة ضماناته الأمنية.

وستعمل Base Labs — وهي مجموعة الأبحاث التي أسستها Baseten في وقت سابق من هذا العام — على تطوير ونشر أساليب لتدريب النماذج المفتوحة ومراقبتها، وتصف عملها المستقبلي بأنه “معيار” للنماذج المفتوحة يتسم بالشفافية ويكون جزءاً أساسياً من طريقة تدريب النماذج ونشرها، بدلاً من إضافته لاحقاً. وقالت الشركة على X: “نعتقد أن الانفتاح يشكّل ميزة لسلامة الذكاء الاصطناعي. فالانفتاح يوفر رؤية أوضح لسلوك النماذج، والأهم من ذلك، وسائل أكبر لتحويل أبحاث السلامة إلى ضوابط عملية وشفافة، مقارنة بالنماذج مغلقة المصدر”.

ولم تكشف الشركتان بعد عن الطريقة التقنية التي ستعمل بها الشراكة، رغم أن Goodfire أشارت، في رد على منشور Baseten، إلى أن السلامة يجب أن تُدمج في النماذج المفتوحة من قِبل الجهات التي تقدّمها للمستخدمين؛ وهو دور تبدو Goodfire، المتخصصة في فتح “الصندوق الأسود” للذكاء الاصطناعي لتفسير كيفية توصل النماذج إلى قراراتها، في موقع جيد لأدائه.

وجمعت Baseten، وهي مزوّدة خدمات استدلال للذكاء الاصطناعي، جولة تمويل من الفئة F بقيمة 1.5 مليار دولار في يونيو رفعت تقييمها إلى 13 مليار دولار. وتتمتع Goodfire بتمويل جيد أيضاً، بعد أن جمعت جولة تمويل من الفئة B بقيمة 150 مليون دولار بقيادة B Capital في وقت سابق من هذا العام لتطوير منصتها لتفسير النماذج. وقالت Baseten إنها تطلق الآن دعوة مفتوحة لمجتمع المطورين الأوسع للمساهمة في هذا الإطار، واصفةً الهدف بأنه بناء منظومة من النماذج المفتوحة تكون آمنة ومتاحة للجميع.

لماذا يهم

مع وجود أكثر من 6000 نموذج جُرِّد بالفعل من ضماناته الأمنية ويتم تداولها على Hugging Face، فإن معياراً للسلامة مدمجاً منذ مرحلة التدريب، بدلاً من إضافته لاحقاً، قد يكون أكثر أهمية من ضمانة أخرى مغلقة المصدر — إذا نجحت الجهات الداعمة الجيدة التمويل في دفع مطوري المصادر المفتوحة إلى تبنيه فعلياً.