PrismML تُصغّر نماذج الاستدلال لتُلائم الهواتف وأجهزة الكمبيوتر

أطلقت PrismML، وهي مختبر للذكاء الاصطناعي أسسه مجموعة من باحثي Caltech، يوم الخميس نموذج Bonsai 2 27B، وهو الأحدث في سلسلة من النماذج صُممت لإثبات أن نماذج اللغة الكبيرة (LLM) القادرة على الاستدلال بكفاءة عالية لا يلزم أن تكون كبيرة الحجم. يضغط النموذج Qwen3.8 27B، وهو نموذج مفتوح المصدر واسع الاستخدام من Alibaba، إلى حجم 5.9 غيغابايت — وهو حجم صغير بما يكفي ليعمل على جهاز كمبيوتر شخصي، وربما على هاتف ذكي من الفئة العليا، ما يمثل تقليصاً في الذاكرة بمقدار 9 إلى 10 أضعاف مقارنة بالنموذج الأصلي.

تقود الشركة الناشئة الرئيسُ التنفيذي Babak Hassibi، أستاذ في Caltech وخبير في تقنيات الضغط، وتضم Ion Stoica، الشريك المؤسس لشركة Databricks ومدير Sky Computing Lab في جامعة بيركلي، كمستشار. جمعت PrismML حتى الآن جولة تمويل أولية (seed) بقيمة 22.25 مليون دولار فقط، وتحظى بدعم من Khosla Ventures وCerberus Capital وCaltech. ويُشاع أنها في محادثات مع Apple، رغم أن Hassibi رفض التعليق على ذلك لموقع TechCrunch.

يقول Hassibi إن Bonsai 2 يطابق 98% من إجمالي نتائج Qwen في اختبارات القياس، ارتفاعاً من 95% كانت النسخة الأولى من Bonsai قد حققتها عند إطلاقها في مارس. وقد جرى تنزيل ذلك النموذج الأول أكثر من 11 مليون مرة، بينما أضافت نماذج PrismML الأصغر 2.6 مليون عملية تنزيل أخرى، بحسب الشركة. وPrismML ليست الشركة الوحيدة التي تسعى لضغط نماذج اللغة الكبيرة: فشركة Multiverse Computing، التي أسسها أستاذ من مركز دونوستيا الدولي للفيزياء في إسبانيا، هي شركة أخرى في هذا المجال، وقد جمعت تمويلاً أكبر بكثير.

وتخفّض تقنية الضغط، التي تسميها PrismML أوزاناً “ثلاثية القيم”، كل وزن في النموذج من 16 بت المعتادة إلى ثلاث قيم ممكنة فقط — +1 أو −1 أو 0 — ما يقلّص المساحة التي يحتاجها النموذج لتخزين معاملاته. ويقول Hassibi إن النماذج المقبلة، التي يأمل في إطلاقها خلال الأشهر القليلة المقبلة، ستكون في نطاق مئات المليارات من المعاملات، وإن النماذج الأكبر ستكون أسهل في الضغط دون فقدان الذكاء.

لماذا يهم

يقول Stoica إن جاذبية هذا النهج تكمن في أنه يضع نماذج قادرة مباشرة على جهاز يملكه المستخدم بالفعل، مجاناً ودون إرسال البيانات إلى السحابة.