Kog تسعى إلى استخراج أداء استدلال أكبر من معالجات GPU التقليدية

تراهن شركة Kog الفرنسية الناشئة على أنه يمكن استخراج أداء أكبر بكثير من معالجات GPU التي تمتلكها الشركات بالفعل. وفي مايو، نشرت الشركة عرضاً تقنياً أولياً زعم تحقيق فك تشفير فائق السرعة لطلب واحد على معالجات GPU القياسية الخاصة بمراكز البيانات، باستخدام شرائح AMD MI300X وNvidia H200، ووصلت بذلك إلى الصفحة الرئيسية لموقع Hacker News. وقال الرئيس التنفيذي Gaël Delalleau لـ TechCrunch إن هذا العرض أدى إلى الحصول على 200 عميل محتمل ملموس.

ويتوقع Delalleau أن تكون هندسة البرمجيات أول استخدام حقيقي: إذ ينتظر مستخدمو Claude Code أحياناً ساعات للحصول على نتائج، وتفرض Anthropic سعراً مضاعفاً مقابل وضعها السريع (Fast Mode)، وهو ما يشير إلى أن السرعة نفسها لها قيمة. كما تضم Kog شركاء تصميم يتيحون للمستخدمين إنشاء ألعاب وتطبيقات من خلال أمر نصي واحد، حيث تعني النتيجة الأسرع إيرادات أكبر لهم. لكن السوق لم ينضج بعد — إذ اكتشفت Kog أن عملاءها المحتملين لم يكونوا مستعدين لضبط نماذج صغيرة، لذلك ركزت الشركة بالكامل على تسريع تطوير نماذج أكبر لتلبية الطلب الذي لاحظته منذ إطلاقها.

وتلك قفزة كبيرة مقارنة بعرض Kog التجريبي، الذي وصل إلى 3000 رمز (token) في الثانية لكل طلب — لكن على نموذج صغير مصمم خصيصاً يضم نحو 2 مليار معامل (parameter)، هو Laneformer 2B الذي أصبح الآن مفتوح المصدر، وهو أبعد بكثير عن وعد Kog بتسريع استدلال نماذج اللغة الكبيرة 30 مرة. ويصر Delalleau على أن النهج نفسه يمكن أن يتوسع ليشمل نماذج اللغة الكبيرة: فمعالجات GPU الأحدث تمتلك نطاقاً تراكمياً متزايداً للذاكرة لا يُستغل في معظمه، على حد قوله، واصفاً فكرة أن معالجات GPU غير مناسبة لعملية فك التشفير بأنها مفهوم خاطئ. وسلكت شركة ZML الفرنسية مساراً مختلفاً، إذ طورت برمجيات محايدة تجاه العتاد تتجاوز منصة CUDA الخاصة بـ Nvidia؛ بينما يشبّه Delalleau عمل Kog بدلاً من ذلك بعمل مختبر Hazy Research في جامعة ستانفورد، مع تركيز أعمق على التسريع على مستوى معالج GPU نفسه.

ويعود هذا التركيز إلى خلفية Delalleau: فقد درس فيزياء الحالة الصلبة في المدرسة المتعددة التقنيات الفرنسية (École Polytechnique) قبل أن يتجه إلى الأمن السيبراني الهجومي، ليصبح متأهلاً نهائياً أربع مرات في بطولة اختراق CTF ضمن مؤتمر DEFCON، وهو ما يقول إنه علّمه “الهندسة العكسية للأشياء على مستوى منخفض جداً — وصولاً إلى لغة التجميع (assembly) والشيفرة الثنائية — لفهم كيفية عملها، ومحاولة استخدامها لتحقيق هدف لم تُصمَّم بالضرورة من أجله”. وهذا النهج بطيء: إذ تخصص Kog عدة أسابيع أو حتى أشهراً لدراسة كل معالج GPU جديد بعمق، ما يحدّ من عدد الشرائح التي يمكن لفريقها المكون من 11 شخصاً دعمها في الوقت الحالي. ويتوقع Delalleau تحقيق سرعة أكبر بـ10 مرات على أول نموذج كبير بحلول سبتمبر، وهو ما يقول إنه سيتيح لـ Kog إثبات جذب العملاء وجمع جولة تمويل من الفئة A.

لماذا يهم

إذا نجحت Kog في إثبات أن نهجها يعمل مع نماذج اللغة كاملة الحجم، فقد تقدّم للشركات مساراً أرخص نحو استدلال ذكاء اصطناعي أسرع مقارنة بشراء شرائح متخصصة — وهو رهان سيُحسم بالنتائج التي يقول Delalleau إنها ستظهر في سبتمبر.