El modelo Koa de Salesforce y Nvidia apunta al terreno empresarial de los laboratorios de frontera

Salesforce presentó un nuevo modelo de IA llamado Koa como uno de sus anuncios más importantes en la conferencia Dreamforce de esta semana. Koa es el primer modelo de razonamiento de la empresa, construido sobre el modelo de pesos abiertos Nemotron de Nvidia; Salesforce y Nvidia trabajaron juntas para post-entrenarlo específicamente para tareas de ventas, marketing y atención al cliente, usando datos sintéticos que imitaban patrones de clientes en lugar de datos reales de clientes de Salesforce.

Koa ilustra cómo las necesidades de IA empresarial se están alejando de lo que ofrecen los laboratorios de frontera. Mientras los laboratorios propietarios quieren que las empresas suban archivos, código, instrucciones y retroalimentación directamente a sus modelos, Salesforce en cambio ofrece a sus clientes una alternativa de pesos abiertos que es más económica de operar, no ingiere datos de clientes y puede enrutarse automáticamente a través de una “puerta de enlace” de IA según la tarea. Koa se sumará a los otros modelos que Salesforce ofrece dentro de su plataforma Agentforce, donde sus clientes construyen agentes para tareas como responder preguntas de servicio al cliente o programar citas.

“Hemos construido muchos modelos de lenguaje pequeños y específicos para tareas, que forman parte del portafolio de Agentforce”, dijo a TechCrunch Jayesh Govindarajan, vicepresidente ejecutivo de IA de Salesforce. “Pero el razonamiento siempre ha sido algo para lo que dependíamos de los proveedores de modelos de frontera. Hasta ahora”. Antes de Koa, los agentes que necesitaban razonar a través de tareas largas o de varios pasos enviaban esas instrucciones a un modelo de frontera como Claude o ChatGPT a través de la puerta de enlace de Agentforce. Govindarajan dijo que la pieza faltante siempre había sido un modelo base preentrenado con procedencia de datos clara, algo que Nemotron ofreció, a diferencia de Qwen de Alibaba, sobre el cual dijo que Salesforce no tiene visibilidad de los datos de entrenamiento. La vicepresidenta de Nvidia, Kari Ann Briski, dijo que la arquitectura de Nemotron lo hace eficiente en el uso de tokens para la inferencia, algo que calificó como central para la “tokenómica” de ejecutar razonamiento a gran escala.

Sin embargo, Salesforce no está abandonando a Anthropic ni a OpenAI: la empresa también acaba de anunciar una asociación llamada Claudeforce que permite a las compañías usar Claude como su interfaz de IA mientras mantienen sus datos dentro de la propia infraestructura de Salesforce.

Por qué importa

Koa señala que los grandes proveedores de software empresarial quieren cada vez más sus propios modelos de razonamiento en lugar de enviar todo a los laboratorios de frontera, un cambio que podría reducir el volumen (y el poder de fijación de precios) de las cargas de trabajo empresariales que fluyen hacia Claude y ChatGPT.