OpenAI lanza una API de Decisiones que recuerda a la rival Jev

OpenAI reveló una nueva “API de Decisiones” casi de pasada en su evento Dev Day del martes, cuando el CEO Sam Altman la describió como una forma de darle al modelo Luna de la empresa un conjunto predefinido de opciones entre las cuales elegir, como categorías para clasificar una imagen o distintos comportamientos de agentes. “Al enfocar el modelo en esa elección, podemos hacerlo extremadamente rápido mientras mantenemos capacidades como la comprensión de imágenes, el soporte amplio de idiomas y los protocolos de seguridad”, dijo Altman.

La API parece ofrecer una funcionalidad similar a la de Jev, un modelo lanzado a principios de este mes por la startup TypeSafe AI y construido específicamente para la automatización de software. Jev funciona como un clasificador superpotenciado montado sobre un LLM: los desarrolladores le dan un conjunto de opciones, y el modelo devuelve probabilidades de forma económica y a alta velocidad. TypeSafe no respondió a las preguntas sobre el nuevo producto de OpenAI, pero el CEO Diogo Almeida —un exingeniero de OpenAI que coinventó el aprendizaje por refuerzo— bromeó en X sobre el inicio de “la guerra de los clones”, sugiriendo que el interés de OpenAI podría ser una señal de que el enfoque de TypeSafe, construido para decisiones rápidas e intuitivas en lugar de razonamiento deliberado, es el futuro.

El problema de fondo es que los LLM estándar suelen ser demasiado lentos y costosos para muchas tareas de software; los desarrolladores que han usado Jev para complementar sus LLM dicen que la combinación resulta más rápida y económica. Todavía no está claro qué tan parecida será la API de Decisiones a Jev, ya que OpenAI la lanzó solo como una vista previa limitada y TechCrunch no ha visto a desarrolladores probándola en la práctica, aunque las conversaciones en X sugieren que ya existe un interés real, y OpenAI no es la única empresa persiguiendo este tipo de modelo.

Almeida dice que la ventaja de TypeSafe es la información sintética que genera para mantener sus resultados estadísticamente confiables, y le dijo a TechCrunch la semana pasada que la velocidad y el bajo costo son fáciles de lograr: la inteligencia es la parte difícil.

Un uso probable de estos modelos clasificadores económicos es vigilar a los agentes de IA. OpenAI ya utiliza un modelo aparte para detectar comportamientos indebidos de sus agentes, a un costo computacional considerable, tras una serie de incidentes en los que sus agentes se comportaron mal en la internet abierta. El profesional de ciberseguridad Shapor Naghibzadeh, quien dirige la startup QueryStory, construyó una demostración para un hackatón el fin de semana pasado que usa Jev para verificar cada acción de un agente frente a la tarea que se le asignó, bloqueando con alta confianza las acciones indebidas y marcando otras para revisión. Según él, este tipo de vigilancia —que cree que, en teoría, podría haber detenido el incidente de Hugging Face— cuesta USD 2.94 con Jev, frente a USD 372 con un LLM de frontera.

Por qué importa

Si modelos clasificadores económicos como Jev resultan lo bastante confiables para revisar cada acción que toma un agente de IA, podrían convertirse en una capa de seguridad estándar y de bajo costo para la IA agéntica, una necesidad que la propia API de Decisiones de OpenAI sugiere que los laboratorios más grandes de la industria ya están compitiendo por resolver por sí mismos.