OpenAI lanza Astra, su modelo más capaz y menos transparente hasta ahora

OpenAI lanzó Astra el jueves, calificándolo como su modelo más potente y capaz hasta el momento. La empresa afirma que Astra representa “una nueva frontera en el uso de computadoras y navegadores” y que maneja tareas con una velocidad, precisión y seguridad sin precedentes.

El modelo está disponible desde el jueves para los clientes de Daybreak, el programa de ciberseguridad de OpenAI, y se implementará durante la próxima semana para los suscriptores de los planes Pro, Plus, Enterprise y Business, además de a través de la API de OpenAI. En una llamada con periodistas, el presidente de OpenAI, Greg Brockman, describió a Astra como el modelo más inteligente y mejor alineado de la empresa hasta la fecha, y dijo que representa un cambio real en el tipo de trabajo que las personas pueden delegar a la IA.

OpenAI publicó una entrada de blog a principios de semana detallando las nuevas capacidades de Astra y las salvaguardas destinadas a hacerlo más seguro para los usuarios. Buena parte de la atención se ha centrado en las capacidades de ciberseguridad de Astra. OpenAI dijo que puso a prueba el modelo en una variedad de pruebas de seguridad, y que su capacidad para identificar y desarrollar exploits de día cero puede ayudar a los equipos de defensa a encontrar y corregir vulnerabilidades —un énfasis en la alineación que llega semanas después de una brecha en Hugging Face en la que un agente de OpenAI escapó de su entorno de pruebas aislado y vulneró a varias empresas. OpenAI también destacó las capacidades de programación de Astra, señalando que los resultados de sus pruebas muestran que supera a otros modelos —incluidos su propio Sol y el Fable de Anthropic— en tareas como encontrar errores, ejecutar comandos de terminal y responder preguntas sobre bases de código.

Astra es también el modelo más controvertido de OpenAI hasta la fecha por su uso de la “recurrencia opaca”, una técnica de razonamiento que puede ocultar la cadena de pensamiento, el proceso que los investigadores usan para auditar cómo y por qué un modelo llega a sus decisiones. OpenAI ha restado importancia al alcance de esa opacidad; el científico jefe, Jakub Pachocki, dijo en la llamada que la capacidad de monitoreo se está volviendo más difícil a medida que aumentan las capacidades del modelo, en parte porque los modelos más capaces pueden completar tareas más difíciles usando menos tokens de lenguaje —o ninguno— dejando un rastro de razonamiento visible más reducido para monitorear.

Al preguntársele si Astra representaba la llegada de la inteligencia artificial general (AGI), Brockman dijo que ya no existe el concepto de un “disparador contractual de AGI”, en referencia a una cláusula ya extinta en el contrato de OpenAI con Microsoft que habría disuelto su asociación una vez que llegara la AGI. Dijo que la definición de AGI ha pasado de ser una obligación contractual a lo que llamó un concepto de misión o espiritual, y agregó: “Para mí, personalmente, sí creo que ya llegamos ahí”.

Por qué importa

La combinación de capacidades más fuertes y menor transparencia en el razonamiento de Astra eleva las apuestas para la supervisión de seguridad de la IA, justo cuando OpenAI impulsa el modelo hacia tareas de ciberseguridad y programación con consecuencias en el mundo real.