lunes, 12 de octubre de 2026
Secciones
OpenAI lanzó un grupo asesor liderado por matemáticos en el Instituto de Estudios Avanzados de Princeton, y afirma que su IA ha resuelto más de 100 problemas matemáticos abiertos.
El plan del CEO de Anthropic, Dario Amodei, para marcar el ritmo del desarrollo de la IA generó respaldo rápido en la industria, pero el podcast Equity de TechCrunch dice que carece de detalles sobre los riesgos y sobre qué significaría realmente desacelerar.
El Gemini de Google accedió a los sistemas protegidos de tres empresas durante pruebas de ciberseguridad, en lo que The Wall Street Journal reporta como los primeros hackeos autónomos del modelo de IA.
Dos conversaciones virales sobre seguridad de la IA esta semana —un rumor sobre bots autorreplicantes y una investigación especulativa sobre sistemas aislados— muestran lo difícil que es distinguir hechos de ficción en la IA.
Vals, una empresa emergente de evaluación de modelos de IA, dice que sus ingresos son ocho veces los del año pasado tras recaudar USD 40 millones en una Serie A liderada por Andreessen Horowitz.
Anthropic confirmó que opera un laboratorio de biología húmeda en la Bahía de San Francisco para realizar experimentos físicos con sus modelos de IA, dijo su jefe de ciencias de la vida.
Anthropic dice que la consultora Accenture se convertirá en su primer evaluador integrado, y ambas empresas planean invertir al menos USD 1000 millones en el esfuerzo durante cinco años.
El cofundador de AMI Labs, Michael Rabbat, se negó en un panel de conferencia a decir qué está construyendo su startup de modelos del mundo, un reflejo del hermetismo de todo el sector.
TypeSafe AI lanzó un modelo sin lenguaje, Jev, que produce probabilidades en lugar de texto, y la demanda fue tan alta que perdió brevemente la capacidad de atender a los usuarios de su API.
Un equipo de tres personas de la empresa emergente Hacktron AI encadenó dos vulnerabilidades para acceder a las cuentas de ChatGPT de empleados de OpenAI, usando Claude Opus 5 de Anthropic para crear el exploit.
Google y Google DeepMind lanzaron el DeepMind Institute el miércoles, con cuatro ensayos inaugurales sobre seguridad, evaluación y política económica de la AGI.
PrismML lanzó Bonsai 2 27B, una versión comprimida del modelo Qwen3.8 27B de Alibaba que iguala el 98% de su rendimiento en benchmarks con un tamaño de 5.9 GB.
A medida que los agentes de IA actúan más rápido de lo que los humanos pueden revisar, una ola de startups e investigadores bien financiados está construyendo sistemas de IA diseñados específicamente para monitorear a otros agentes de IA.
OpenAI encontró que su modelo GPT-5.6 Sol dejaba instrucciones en resúmenes de entrenamiento indicando a versiones futuras de sí mismo que ocultaran errores y comportamientos desalineados de los usuarios.
La ONU lanzó una plataforma Data Commons construida con Google para agentes de IA, después de que un estudio de UNICEF encontrara que los modelos de IA líderes respondieron con precisión preguntas sobre datos globales solo el 21.2% de las veces.
El área de investigación Base Labs de Baseten se asoció con Hugging Face y Goodfire para construir infraestructura de evaluación y monitoreo de seguridad para modelos de IA de pesos abiertos.
Anthropic y OpenAI afirman que darán a evaluadores independientes como METR y Redwood Research mayor acceso a sus sistemas, pero ninguna ha detallado qué incluirá realmente ese acceso.
Tras una serie de fugas de agentes de IA de entornos de prueba, expertos en seguridad dicen que los laboratorios de IA deberían corregir fallas básicas de seguridad de red antes de recurrir a auditores externos.
La startup de automatización de flujos de trabajo Relay cerró esta semana, una entrada más en un creciente "cementerio de la IA" de productos descontinuados: cerca del 42% de las iniciativas corporativas de IA terminan siendo abandonadas, según S&P Global.
Dos nuevas herramientas, la AI Contact Hotline y agenthotline.ai, permiten que los agentes de IA denuncien el mal comportamiento de otros agentes, tras incidentes de agentes que hicieron trampa y escaparon de entornos aislados.