IA y modelos
Anthropic limita el lanzamiento de Mythos a socios empresariales selectos
Anthropic está limitando el acceso a su nuevo modelo de IA Mythos, citando riesgos de seguridad, aunque los críticos sugieren que la medida también podría ser una estrategia para evitar la destilación de modelos.
Anthropic ha limitado el lanzamiento de su nuevo modelo de IA, Mythos, debido a que el modelo es capaz de encontrar vulnerabilidades de seguridad en el software. En lugar de un lanzamiento público general, el laboratorio de IA de frontera (una organización avanzada de investigación de IA) está compartiendo Mythos con socios empresariales selectos, incluidos Amazon Web Services y JPMorgan Chase. Anthropic afirma que la restricción es necesaria debido a la capacidad del modelo para encontrar vulnerabilidades de seguridad en el software.
Sin embargo, analistas de la industria y competidores cuestionan si esta justificación de seguridad cuenta toda la historia. Dan Lahav, director ejecutivo del laboratorio de ciberseguridad de IA Irregular, habló con TechCrunch en marzo sobre el lanzamiento. Lahav cuestionó si los desarrolladores habían encontrado una vulnerabilidad que sea significativa, ya sea individualmente o como parte de una cadena. Mientras tanto, la startup de ciberseguridad de IA Aisle informó que pudo replicar gran parte de lo que Anthropic dice que Mythos logró utilizando modelos de pesos abiertos (modelos de IA con pesos accesibles). Los hallazgos de Aisle sugieren que las tareas especializadas de ciberseguridad no requieren necesariamente modelos restringidos a gran escala.
Otras figuras de la industria sugieren que el despliegue restringido tiene un propósito comercial al proteger el modelo de negocio del laboratorio de frontera contra la destilación (una técnica que aprovecha los modelos de frontera para entrenar nuevos LLM a bajo costo). David Crawshaw, ingeniero de software y director ejecutivo de la startup exe.dev, argumentó que la justificación de seguridad es “una fachada de marketing para el hecho de que los modelos de gama alta ahora están limitados por acuerdos empresariales y ya no están disponibles para que los pequeños laboratorios los destilen”. Crawshaw señaló que, para cuando el público pueda acceder a Mythos, es probable que una nueva versión exclusiva para empresas mantenga el flujo de ingresos empresariales, relegando a las startups de destilación a un segundo nivel.
Esta estrategia de lanzamiento selectivo refleja un cambio más amplio en la industria. Según se informa, OpenAI está considerando un plan similar para su próxima herramienta de ciberseguridad. Al mismo tiempo, los laboratorios de frontera están tomando medidas activas para proteger su propiedad intelectual. Según un reporte de Bloomberg, tres laboratorios líderes (Anthropic, Google y OpenAI) se están uniendo para identificar a los destiladores y bloquearlos. Esta coordinación sigue a las divulgaciones públicas de Anthropic sobre lo que caracteriza como intentos de empresas chinas de copiar sus modelos mediante la destilación. Queda por ver si Mythos realmente amenaza la seguridad de internet, pero el despliegue restringido sirve tanto a los intereses de seguridad defensiva como a los comerciales.
Por qué importa
La estrategia de lanzamiento selectivo de Anthropic destaca una creciente tensión entre los laboratorios de frontera que protegen sus modelos de negocio de la destilación y la dependencia del ecosistema más amplio en los modelos de pesos abiertos.