Tres pioneros de la IA defienden los modelos abiertos, incluso mientras crecen los temores por la seguridad

Mientras iniciativas como Pacing the Frontier empujan a los principales laboratorios de IA hacia una coordinación centrada en la seguridad, los modelos de pesos abiertos se han convertido en un punto sensible para la industria: al distribuirse libremente y ser difíciles de controlar, generan nerviosismo en algunos laboratorios. Pero en la conferencia Ai4 realizada en Las Vegas la semana pasada, tres de los investigadores más respetados del campo —el ganador del Premio Nobel Geoffrey Hinton, la directora ejecutiva de World Labs Fei-Fei Li, y el cofundador de Coursera Andrew Ng— defendieron, cada uno a su manera, mantener la IA abierta, aunque discreparon en los detalles.

Su preocupación compartida: que un puñado de grandes empresas de IA controle el ritmo del progreso, de la misma forma en que Apple y Google controlan los sistemas operativos móviles. Ng abogó por mantener múltiples proveedores en competencia en lugar de dejar que unas pocas firmas dominen. “No quiero que existan guardianes de acceso”, dijo Ng. “Eso limita cómo todos nosotros podemos acceder a la IA”.

Hinton adoptó una postura más cautelosa, trazando una línea clara entre el software de código abierto —donde el código subyacente puede inspeccionarse— y los modelos de pesos abiertos, que solo liberan los parámetros de un modelo ya entrenado. Dijo que se había opuesto a liberar pesos abiertos porque eso permite, a bajo costo, que actores maliciosos reutilicen modelos fundacionales costosos para fines dañinos, como ciberataques, aunque reconoció que esa batalla ya está perdida: los modelos de pesos abiertos son ahora una realidad permanente, y la barrera que alguna vez representaron ha desaparecido.

Ng replanteó el debate en torno a la competitividad más que al riesgo por sí solo, advirtiendo que si los modelos de pesos abiertos más baratos provenientes de China logran una adopción amplia en el mundo en desarrollo, podrían influir en cómo miles de millones de personas conciben ideas sobre democracia y derechos humanos.

Li rechazó por completo esa dicotomía, argumentando que la apertura no es un asunto de todo o nada: distintas capas de un ecosistema de IA, como la investigación en física nuclear frente al uranio en sí, pueden tener distintos niveles de apertura. Señaló el Proyecto del Genoma Humano como un modelo en el que una infraestructura científica abierta permitió que tanto investigadores como empresas generaran valor.

Pese a sus diferencias, los tres coincidieron en que será necesaria algún tipo de regulación para mantener el desarrollo de la IA encaminado.

Por qué importa

El debate indica que la disyuntiva entre “abierto y cerrado” se está fragmentando en un argumento más matizado sobre qué capas de la IA —pesos, código, investigación de seguridad— merecen apertura, con la competitividad global ocupando ahora un lugar tan central como la seguridad.