Garry Tan, de Y Combinator, quiere que los laboratorios de IA de EE. UU. también "destilen" modelos de frontera

En cuanto al uso de técnicas de destilación por parte de laboratorios chinos de IA para extraer conocimiento de los creadores de modelos de frontera, el CEO de Y Combinator, Garry Tan, espera que los reguladores no intervengan. De hecho, cree que los laboratorios de IA de EE. UU. quizás deberían jugar el mismo juego. “No haría nada”, dijo a CNBC en una entrevista esta semana. “Podríamos argumentar que debería existir un régimen de destilación estadounidense”.

Explicó a TechCrunch que esto significa que quiere que los laboratorios de IA de peso abierto más pequeños de Estados Unidos usen el mismo tipo de técnicas de entrenamiento sobre los laboratorios de IA de frontera estadounidenses, dándole a EE. UU. un conjunto más sólido de opciones de peso abierto que no sean chinas. La destilación ocurre cuando un creador de modelos consulta extensamente a otro modelo para aprender cómo funciona y razona; es una práctica común, y legítima, que usan los laboratorios de IA para entrenar nuevos modelos.

Anthropic publicó esta semana su segundo informe en el que alega que laboratorios chinos están involucrados en “ataques de destilación ilícitos”, ocultando su identidad para destilar sin permiso y recurriendo al fraude y a credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había pedido públicamente antes a los reguladores de EE. UU. que actuaran contra la destilación. Resulta notable que el líder del prestigioso y prolífico acelerador de startups de Silicon Valley no esté de acuerdo.

Para ser claros, Tan no aboga por que los laboratorios de IA estadounidenses usen credenciales robadas para destilar; quiere que tengan libertad para hacerlo por la puerta principal. Su argumento tiene dos partes: considera que es una extralimitación que los laboratorios de IA dicten qué pueden hacer sus clientes con la información que sus modelos comparten con ellos, y señala que los laboratorios de IA propietarios no pidieron permiso cuando entrenaron sus modelos con toda la información humana que pudieron reunir, incluido material protegido por derechos de autor.

“Controlar lo que los usuarios y clientes hacen con las llamadas a la API de modelos de peso cerrado resulta restrictivo, y el gobierno puede desempeñar un papel aquí para normalizar el hecho de que el acceso a la inteligencia entrenada con datos de acceso público amplio debería ser también, en sí mismo, más una forma de bien público que algo encerrado tras términos de servicio restrictivos”, dijo a TechCrunch. Tan, quien se ha descrito a sí mismo como un usuario de IA tan ávido que padece “psicosis cibernética” (“cyber psychosis”), quiere ver un equilibrio entre los laboratorios de peso abierto y los de frontera. “Están en la frontera y la están impulsando hacia adelante. Queremos que eso sea financiable y sea un gran modelo de negocio a largo plazo”, dijo a CNBC. “Se quiere que los modelos de peso abierto den a la gente libertad y acceso”.

Para él, el verdadero escenario apocalíptico de la IA es que todo el poder de la IA de frontera termine en manos de un único proveedor propietario y poderoso. “El escenario de pesadilla, el escenario apocalíptico para la IA, es que haya una sola empresa”, dijo. “Tiene el mejor acceso al capital. Tiene a los mejores investigadores de IA. Se adelanta a todos y de repente hay una sola empresa que es monolítica. Y eso sería malo”.

Por qué importa

La postura de Tan coloca a uno de los guardianes más influyentes de las startups de Silicon Valley en desacuerdo con el impulso de Anthropic hacia una represión de la destilación, enmarcando el debate menos como seguridad frente a robo y más como competencia abierta frente a un único proveedor de IA dominante.