George Hotz asume una postura extrema sobre la libertad de la IA

El fundador de Comma AI y veterano hacker George Hotz publicó una entrada durante el fin de semana en la que cuestionó una ola de propuestas de alineación de IA, entre ellas “AI 2040: Plan A”, un documento de políticas del AI Futures Project que plantea un mundo en el que los investigadores de IA del mundo desaceleran colectivamente el desarrollo durante 14 años por el bien de la humanidad.

Hotz rechaza la premisa de que el avance de la IA deba gestionarse en función del bien colectivo. Sostiene que el escenario de “despegue rápido” —en el que la IA adquiere de forma acelerada capacidades sobrehumanas— no se sostiene, y afirma que el mejor enfoque para la alineación y la seguridad de la IA son los modelos de IA controlados localmente y estrechamente alineados con los intereses de cada usuario individual, en lugar de servicios gestionados de forma centralizada.

Para ilustrar su punto, Hotz comparó una IA alineada con el usuario con un arma que, según él, no objeta si alguien la usa para matar a su madrastra. Dijo que una IA verdaderamente alineada estaría dispuesta a ayudar a un usuario a pedir equipo para un laboratorio de metanfetaminas en Amazon Prime y explicarle cómo usarlo, si eso es lo que el usuario pidió. Agregó que moriría por defender ese principio. “O vivimos en un mundo con libertad o no lo hacemos”, escribió Hotz.

Las declaraciones surgieron en medio de un debate más amplio sobre si los productos de IA deben construirse principalmente en torno a modelos alojados de forma centralizada, como Claude y ChatGPT, o en torno a sistemas más pequeños y controlados de manera personal, un enfoque que el proyecto DIY OpenClaw alguna vez intentó popularizar. El alojamiento centralizado ha predominado hasta ahora porque los modelos de última generación son costosos de operar y la mayoría de los usuarios no interactúa con ellos con la frecuencia suficiente para justificar una IA plenamente personal, aunque ese cálculo podría cambiar conforme madure la tecnología.

No todos aceptan el planteamiento de Hotz. Las estructuras que involucran a un gran número de personas —sociedades, mercados, empresas— requieren equilibrar intereses en competencia y construir mecanismos de rendición de cuentas; quienes critican un enfoque de libertad absoluta sostienen que implementar productos de IA masivos sin ningún tipo de salvaguarda significa ignorar a las personas que podrían resultar afectadas por el uso que otros le den.

Por qué importa

El intercambio refleja una bifurcación real en el pensamiento sobre la seguridad de la IA: modelos gestionados de forma centralizada y pensados para la seguridad colectiva frente a modelos alineados de forma personal y pensados para servir al usuario individual sin restricciones, una división que podría moldear cómo se construya la próxima generación de productos de IA.