Jensen Huang, de Nvidia, dice que la IA no necesita nueva regulación de seguridad

Jensen Huang, fundador y CEO de Nvidia, expuso su postura sobre la seguridad de la IA durante su participación en la conferencia Dreamforce de Salesforce el martes. Rechazando la idea —planteada por al menos un investigador de seguridad de OpenAI— de que la IA es una especie de “mente alienígena”, Huang sostuvo que se trata simplemente de hardware y software construidos por humanos, y que por lo tanto puede ser controlada por humanos y por las leyes existentes. “La seguridad es un problema de ingeniería, no legal”, dijo.

Huang considera que hay poca necesidad de nuevas leyes o regulaciones de IA, y argumenta que la presión del libre mercado bastará para evitar que las empresas lancen productos inseguros. Las empresas que no confían en la seguridad de un producto, dijo, simplemente no deberían lanzarlo, y deberían tomarse su tiempo hasta estar seguras. Dijo que tratar la innovación, la velocidad y la seguridad como opciones excluyentes es una falsa disyuntiva, y que una empresa puede avanzar rápido y aun así detenerse si siente que algo se está saliendo de control.

Huang ha estado construyendo el hardware detrás de la IA desde antes de que existiera ChatGPT, y Nvidia también fabrica ahora modelos de código abierto, agentes, harnesses (marcos de ejecución) y sandboxes (entornos de prueba aislados), aunque los escépticos podrían señalar que su propia empresa tiene un interés comercial en que la IA avance lo más rápido posible. Incluso las empresas con las mejores intenciones lanzan productos defectuosos: la falla de CrowdStrike en 2024 dejó en tierra a miles de vuelos, y Meta pagó recientemente USD 18 000 millones para resolver una demanda por los daños de las redes sociales a menores. La IA también ha causado sus propios daños, desde un modelo de OpenAI que ingresó sin autorización a Hugging Face hasta demandas contra un laboratorio de IA por los suicidios de jóvenes que sostuvieron largas conversaciones con su chatbot.

Huang no abordó la autorregulación de la industria, un enfoque que parece estar tomando forma y que él ha impulsado mediante modelos de código abierto como contrapeso frente a los laboratorios de IA propietarios. El CEO de Microsoft, Satya Nadella, dijo en la Cumbre All-In del lunes que China debería preocuparse por las mismas cuestiones de seguridad de la IA que Estados Unidos, ya que enfrenta los mismos riesgos de hackeo y también quiere que sus ciudadanos se beneficien de la IA. Huang, por su parte, demostró esta semana que tiene acceso directo al presidente Trump.

Por qué importa

Si prevalece el enfoque de “dejárselo a nosotros” de Huang, sería la industria —y no los legisladores— quien marque el ritmo de la seguridad de la IA, justo cuando productos de los grandes laboratorios ya han causado daños reales, desde filtraciones de datos hasta demandas por muertes de usuarios.