Barry Diller: La confianza en los líderes de IA es irrelevante ante la llegada de la AGI

El magnate de los medios Barry Diller ha defendido al CEO de OpenAI, Sam Altman, frente a las críticas. Al hablar esta semana en el escenario de la conferencia “Future of Everything” de The Wall Street Journal, Diller refutó las críticas hacia el ejecutivo de IA. Altman ha sido acusado por algunos excolegas y miembros de la junta directiva de ser manipulador y engañoso en ocasiones. Sin embargo, Diller, quien preside IAC y Expedia Group y cofundó Fox Broadcasting, declaró que no cree que Altman sea alguien indigno de confianza. En cambio, Diller describió a Altman como una persona decente con buenos valores.

Al responder a una pregunta sobre si el público debería depositar su fe en Altman para garantizar que la inteligencia artificial (IA) beneficie a la humanidad, Diller argumentó que centrarse en la confiabilidad de los líderes individuales es una distracción. Si bien cree que la mayoría de las personas que lideran la iniciativa son buenos administradores y que Altman es sincero, Diller argumentó que los desafíos de la IA van mucho más allá de la administración individual. Según Diller, los problemas con la IA van mucho más allá de la confianza. “Puede que la confianza sea irrelevante porque las cosas que están sucediendo son una sorpresa para las personas que están haciendo que esas cosas sucedan”, dijo Diller, el magnate de los medios. Señaló que quienes actualmente desarrollan la IA tienen ellos mismos una sensación de asombro, lo que convierte a la tecnología en una gran incógnita.

El núcleo del problema, según Diller, es la aproximación de la inteligencia artificial general (AGI)—una tecnología que podría algún día superar a los humanos en cualquier tarea. Diller afirmó que nos estamos acercando cada vez más, y cada vez más rápido, a la AGI. Debido a que los creadores de estas tecnologías no comprenden completamente las consecuencias de lo que están construyendo, Diller advirtió que el área principal de preocupación deben ser las consecuencias desconocidas de la IA. Señaló que la humanidad se ha embarcado en una transición que alterará casi todo, y añadió que, aunque él no está personalmente invertido en la tecnología y no le importa si las inversiones se concretan, el progreso es inevitable.

Para mitigar estos riesgos, Diller enfatizó la necesidad de guardrails (mecanismos de seguridad). Sin intervención humana, advirtió que la tecnología misma podría tomar el control. Si los humanos no establecen guardrails, Diller advirtió que una fuerza de AGI podría eventualmente implementar sus propias reglas, creando una situación en la que no hay vuelta atrás una vez que se desata.

Por qué importa

La perspectiva de Diller desplaza la conversación de la política de personalidades del liderazgo de Silicon Valley a los riesgos sistémicos y existenciales de la AGI, argumentando que los guardrails son necesarios independientemente de quién esté a cargo.