El rey Carlos presiona a líderes de IA sobre seguridad en una cumbre privada

El rey Carlos organizó una cumbre privada el jueves con algunos de los nombres más destacados de la IA y del gobierno del Reino Unido, entre ellos Jensen Huang, de Nvidia, líderes de OpenAI y Anthropic, el nuevo ministro de IA del Reino Unido, Kanishka Narayan, y el jefe del servicio de inteligencia exterior británico. También asistió Paolo Benanti, quien asesora al papa en temas de IA. El evento se celebró en Dumfries House, una finca del siglo 18 en Ayrshire propiedad de la fundación benéfica del rey Carlos.

Las declaraciones del rey llamaron la atención porque la familia real suele ser cautelosa, por razones constitucionales, para no involucrarse en temas políticos, y la IA es hoy uno de los temas más controvertidos del mundo. Dijo a los líderes reunidos que el rápido desarrollo de la tecnología, y su sustancia subyacente, resultaban a la vez fascinantes y profundamente preocupantes, y les pidió encontrar la manera de controlar la IA antes de que sea demasiado tarde. Señaló la capacidad ya demostrada de la IA para mejorar y salvar vidas en medicina y ciencia, pero indicó que quienes crean estas tecnologías advierten cada vez más que la IA corre el riesgo de desarrollar capacidades más oscuras —incluso, dijo, la de quitar vidas—. La observación llegó pocos días después de que un investigador de Anthropic renunciara y escribiera públicamente que las empresas de IA estaban corriendo para construir máquinas mucho más inteligentes que cualquier humano, y que la humanidad podría no sobrevivir al resultado.

El rey continuó diciendo que era urgente sopesar debidamente los peligros existenciales de que esta tecnología cayera en manos equivocadas y se usara de formas potencialmente catastróficas, y se preguntó en voz alta si la industria ya había construido medios suficientes de control. Al cerrar, instó a los líderes a aprovechar los beneficios de la IA mientras se construye cooperación internacional en torno a sus riesgos. “La tarea que tienen por delante no es simplemente hacer avanzar la tecnología, sino garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural”, dijo. “Al abrazar lo nuevo, no debemos perder lo perenne”. Según se informó, permaneció alrededor de 20 minutos antes de dejar que los invitados continuaran la conversación entre ellos.

OpenAI envió a su directora financiera, Sarah Friar, a la cumbre, mientras que Anthropic envió a Tino Cuéllar, quien lidera su equipo de asuntos globales y dijo después que la empresa se sentía honrada de haber participado. No es la primera vez que el rey Carlos aborda los riesgos y beneficios de la IA —ya lo había hecho en 2023 y 2024—, pero esta cumbre llega en un momento especialmente cargado: a principios de este mes, Sam Altman de OpenAI, Elon Musk y Dario Amodei de Anthropic pidieron una desaceleración deliberada del desarrollo de la IA, un llamado que Huang, de Nvidia, y el presidente de Estados Unidos, Trump, rechazaron rápidamente, argumentando este último que Estados Unidos necesita mantener su liderazgo frente a China. Tanto OpenAI como Anthropic han pasado el último año insinuando salidas a bolsa multimillonarias, aunque OpenAI dijo recientemente que sus propios planes de salida a bolsa se han estancado este año en medio de persistentes preocupaciones sobre seguridad en IA.

Por qué importa

Que un jefe de Estado normalmente limitado a actos protocolarios convoque a ejecutivos de laboratorios de IA para preguntarles, sin rodeos, si la industria ha construido controles adecuados, muestra hasta qué punto el debate sobre seguridad se ha trasladado de las salas de reuniones de Silicon Valley a la vida política dominante.