El Papa León XIV publica una encíclica sobre la IA y la concentración de poder

El Papa León XIV publicó su primera encíclica el lunes. Titulada “Magnifica Humanitas”, la carta papal formal de 200 páginas aborda la protección de la persona humana en la era de la inteligencia artificial. El Papa presentó el documento junto a Chris Olah, cofundador de la empresa de IA Anthropic. En el documento, el Papa León XIV argumenta que la tecnología gobernada por una pequeña élite no puede servir al bien común. La encíclica afirma que, al igual que con cada gran cambio tecnológico, la IA tiende a amplificar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos. Advierte que cuando dicho poder se concentra, tiende a volverse opaco, evadir la supervisión pública y aumentar el riesgo de desigualdades y nuevas dependencias.

El lanzamiento de la encíclica se produce en medio de fricciones políticas en EE. UU. Sigue a reportes de que el presidente Donald Trump retrasó la firma de su orden ejecutiva sobre IA, la cual habría establecido supervisión gubernamental para nuevos modelos antes de su lanzamiento. Según se informa, Trump retrasó la orden ante la insistencia del inversionista de capital de riesgo y ex zar de IA de la Casa Blanca, David Sacks. Para contrarrestar estas dinámicas, el Papa León XIV pidió que el desarrollo de la IA sea guiado por criterios claros y una supervisión efectiva, instando a poner fin a la carrera armamentista de IA para construir algoritmos cada vez más potentes y conjuntos de datos más grandes para el dominio geopolítico o comercial. Señaló que el desarme requiere desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar, trazando paralelos históricos con la encíclica de 1891 del Papa León XIII, “Rerum Novarum”, que abordó concentraciones de poder similares durante la Revolución Industrial.

Los riesgos sociales de la IA no regulada ya están generando advertencias por parte de expertos en gobernanza. Paolo Carozza, profesor de la Facultad de Derecho de Notre Dame, miembro de la Pontificia Academia de Ciencias Sociales y presidente de la Junta de Supervisión de Meta (organismo independiente que revisa moderación de contenido), advirtió sobre las consecuencias inmediatas de estas tecnologías. Carozza afirmó que la desinformación impulsada por IA y los deepfakes han “corroído nuestra capacidad para reconocer lo que es verdadero y lo que no, y eso realmente tiene consecuencias para la política democrática”. Añadió que la práctica de la industria tecnológica de recolectar y manipular datos humanos plantea desafíos fundamentales para la libertad cognitiva.

Por qué importa

La encíclica enmarca la gobernanza de la IA no como un desafío técnico, sino como uno moral y político. Argumenta que las estructuras de poder actuales en la industria amenazan intrínsecamente los procesos democráticos y la libertad cognitiva, advirtiendo que la tecnología gobernada por una pequeña élite no puede servir al bien común.