Surge un nuevo marco para la seguridad de la IA en medio de las tensiones en Washington

El reciente enfrentamiento entre el Pentágono (el Departamento de Defensa de EE. UU.) y la empresa de IA Anthropic ha dejado al descubierto la falta de reglas coherentes que regulen la inteligencia artificial en Washington. El último viernes de febrero, el secretario de Defensa, Pete Hegseth, designó a Anthropic como un riesgo para la cadena de suministro tras una disputa sobre el uso de tecnología. Aunque la Pro-Human AI Declaration se finalizó antes de que ocurriera este enfrentamiento la semana pasada, la colisión de estos eventos pone de relieve el vacío regulatorio. La declaración ofrece un marco estructurado para el desarrollo responsable de la IA, creado ante la ausencia de directrices federales.

La declaración se basa en cinco pilares clave: mantener a los humanos al mando, evitar la concentración de poder, proteger la experiencia humana, preservar la libertad individual y exigir responsabilidad legal a las empresas de IA. Este marco llega en medio de un cambio en el sentimiento público en Estados Unidos. Max Tegmark, físico del MIT e investigador de IA que ayudó a organizar el esfuerzo, señaló que encuestas recientes muestran que el 95% de todos los estadounidenses se opone a una carrera no regulada hacia la superinteligencia. Tegmark describió este cambio en el sentimiento público durante los últimos cuatro meses como notable.

Para abordar estas preocupaciones, la declaración aboga por pruebas obligatorias previas al despliegue de productos de IA. Estas pruebas están diseñadas para cubrir riesgos específicos, incluyendo el aumento de la ideación suicida, la exacerbación de condiciones de salud mental y la manipulación emocional, particularmente en productos dirigidos a usuarios más jóvenes. Tegmark comparó la situación con la industria farmacéutica, señalando que a las empresas farmacéuticas se les impide lanzar productos antes de demostrar que son seguros. También argumentó que si una persona utilizara mensajes de texto para persuadir a un niño de 11 años de suicidarse, esa persona enfrentaría un proceso penal, cuestionando por qué una máquina que hace lo mismo debería ser tratada de manera diferente.

La urgencia de la declaración se ve subrayada por acciones gubernamentales recientes. Tras la disputa con Anthropic, OpenAI, según se informa, cerró un acuerdo con el Departamento de Defensa, aunque los expertos legales dicen que el acuerdo será difícil de aplicar. Como declaró Dean Ball, investigador principal de la Foundation for American Innovation, “Esto no es solo una disputa sobre un contrato. Esta es la primera conversación que hemos tenido como país sobre el control de los sistemas de IA”. A pesar de las profundas divisiones políticas, Tegmark observó que los diversos miembros de la coalición están unidos por su humanidad compartida, lo que refleja un interés común en priorizar la seguridad humana sobre el desarrollo de máquinas no regulado.

Por qué importa

La Pro-Human AI Declaration intenta codificar estándares de desarrollo responsable de IA ante la ausencia de regulación federal, ganando urgencia tras el reciente conflicto del Pentágono con Anthropic.