Política y regulación
Microsoft publica un "código de conducta" de IA que prohíbe hackear sistemas o engañar a humanos
Microsoft publicó un nuevo código de conducta de IA que prohíbe a sus modelos realizar ciberataques, desarrollar armas nucleares, producir deepfakes o usar mecanismos para evadir la supervisión humana, en medio de un debate cada vez más intenso sobre seguridad en la industria.
Mientras la industria de la inteligencia artificial (IA) traslada su atención hacia la seguridad y la alineación, Microsoft publicó un nuevo código de conducta de IA diseñado para alejar a sus modelos de comportamientos peligrosos. El documento es más detallado que el reciente llamado del CEO de Anthropic, Dario Amodei, a “marcar el ritmo de la frontera”, y en cambio expone los valores y las líneas rojas que guían el entrenamiento de modelos dentro de Microsoft AI, ofreciendo un panorama integral de cómo la empresa aborda la seguridad de la IA en la práctica.
El código de conducta comienza con la predicción de que los sistemas de IA superinteligente superarán el desempeño humano en la mayoría de las tareas dentro de la próxima década. “Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que la humanidad ha enfrentado jamás”, señala el documento. “Por lo tanto, debemos ser completamente claros sobre por qué estamos inventando estos sistemas y cómo pretendemos controlarlos”. El documento también establece principios generales que los modelos de Microsoft AI deben respetar —apoyar a los humanos en lugar de reemplazarlos, y acelerar el florecimiento humano—, junto con restricciones de seguridad específicas que implementan esos principios.
Bajo el sistema de Microsoft, cada modelo tiene un código de conducta general que prevalece sobre las preferencias de usuarios individuales o cualquier tarea específica, incluyendo “restricciones absolutas” que prohíben ciberataques, armas nucleares o la producción de deepfakes, además de disposiciones más amplias contra una pérdida general de control humano. “Los modelos MAI no utilizarán mecanismos adaptativos, engañosos, autorreforzantes, de colusión u otros para evadir o vencer la supervisión humana, de modo que dejen de poder ser dirigidos, modificados o desactivados de forma confiable por personas o sistemas autorizados”, indica el documento.
La publicación llega en medio de un enfoque sin precedentes en la seguridad de la IA, impulsado por una serie de incidentes con agentes descontrolados y la renuncia abrupta de un empleado de Anthropic que citó el creciente riesgo de que la IA pudiera provocar la extinción humana. Junto con Anthropic, OpenAI y xAI, Microsoft ha adoptado en gran medida la idea de marcar el ritmo de la frontera, incluido el respaldo a evaluadores integrados dentro de los laboratorios de IA. “Damos la bienvenida a la investigación, el enfoque y el ritmo deliberado necesarios para lograr una alineación correcta como objetivo de diseño”, escribió en línea el CEO de Microsoft, Satya Nadella. “También damos la bienvenida a ideas como los ‘evaluadores integrados’ y a los esfuerzos más amplios para desarrollar los mecanismos que hagan de esto algo más que simples palabras”.
Por qué importa
Que Microsoft codifique restricciones explícitas contra la evasión y el engaño indica que los grandes laboratorios están pasando de promesas de seguridad abstractas a reglas específicas y auditables, un cambio que podría fijar un estándar de la industria frente al cual se mida a otros desarrolladores de IA.