CEO de DeepMind propone un organismo independiente para regular la IA de frontera

El martes por la mañana, Demis Hassabis, CEO de Google DeepMind, propuso la creación de un organismo de estándares independiente inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA, un organismo de autorregulación financiera de EE. UU.). El organismo podría evaluar modelos de frontera y desarrollar mejores prácticas para su lanzamiento. Bajo la fase inicial del marco de trabajo, los laboratorios de frontera compartirían voluntariamente sus modelos con el organismo de estándares para su revisión hasta 30 días antes de su lanzamiento. Una vez que se demuestre la efectividad del protocolo de evaluación, la formalización podría concretarse rápidamente, lo que significa que se exigiría a los modelos de frontera aprobarlo para poder implementarse en el mercado de EE. UU. Los laboratorios también trabajarían con el organismo de estándares para abordar cualquier vulnerabilidad crítica posterior al lanzamiento.

El sistema propuesto se basaría en las revisiones ad hoc que el gobierno de EE. UU. realizó sobre Mythos de Anthropic y Sol de OpenAI. Dichas revisiones generaron críticas por su falta de experiencia técnica y una toma de decisiones opaca sobre cuándo podría lanzarse un modelo. Bajo la propuesta de Hassabis, esas decisiones podrían transferirse a una nueva organización, respaldada por el gobierno de EE. UU. pero financiada por la industria de la IA y operada de manera independiente, integrada por representantes de código abierto y expertos técnicos provenientes de la propia industria.

El impulso a la autorregulación surge a medida que se desvanecen las perspectivas de un regulador gubernamental dedicado a la IA. Sriram Krishnan, asesor de IA de la Casa Blanca y socio general de Andreessen Horowitz (a16z), declaró recientemente: “no habrá una FDA para la IA”. Estructurar el organismo de estándares como una organización de autorregulación, similar a la FINRA, podría ser una forma de abordar la brecha resultante. Hassabis concibe que el organismo sea financiado por los laboratorios de IA, lo que proporcionaría los recursos necesarios para retener al personal técnico, y sostiene que incluso podría subcontratar algunas evaluaciones a la creciente oferta de grupos especializados en seguridad de IA equipados para enfocarse en riesgos particulares.

Por qué importa

A medida que la regulación de la IA por parte del poder ejecutivo enfrenta vientos políticos en contra en EE. UU., los líderes de la industria intentan adelantarse a una supervisión gubernamental severa proponiendo marcos de autorregulación que se apoyan en la experiencia técnica privada en lugar de una nueva agencia federal.