Alianza de seguridad en IA liderada por Nvidia lanza su primer grupo de trabajo en una semana

La Open Secure AI Alliance (OSAA), un grupo de la industria liderado por Nvidia que ya suma más de 120 empresas en su primera semana de existencia, formó un grupo de trabajo llamado Shared AI Findings Exchange, o SAFE. El grupo está presentando propuestas para consulta pública, con la Linux Foundation, miembro de la alianza, a cargo del proceso. Los miembros desarrollaron las propuestas mientras se reunían en la conferencia de ciberseguridad Black Hat, celebrada esta semana en Las Vegas.

Las pautas actuales cubren cómo reportar de forma confidencial incidentes de ciberseguridad en IA, alertar a los afectados y realizar un análisis sin atribución de culpas para que la industria pueda aprender de ellos. Al mismo tiempo, los miembros de la OSAA están aportando y catalogando piezas de su tecnología de código abierto que podrían resultar útiles, un trabajo que eventualmente podría convertirse en herramientas de código abierto para proteger a los agentes de IA empresariales o defenderse de atacantes de IA descontrolados, como el modelo de OpenAI que se infiltró en Hugging Face (también miembro de la OSAA).

Entre los ejemplos de aportes de los miembros están la familia de modelos abiertos de Nvidia y su escáner de vulnerabilidades de LLM de código abierto, Garak; el trabajo de Okta en tecnología de identidad de agentes; el trabajo de Red Hat en gobernanza de agentes; y la herramienta de código abierto de Amazon para construir agentes, Strands Agents, además de su lenguaje de autorización, Cedar. La lista de miembros de la OSAA incluye a Adobe, BlackRock, Cisco, Intel, Microsoft y Visa, pero Anthropic, OpenAI y Google son ausencias notables, aunque tanto OpenAI como Google firmaron la carta abierta, publicada la semana pasada, que dio origen al grupo. Esa carta instó a la Casa Blanca a apoyar los esfuerzos de IA de código abierto en lugar de restringirlos, y reunió firmas de Nvidia y de más de 200 empresas tecnológicas.

La formación del grupo se produjo tras informes de que la administración Trump estaba considerando prohibir los modelos de peso abierto chinos, lo que generó inquietud en la industria y llevó a la carta abierta. “La apertura puede ser uno de los caminos más importantes hacia la seguridad de la IA,” escribió el grupo en esa carta.

Por qué importa

Que un grupo de la industria de apenas una semana ya esté presentando propuestas de trabajo indica que Nvidia y sus aliados ven las herramientas de seguridad de IA de código abierto como una prioridad competitiva y política, incluso mientras tres de los laboratorios de IA más grandes —Anthropic, OpenAI y Google— se mantienen al margen.