OpenAI busca un nuevo ejecutivo para liderar la preparación en seguridad de IA

OpenAI está reclutando activamente a un nuevo Jefe de Preparación para estudiar los riesgos relacionados con la IA y supervisar su marco de gestión de riesgos, ofreciendo un paquete de compensación de USD 555,000. El ejecutivo entrante será responsable de ejecutar el marco de preparación de la empresa, que explica el enfoque de OpenAI para rastrear y prepararse para las “capacidades de frontera” —definidas por la empresa como capacidades avanzadas de modelos de IA— que crean nuevos riesgos de “daño grave”. Este impulso de contratación marca una transición para el equipo de seguridad, que se estableció originalmente en 2023 para estudiar posibles “riesgos catastróficos”. El puesto fue ocupado anteriormente por Aleksander Madry, quien se desempeñó como el ex Jefe de Preparación antes de que la empresa comenzara su búsqueda de un nuevo ejecutivo para liderar el marco.

El esfuerzo de reclutamiento llega mientras OpenAI aborda las crecientes preocupaciones sobre las capacidades de su tecnología. En una publicación en la plataforma de redes sociales X, el CEO Sam Altman reconoció que los modelos de IA están “empezando a presentar algunos desafíos reales”, incluido su impacto potencial en la salud mental y su capacidad para identificar vulnerabilidades críticas de seguridad informática. Altman destacó la naturaleza de doble uso de estos sistemas e invitó a los candidatos a postularse, escribiendo: “Si quieres ayudar al mundo a descubrir cómo habilitar a los defensores de la ciberseguridad con capacidades de vanguardia mientras aseguras que los atacantes no puedan usarlas para causar daño, idealmente haciendo que todos los sistemas sean más seguros, y de manera similar para cómo lanzamos capacidades biológicas e incluso ganamos confianza en la seguridad de ejecutar sistemas que pueden automejorarse, por favor considera postularte”.

La búsqueda de liderazgo también coincide con un intenso escrutinio externo y desafíos legales con respecto a la seguridad de la IA generativa. OpenAI enfrenta demandas que alegan que su producto de chatbot ChatGPT ha “reforzado los delirios de los usuarios”, “aumentado su aislamiento social” y “llevado a algunos al suicidio”. En medio de estas preocupaciones de seguridad, OpenAI actualizó recientemente su marco de preparación. Las pautas actualizadas establecen que la empresa podría ajustar sus requisitos de seguridad si un laboratorio de IA competidor lanza un modelo de “alto riesgo”.

Por qué importa

OpenAI busca un nuevo ejecutivo para liderar su marco de preparación, que rastrea riesgos que van desde la ciberseguridad hasta amenazas biológicas, en medio de un escrutinio continuo sobre el impacto de sus modelos de IA en la salud mental y la seguridad.