OpenAI lanza Sol en medio de opacas revisiones de seguridad del gobierno de EE. UU.

OpenAI está implementando Sol, su último LLM avanzado, para un amplio acceso público. Se considera que Sol está al menos al mismo nivel que Fable de Anthropic, pero el proceso exacto que utilizó el gobierno de EE. UU. para aprobar el lanzamiento de cualquiera de los dos modelos sigue sin estar claro. Mina Narayanan, analista sénior de investigación en el Centro para la Seguridad y la Tecnología Emergente de Georgetown (un centro de investigación sobre seguridad y tecnología con sede en Washington), dijo a TechCrunch: “Francamente, no tengo visibilidad sobre esos procesos exactos, así que sí, no siento que tenga suficiente información para decir si son adecuados o no”.

Dieciocho meses después del inicio de la administración Trump, todavía no existe un marco claro para otorgar licencias a los modelos de frontera. Una orden ejecutiva publicada el mes pasado trazó una hoja de ruta para evaluarlos, pero los detalles aún están por definirse; la orden instruye a seis agencias del gabinete a determinar un proceso final para principios de agosto. El Centro para los Estándares e Innovación de la IA del Departamento de Comercio, la agencia de EE. UU. que ahora lidera los estándares de IA, parece estar manejando las revisiones de manera interina. Sriram Krishnan, quien asesoró a la Casa Blanca en materia de IA hasta el mes pasado, ha dicho que no habrá un regulador de IA centralizado modelado a semejanza de la FDA, la agencia de alimentos y medicamentos de EE. UU. Dean W. Ball, exasesor de políticas de Trump que ahora trabaja en OpenAI, escribió en su boletín el mes pasado que nadie sabe cuáles son los requisitos para obtener una licencia.

Los críticos argumentan que el proceso ad hoc y secreto se apoya en conexiones personales en lugar de investigadores de seguridad independientes. Andy Konwinski, un científico de la computación que cofundó Databricks, Perplexity y el Instituto Laude, califica la incertidumbre como un problema existencial, argumentando que, más allá de la seguridad, el punto crucial es quién tiene el poder de decidir quién obtiene acceso. Esa preocupación se agudiza por el contexto: según se informa, Altman ofreció hasta el 5% del capital de OpenAI para las llamadas “Cuentas Trump” de la administración, y el papel de Brockman como el mayor donante públicamente conocido para la operación política de mitad de período de Trump. Fable de Anthropic, mientras tanto, fue retirado brevemente del acceso general cuando el gobierno de EE. UU. prohibió su uso por parte de ciudadanos extranjeros, en parte debido a preocupaciones reales de que los usuarios realizaran un jailbreak al modelo para acceder a capacidades de hackeo. El profesor de la Universidad de Wisconsin-Madison, Remzi Arpaci-Dusseau, dijo la semana pasada en la conferencia Open Frontier que hay poca sensación de que personas responsables estén impulsando estos cambios.

En una publicación de blog a finales de junio, OpenAI señaló que no cree que este tipo de proceso de acceso gubernamental deba convertirse en la norma a largo plazo, y agregó que trabajaría con los reguladores en un camino diferente. Konwinski favorece un modelo de bienes comunes abiertos, señalando a instituciones como la FDA, los NIH y los laboratorios nacionales que reúnen a investigadores, funcionarios y empresas para lograr un consenso de seguridad; de manera similar, Ball argumenta que el progreso depende de organizaciones de auditoría de terceros, autorizadas por el gobierno, para evaluar las prácticas de seguridad de los laboratorios de frontera. Parte de esa tensión se remonta a los incentivos de la industria, lo que se está debatiendo en los tribunales durante la demanda de Elon Musk que desafía la estructura corporativa de OpenAI. En la misma conferencia, el fundador de Two Sigma, David Siegel, advirtió contra un futuro en el que un pequeño número de empresas controle la tecnología, el gobierno la evalúe dentro de laboratorios secretos y el público y la comunidad científica no tengan acceso a nada de ello.

Por qué importa

El opaco lanzamiento de modelos de frontera como Sol y Fable resalta la falta de procesos regulatorios estandarizados en EE. UU., lo que genera preocupación sobre la influencia política tras bambalinas y la exclusión de investigadores de seguridad independientes de las decisiones que definen el acceso público a una IA potente.