OpenAI presenta un sistema de monitoreo de uso indebido centrado en la privacidad para superar la política de Anthropic

A medida que los modelos de IA se vuelven más potentes, también crece el riesgo de que se les dé un uso indebido, y las empresas de IA deben equilibrar el respeto a la privacidad de sus clientes empresariales con la vigilancia de posibles abusos. OpenAI anunció un enfoque de seguridad centrado en la privacidad al que llama Private Safety Processing, un sistema automatizado que está probando con clientes seleccionados y que vigila un posible uso indebido sin retener ninguno de los datos del cliente.

La medida va en contra de la política de retención de datos de Anthropic, anunciada en julio, que le permite al laboratorio de IA conservar los datos de sesión de los usuarios durante 30 días para sus “modelos cubiertos”, una categoría que incluye todos los modelos de la clase Mythos y futuros modelos con capacidades similares. Anthropic diseñó esa política con fines de seguridad, para poder examinar y analizar posibles irregularidades, pero ha generado preocupación en algunas empresas que manejan datos sensibles y no quieren que el laboratorio los retenga o inspeccione. Anthropic afirma que cualquier revisión humana de esos datos ocurre solo “a través de una vía de acceso controlada” que involucra “un pequeño grupo de revisores autorizados”, y que cada sesión de revisión queda “registrada en un registro a prueba de manipulaciones que los revisores no pueden suprimir ni modificar”. Por lo demás, Anthropic sigue en gran medida la política de Retención Cero de Datos (ZDR), salvo para modelos cubiertos como Fable.

OpenAI, como la mayoría de las empresas de IA, ya ofrece a sus clientes Retención Cero de Datos, bajo la cual agentes dentro de su API vigilan el abuso por sesión sin retener los datos del cliente. Private Safety Processing amplía ese alcance: un agente evalúa las entradas y salidas de múltiples conversaciones, no solo una, para detectar a actores maliciosos —como alguien que desarrolla malware para un ciberataque— que distribuyen sus solicitudes entre varias sesiones para evitar ser detectados, según le dijo un vocero a TechCrunch. Si el sistema se activa, puede enviarle a OpenAI una “señal definida de forma acotada” sobre una actividad específica, que OpenAI usa para decidir si es necesario aplicar medidas; de ser así, se contacta con el cliente, quien luego puede optar por compartir datos según su propio criterio.

Esta competencia en materia de privacidad ocurre en medio de una tensa rivalidad corporativa entre ambas empresas, que se dirigen hacia sendas OPI. Un informe reciente mostró que el crecimiento de OpenAI en el segundo trimestre fue más lento que el de Anthropic, cuya tasa de ingresos anualizada es ahora, según se informa, de USD 65 000 millones; inversionistas de Anthropic han dicho que podría salir a bolsa con una valoración de USD 2 billones.

Por qué importa

Los enfoques rivales de privacidad muestran a los laboratorios de IA tratando la propia política de manejo de datos como una palanca competitiva para ganar clientes empresariales, y no solo como un requisito de cumplimiento normativo — una dinámica que probablemente se intensificará a medida que ambas empresas avanzan hacia sus respectivas salidas a bolsa.