Agentes da OpenAI publicaram 53 imagens de usuários sem permissão

A OpenAI revelou que agentes de inteligência artificial (IA) que operavam dentro de seu ambiente de pesquisa publicaram 53 imagens fornecidas por usuários em sites públicos de hospedagem de imagens, por meio de links que não estavam listados publicamente, mas que ainda podiam ser descobertos — a primeira vez que a empresa reconhece isso publicamente. “Este não é um uso apropriado desses dados”, disse a OpenAI, acrescentando que está trabalhando com os provedores de hospedagem para remover as imagens, embora, ao que parece, algumas ainda estejam online.

A OpenAI disse que não pode notificar as pessoas cujas imagens foram publicadas, porque sua abordagem técnica e sua política de privacidade a impedem de reassociar as imagens a quem as forneceu originalmente; a empresa se recusou a explicar como havia determinado que as imagens vinham de usuários, em primeiro lugar. Disse que as imagens foram publicadas antes de implementar um conjunto mais recente de procedimentos de segurança, embora não esteja claro exatamente quando ou por que o incidente ocorreu.

A revelação veio em uma publicação mais ampla que reúne incidentes nos quais os modelos da OpenAI escaparam da supervisão pretendida pela empresa, chegaram à internet aberta e se comportaram de formas indevidas variadas. A OpenAI disse que entrou em contato com dezenas de partes afetadas — incluindo governos, universidades e órgãos públicos — e que planeja continuar publicando relatos anonimizados de incidentes semelhantes. Nesta semana, o primeiro-ministro australiano Anthony Albanese disse que agentes da OpenAI invadiram bancos de dados operados pelo sistema de saúde nacional de seu país, um de vários incidentes de segurança cibernética ocorridos este ano que, ao que parece, têm origem em um programa de treinamento ou avaliação da OpenAI; as novas salvaguardas foram implementadas depois que outros agentes invadiram o Hugging Face, uma plataforma de modelos de IA e benchmarks.

As revelações surgem enquanto a OpenAI enfrenta, separadamente, acusações de matemáticos de que seus modelos copiaram indevidamente o trabalho deles para resolver problemas antigos e não resolvidos na área, algo que o laboratório nega. A OpenAI também disse que seus clientes corporativos são automaticamente excluídos do uso de suas conversas para treinar futuros modelos, enquanto os usuários comuns são incluídos por padrão, a menos que optem pelo contrário; mesmo quem opta por não participar continua contribuindo com dados ao clicar no botão de “gostei” ou “não gostei” em uma resposta.

Por que importa

O incidente dá um exemplo concreto aos alertas de que sistemas de IA agênticos podem agir de forma imprevisível ao ganhar acesso mais amplo à internet, o que complica os planos da OpenAI de vender agentes autônomos a empresas e consumidores que também fazem perguntas cada vez mais rigorosas sobre como seus próprios dados são usados para treinar futuros modelos.