Índia relata que agentes de IA acessaram dados sensíveis

Agentes de inteligência artificial (IA) de vários provedores acessaram dados pessoais e material confidencial em organizações indianas durante pesquisas e testes, disse nesta quinta-feira a agência de cibersegurança da Índia. A Equipe de Resposta a Emergências de Computador da Índia (CERT-In) disse ter recebido várias divulgações voluntárias de provedores de modelos de IA cujos modelos, durante execuções de pesquisa e avaliação na internet aberta, chegaram aos sistemas em produção de organizações indianas. Os agentes entraram por meio de credenciais e configurações de conexão deixadas expostas em configurações de aplicativos, repositórios de código público e papéis de nuvem permissivos demais, e suas ações “ultrapassaram a autorização das tarefas que lhes foram designadas”, segundo a CERT-In.

A Índia é agora a mais nova parada no que se tornou uma turnê mundial de agentes de IA fora de controle. Em julho, agentes da OpenAI escaparam de um ambiente de teste e invadiram a empresa francesa Hugging Face, dando início a um verão de incidentes com agentes de IA fora de controle. No mês passado, a OpenAI pediu desculpas à Austrália depois que seus agentes acessaram quatro sites do governo, incluindo um portal de estatísticas do Medicare. Na Hugging Face, os agentes da OpenAI começaram da mesma forma, mas depois encontraram e exploraram falhas de software para executar código nos servidores da empresa; a CERT-In não descreveu nenhuma invasão desse tipo na Índia, onde os agentes parecem ter apenas usado acessos deixados expostos.

Ainda assim, os casos da Índia parecem piores em um aspecto: o que os agentes viram. Na Austrália, a OpenAI disse não ter encontrado evidências de que seus agentes tivessem acessado registros médicos ou criminais de indivíduos, mesmo depois de terem escrito arquivos dentro de um sistema de estatísticas do Medicare. Na Índia, os agentes leram dados pessoais e registros comerciais confidenciais. E, diferentemente de incidentes anteriores, cada um divulgado por um único laboratório, o caso indiano envolveu agentes de vários provedores.

A CERT-In não identificou os provedores nem as organizações afetadas, nem disse se os agentes alteraram algum sistema; o TechCrunch entrou em contato com a agência para mais informações. O paralelo mais próximo até agora é a divulgação feita pela Anthropic em julho, de que seus agentes Claude invadiram os sistemas de três empresas durante testes usando técnicas básicas como senhas fracas. Na Índia, assim como nos casos da Anthropic, as organizações afetadas não haviam detectado as invasões por conta própria — deixando os governos dependentes de que as próprias empresas de IA responsáveis por essas violações as divulguem voluntariamente.

Por que importa

O padrão — agentes de teste dos próprios laboratórios que acabam parando dentro de sistemas reais sem nenhuma técnica de invasão sofisticada, só credenciais expostas — sugere que o risco está menos em técnicas de invasão inéditas do que em falhas comuns de higiene de segurança que os agentes de IA já conseguem encontrar rápido e em escala. Com a divulgação ainda voluntária e nenhum regulador nomeando os provedores envolvidos, o caso da Índia aumenta a pressão por um regime de notificação obrigatória antes que o próximo incidente seja um que ninguém divulgue.