Apple atualiza regras da App Store para banir apps de nudificação ocultos

A Apple endureceu as regras para desenvolvedores da App Store neste fim de semana, banindo apps que usam IA para gerar conteúdo ofensivo e aqueles que passam pela revisão como aplicativos comuns antes de revelar recursos ocultos de “nudificação” — uma tática que a empresa chama de bait-and-switch (isca e troca). As novas regras exigem que apps que hospedam conteúdo gerado por usuários filtrem material ofensivo, permitam denunciar conteúdo ofensivo e bloquear contas abusivas; a Apple disse que removerá qualquer app que adicione recursos ausentes na versão enviada para revisão.

A Apple também reforçou a linguagem da seção legal de suas regras para reafirmar que vai proibir apps que promovam o tráfico de pessoas e a exploração de crianças. A empresa disse que seu processo de revisão bloqueou mais de 150 mil apps de chegar aos usuários no ano passado, e removeu 193 mil contas de desenvolvedores por fraude e abuso.

A atualização vem em meio a pressão externa sobre as duas maiores lojas de aplicativos do mundo. Em julho, São Francisco ordenou que Apple e Google retirassem apps de nudificação de suas lojas, e o procurador da cidade, David Chiu, acusou as duas empresas de embolsar taxas por hospedar esses apps em suas plataformas. Um relatório de abril do Tech Transparency Project, grupo americano que monitora plataformas de tecnologia, já havia encontrado vários apps de nudificação nas lojas das duas empresas, alguns classificados como apropriados para menores.

Por que importa

A mudança dá à Apple uma base mais clara para remover apps enganosos de IA antes que cheguem aos usuários, num momento em que reguladores e grupos de vigilância pressionam as duas maiores lojas de aplicativos sobre como lidam com ferramentas de nudificação.