Menores conseguem baixar apps que criam nudes com IA, aponta investigação

Adolescentes conseguem acessar aplicativos de inteligência artificial que criam imagens íntimas falsas sem consentimento, mesmo com os controles parentais da Apple e do Google ativados. A conclusão é de uma investigação do Tech Transparency Project, divulgada pelo The Guardian.

Nos testes, pesquisadores baixaram 135 aplicativos desse tipo usando contas configuradas para usuários de 13 anos. Os resultados expõem falhas na classificação etária e na fiscalização das lojas digitais.

Controles parentais não barraram os aplicativos

Para realizar a investigação, a equipe criou quatro contas de teste, duas da Apple e duas do Google. Nas buscas, utilizou termos relacionados à edição de imagens e à geração de vídeos com inteligência artificial. Com esses perfis, conseguiu baixar ferramentas capazes de remover digitalmente roupas ou inserir rostos em corpos nus.

Os pesquisadores utilizaram imagens femininas geradas por IA, sem recorrer a fotografias de mulheres reais. Ainda assim, encontraram aplicativos com classificações etárias inadequadas. Um deles, que anunciava conteúdo sexual explícito, era indicado para crianças a partir de quatro anos.

A versão gratuita permitia inserir rostos em modelos com roupas íntimas, enquanto opções mais explícitas estavam disponíveis mediante pagamento. Os pesquisadores conseguiram contratar uma assinatura usando uma conta de 13 anos sem que o responsável vinculado recebesse um alerta.

Segundo o relatório, Apple e Google dependem, em grande medida, das classificações etárias fornecidas pelos próprios desenvolvedores. Nos testes, nenhuma das empresas exigiu ou sugeriu autorização parental para baixar os aplicativos identificados.

Imagens comuns podem virar conteúdo sexual falso

O problema já atingiu estudantes nos Estados Unidos. Em dezembro de 2025, Morgan Dorfman descobriu que um aluno do ensino médio frequentado por sua filha usava o aplicativo Movely para criar vídeos pornográficos falsos com imagens dela e de outras cinco meninas.

Ao testar a ferramenta, Dorfman encontrou modelos que transformavam fotografias comuns em vídeos sugestivos. A experiência a levou a reunir informações para orientar outros pais sobre o funcionamento do aplicativo.

“Todas as meninas estavam muito assustadas e confusas sobre o que fazer a seguir”, disse Dorfman ao The Guardian.

A mãe conhecia os deepfakes, mas associava esse tipo de manipulação principalmente a celebridades. Não imaginava que imagens de pessoas comuns também pudessem ser usadas para criar conteúdo sexual sem autorização.

Apple reforça regras, e Google suspende aplicativos

Após ser procurada pelos pesquisadores, a Apple anunciou mudanças nas regras da App Store. A empresa passou a exigir que desenvolvedores previnam e removam imagens íntimas não consensuais, inclusive as geradas por inteligência artificial. Também reforçou as restrições contra aplicativos que acrescentam funções proibidas depois da aprovação inicial, prática conhecida como bait-and-switch.

“Proibimos aplicativos de nudez artificial na App Store e removemos desenvolvedores que adicionam recursos desse tipo após o processo de análise”, afirmou Adam Dema, porta-voz da Apple.

A empresa também declarou que analisa os aplicativos antes de publicá-los e que tomou medidas contra ferramentas mencionadas no relatório. Segundo a Apple, alguns dos programas identificados são editores convencionais que não possuem recursos de nudez artificial ou deepfake.

O Google, por sua vez, informou que suspendeu aplicativos que violavam suas regras e restringiu termos de busca relacionados na loja. O porta-voz Dan Jackson afirmou que a empresa investiga violações e toma medidas contra conteúdos prejudiciais.

Os resultados mostram que ativar os controles parentais não garante, por si só, que adolescentes fiquem protegidos dessas ferramentas. A classificação etária adequada e a fiscalização contínua das lojas também são necessárias para dificultar o acesso a aplicativos que podem ser usados para produzir imagens íntimas sem consentimento.