Investigação nos Estados Unidos encontrou 135 aplicativos acessíveis a contas de adolescentes de 13 anos; Apple e Google removeram programas após serem alertadas
Uma pesquisa do Tech Transparency Project (TTP) identificou aplicativos de inteligência artificial (IA) capazes de gerar imagens de nudez acessíveis a crianças e adolescentes. O levantamento, divulgado nesta segunda-feira (19), encontrou 135 apps na App Store e na Google Play Store nos Estados Unidos. Os testes, realizados com contas fictícias de adolescentes de 13 anos, revelaram que os programas conseguiam passar pelos controles parentais devido a falhas nas classificações etárias. Após serem alertadas, Apple e Google removeram parte dos softwares das lojas.
🔎 Qual o melhor aplicativo para monitorar o celular dos filhos grátis?
📲 Comparador de celulares do TechTudo: como usar a ferramenta e economizar
Apps de nudez por IA chegam a crianças e burlam controles parentais; entenda — Foto: Reprodução/Pexels/Mart Production
📝 Como melhorar fotos com inteligência artificial? Veja no fórum do TechTudo
Índice
- Pesquisa identifica apps de nudez por IA acessíveis a crianças e adolescentes
- Como os aplicativos conseguem passar pelos controles parentais
- Apple e Google reagem à investigação sobre apps de nudez por IA
Pesquisa identifica apps de nudez por IA acessíveis a crianças e adolescentes
O levantamento foi realizado pelo Tech Transparency Project (TTP), organização que investiga a atuação de empresas de tecnologia. Para testar as proteções das lojas, os pesquisadores criaram quatro contas fictícias de adolescentes de 13 anos, duas da Apple e duas do Google. Uma conta de cada plataforma tinha controles parentais ativados, enquanto as demais foram utilizadas sem essas restrições.
A equipe identificou 135 aplicativos que permitiam transformar fotografias de mulheres vestidas em imagens de nudez total ou parcial, além de ferramentas capazes de alterar digitalmente as roupas para simular biquínis e lingeries. Os testes utilizaram imagens de mulheres geradas por IA, sem fotografias de pessoas reais. O levantamento não demonstra que crianças tenham utilizado esses programas, mas comprova que contas configuradas para adolescentes conseguiram acessá-los.
Segundo a pesquisa, os aplicativos identificados acumulavam 5,5 bilhões de downloads e US$ 3,9 bilhões em receita, conforme estimativas da plataforma AppMagic. Os números correspondem ao desempenho global dos programas, não ao uso por menores de idade. A investigação também encontrou aplicativos classificados como adequados para crianças a partir de 4 ou 9 anos, apesar de oferecerem funcionalidades relacionadas à manipulação sexual de imagens.
Pesquisa identifica apps de nudez por IA acessíveis a crianças e adolescentes — Foto: Reprodução/Pexels/Helena Lopes
Como os aplicativos conseguem passar pelos controles parentais
Uma das falhas apontadas pela investigação está nas classificações etárias atribuídas aos aplicativos. As lojas utilizam informações fornecidas pelos desenvolvedores para avaliar a adequação dos programas a diferentes idades. Com isso, ferramentas que oferecem recursos para criar imagens íntimas artificiais podem receber classificações incompatíveis com suas funcionalidades.
Nos testes com controles parentais ativados, os pesquisadores conseguiram instalar 24 aplicativos em uma conta da Apple e 51 em uma conta do Google. Os downloads foram autorizados pelos próprios pesquisadores, que simulavam o papel dos responsáveis. O problema é que os programas apareciam como adequados à faixa etária configurada, sem deixar claras as funcionalidades identificadas pelo levantamento.
A pesquisa também apontou problemas nos mecanismos de verificação de idade e nas compras dentro dos aplicativos. Em um dos casos, uma conta da Apple registrada para um adolescente de 13 anos, sem controles parentais ativados, conseguiu acessar conteúdo restrito após informar que tinha pelo menos 17 anos. Os pesquisadores também contrataram assinaturas com cartões-presente sem que os responsáveis recebessem notificações. A Apple afirmou que investigaria esse comportamento, enquanto o Google não respondeu especificamente sobre a questão.
Outro problema estava na descoberta dos apps. Embora as lojas restringissem pesquisas por termos explícitos relacionados à criação de nudez artificial, programas com essas funcionalidades continuavam acessíveis por buscas genéricas, como edição de fotos e troca de rostos. As contas de teste também receberam anúncios de aplicativos identificados pela investigação, sendo 13 nas contas da Apple e cinco nas do Google.
Como os aplicativos conseguem passar pelos controles parentais — Foto: Reprodução/Pexels/Tima Miroshnichenko
Apple e Google reagem à investigação sobre apps de nudez por IA
Após serem alertadas sobre os resultados, Apple e Google retiraram parte dos aplicativos de suas lojas. Até 28 de setembro, durante a investigação, a Apple havia removido 25 programas, enquanto o Google excluiu seis da Play Store. Os pesquisadores, porém, verificaram que aplicativos retirados das plataformas continuavam funcionando nos aparelhos em que haviam sido instalados anteriormente.
Em 16 de outubro, a Apple também atualizou suas diretrizes para desenvolvedores, três dias após ser procurada pelo TTP. As regras passaram a trazer restrições mais explícitas contra a criação e a distribuição de imagens íntimas não consensuais, além de proibir aplicativos que escondem funcionalidades durante a avaliação e passam a oferecê-las somente depois da aprovação na App Store.
Em declaração ao jornal britânico The Guardian, o porta-voz da Apple, Adam Dema, contestou parte das conclusões da pesquisa. Segundo ele, alguns dos programas incluídos no levantamento são ferramentas convencionais de edição de fotos e vídeos, sem funcionalidades para criar nudez artificial ou deepfakes. A empresa reforçou que proíbe aplicativos destinados a despir pessoas digitalmente e informou ter adotado providências contra os programas que violavam suas regras.
O Google, por sua vez, informou que suspendeu aplicativos que descumpriam suas políticas e restringiu termos de busca relacionados a essas ferramentas. Ao The Guardian, o porta-voz Dan Jackson afirmou que a companhia realiza verificações preventivas para identificar conteúdos prejudiciais e investiga possíveis violações. As empresas não divulgaram um balanço completo sobre eventuais revisões das classificações etárias dos apps identificados.
Apple e Google reagem à investigação sobre apps de nudez por IA — Foto: Reprodução/Pexels/Helena Lopes
Com informações de The Guardian
🎥 Como organizar seu celular: Tutorial Android e iPhone
Como organizar seu celular: Tutorial Android e iPhone
Mais recente Próxima Locais de votação alterados: como consultar se o seu mudou pelo celular?
- App Store
- Apple
- Apps
- Google Play Store
- Internet
- Nulo
