Apple remove apps que 'tiram a roupa' de pessoas após investigação da BBC

A Apple removeu aplicativos da App Store após investigação da BBC mostrar que estavam sendo promovidos no TikTok como ferramentas para criar deepfakes de "remoção de roupas" sem consentimento.

Os aplicativos, conhecidos como "nudify" ou de "remoção de roupas", usam inteligência artificial para gerar imagens ou vídeos nus. Apesar de serem descritos como formas de "apimentar selfies", os anúncios no TikTok promoviam a criação de imagens sexualizadas sem a permissão das mulheres.

Alguns anúncios incentivavam usuários a baixar os apps para "ver as fotos mais quentes da sua paixão" ou "tirar a roupa de qualquer pessoa". Essa prática pode ser ilegal em vários países, incluindo o Reino Unido.

O problema de aplicativos de "nudificação" tem crescido globalmente, com escândalos notáveis na Espanha, Coreia do Sul e Estados Unidos, especialmente envolvendo menores de idade.

O professor Arvind Narayanan defende que as empresas de tecnologia devem restringir esses aplicativos e que deveriam ser banidos das lojas virtuais. Os anúncios no TikTok usaram imagens de atrizes como Lena Headey e Maisie Williams para ilustrar como poderiam ser falsamente retratadas.

A BBC identificou quatro aplicativos que anunciavam no TikTok, que já removera os anúncios. No entanto, vídeos relacionados ainda estão na plataforma. O TikTok informou que os anúncios violam suas políticas, mas não explicou como passaram pela moderação.

A Apple retirou três aplicativos da loja até que os problemas fossem corrigidos e encerrou a conta de um quarto app especializado em criar vídeos de mulheres seminuas.

A Play Store do Google está investigando os aplicativos, sendo que o mais popular já foi baixado mais de um milhão de vezes. O criador deste aplicativo alegou não ter intenção de promover deepfakes sem consentimento e prometeu revisar suas práticas.