Meta processa empresa por trás de app que cria imagens falsas de nudez com inteligência artificial

A Meta Platforms Inc. está processando a empresa Joy Timeline HK Ltd., sediada em Hong Kong, por supostamente promover aplicativos de nudez gerados por inteligência artificial.

A Meta alega que os aplicativos CrushAI permitem a criação de imagens de indivíduos nus ou sexualmente explícitos sem consentimento.

Essa ação é parte de um esforço mais amplo para combater imagens sexuais não consensuais, que podem ser usadas para atividades como sextorsão e chantagem. A Meta, proprietária do Facebook e Instagram, compartilha informações sobre anúncios e conteúdos removidos com outras empresas de tecnologia.

A Meta destacou um "crescimento preocupante" da promoção de aplicativos de nudez e afirmou que a remoção dessas publicidades de uma única plataforma não é suficiente.

A empresa também enfrenta críticas globais por não proteger adequadamente adolescentes. Na Austrália, uma nova proibição de mídias sociais para menores de 16 anos entrará em vigor.

De acordo com a Meta, anunciantes de aplicativos de nudez estão mudando estratégias para evitar detecção, usando imagens inofensivas ou criando novos domínios. A Meta desenvolveu tecnologia para identificar esses anúncios, mesmo sem nudez.

No processo, a Meta alega que a Joy Timeline tentou contornar suas regras várias vezes após a remoção de anúncios.