Aplicativos capazes de "despir" vítimas ainda estão disponíveis nas lojas do Google e da Apple.

Aplicativos que permitem aos usuários criar fotos "nuas" de pessoas reais geradas por IA ainda estão disponíveis nas lojas de aplicativos da Apple e do Google.

Criar deepfakes com conteúdo sexual explícito é ilegal no Reino Unido após a indignação causada pelo uso do Grok por Elon Musk para gerar imagens sexualizadas de mulheres e crianças.

Mas o jornal The Independent descobriu que vários aplicativos que podem ser usados ​​para "apagar" fotos ainda podem ser baixados das duas maiores lojas de aplicativos do país.

Isso ocorre após uma investigação do Technology Transparency Project (TTP) ter descoberto 55 aplicativos que permitem aos usuários remover digitalmente as roupas de mulheres e exibi-las total ou parcialmente nuas, ou vestindo roupas mínimas, na versão americana da Google Play Store. Da mesma forma, 47 aplicativos semelhantes foram encontrados disponíveis na App Store da Apple nos EUA.

Uma pesquisa realizada pelo The Independent mostrou que vários aplicativos semelhantes, além daqueles mencionados na pesquisa da TTP, também estão disponíveis nas versões britânicas das lojas de aplicativos.

A política da Google Play Store sobre conteúdo impróprio afirma: “Não permitimos aplicativos que contenham ou promovam conteúdo sexual ou obsceno, incluindo pornografia, ou qualquer conteúdo ou serviço destinado a proporcionar gratificação sexual.

Não permitimos aplicativos ou conteúdo de aplicativos que pareçam promover ou solicitar um ato sexual em troca de compensação. Não permitimos aplicativos que contenham ou promovam conteúdo associado a comportamento sexual predatório ou que distribuam conteúdo sexual não consensual.

A política da App Store da Apple afirma que os aplicativos "não devem incluir conteúdo ofensivo, insensível, perturbador, que tenha a intenção de causar repulsa, de gosto excepcionalmente ruim ou simplesmente assustador".

Ele afirmou que a lei proíbe "material explicitamente sexual ou pornográfico", definido como "descrições ou exibições explícitas de órgãos ou atividades sexuais destinadas a estimular sentimentos eróticos em vez de estéticos ou emocionais".

Mas ambas as plataformas hospedavam aplicativos que permitiam a remoção digital de fotografias de mulheres.

Um aplicativo destacado na investigação da TTP foi capaz de gerar um vídeo de uma mulher tirando a blusa e dançando a partir de uma foto que havia sido carregada. O aplicativo ainda estava disponível na Apple App Store e na Google Play Store na tarde de sexta-feira e já havia sido baixado mais de cinco milhões de vezes.

Outro aplicativo disponível na Google Play Store anuncia a possibilidade de "experimentar" roupas e mostra imagens de mulheres de biquíni.

A Apple afirmou ter removido 28 aplicativos identificados pela TTP em seu relatório e contatado os desenvolvedores dos demais para dar-lhes a oportunidade de corrigir as violações das diretrizes. O Google também parece ter removido alguns aplicativos.

Após a controvérsia envolvendo o Grok, ativistas pelos direitos das mulheres, incluindo as organizações Refuge, Women's Aid e Womankind Worldwide, afirmaram que o aumento "preocupante" do abuso de imagens íntimas por meio de inteligência artificial tem consequências "perigosas" para mulheres e meninas, incluindo sua segurança e saúde mental.

Emma Pickering, diretora de combate ao abuso facilitado pela tecnologia e empoderamento econômico da organização beneficente Refuge, afirmou: “Com a evolução da tecnologia, a segurança de mulheres e meninas depende de uma regulamentação mais rigorosa em relação ao abuso baseado em imagens, sejam elas reais ou deepfakes, bem como de treinamento especializado para promotores e policiais.

“As mulheres têm o direito de usar a tecnologia sem medo de abusos e, quando esse direito é violado, as sobreviventes devem ter acesso a uma justiça célere e a proteções robustas.”