Big Techs lucram com apps de IA de pornografia falsa

Uma denúncia grave nos Estados Unidos revela que as lojas virtuais das principais empresas de tecnologia do mundo, as chamadas Big Techs, estão lucrando com a venda de aplicativos que utilizam Inteligência Artificial para produzir pornografia.

As ferramentas, conhecidas como "deepfake porn" ou "aplicativos de nudes", funcionam removendo digitalmente a roupa das pessoas ou inserindo rostos de indivíduos em corpos e poses sexualizadas, na maioria das vezes utilizando imagens de mulheres sem que elas saibam ou autorizem.

De acordo com um estudo realizado por uma organização não governamental norte-americana focada na segurança digital, mais de cem ferramentas deste tipo estão disponíveis na Apple Store e na Play Store.

A presença desses softwares ocorre apesar das políticas declaradas do Google e da Apple, que proíbem explicitamente conteúdos sexuais explícitos em suas plataformas. O relatório aponta que esses aplicativos já somam mais de 700 milhões de downloads globalmente, gerando uma receita estimada em quase 110 milhões de dólares.

Riscos à privacidade e crimes digitais

As consequências do uso dessas tecnologias extrapolam a violação da intimidade. Além de violar a privacidade, o uso de IA para adulterar imagens causa danos irreparáveis à reputação das vítimas. O material gerado abre caminho para crimes graves, como chantagem e extorsão, caso as fotos e vídeos circulem em redes sociais ou grupos fechados de mensagens.

Embora o Google e a Apple afirmem que parte dos aplicativos listados no estudo foi removida, muitas ferramentas permanecem ativas ou são rapidamente reinstaladas sob outros nomes, driblando os sistemas de moderação das lojas virtuais.

Falta de regulamentação e investigação internacional

A preocupação com a pornografia ilegal gerada por IA cresceu após episódios envolvendo a ferramenta Grok, disponível na plataforma X (antigo Twitter). A tecnologia inundou a internet com imagens manipuladas de cunho sexual, inclusive utilizando rostos de crianças. O caso já motivou investigações formais no Reino Unido e na União Europeia.

Nos Estados Unidos, no entanto, o cenário jurídico é mais complexo. Eduardo Barão ressalta que ainda não existe uma lei federal no país que responsabilize diretamente as plataformas pelos conteúdos publicados por terceiros. Essa lacuna legislativa dificulta o controle sobre a disseminação de "deepfakes" e a punição das empresas que lucram indiretamente com a exploração da imagem alheia.