Mulheres são as maiores vítimas de IA do X acusada de criar imagens sexuais
Ferramenta Grok é utilizada para criar pornografia falsa e nudez infantil por meio de inteligência artificial; rede social passou a cobrar pelo serviço
O sistema Grok, ferramenta de inteligência artificial da rede social X (antigo Twitter), está no centro de uma denúncia por gerar imagens sexualizadas falsas de pessoas reais. O aplicativo, que funciona como um chatbot capaz de editar fotos a partir de comandos de texto, vem sendo utilizado para criar nudez artificial, inclusive de menores de idade.
Continua depois da publicidade
A plataforma passou a atender pedidos para adicionar biquínis, tornar roupas transparentes e inserir objetos sexuais em corpos retratados em fotos comuns. O cenário provocou reações de autoridades brasileiras e estrangeiras devido à facilidade com que o material é produzido e compartilhado dentro da própria rede social.
Escala da produção e sanções legais
A dimensão do problema foi detalhada por um levantamento da agência Bloomberg, que reportou a criação de 6.700 imagens identificadas como nudez ou sexualmente sugestivas por hora entre os dias 5 e 6 de janeiro. Exemplos reais mostram fotos tiradas em igrejas ou selfies casuais sendo transformadas em imagens de pornografia em poucos instantes.
Pela legislação brasileira, a adulteração de fotos e o compartilhamento de imagens íntimas falsas sem autorização configuram crime. A punição pode atingir tanto a rede social quanto os usuários que solicitam ou replicam o conteúdo.
Continua depois da publicidade
A advogada Kezia Miranda, especialista em Direito Digital, ressalta que os crimes envolvidos são numerosos e as penas podem ser severas. Atualmente, a Câmara dos Deputados analisa um projeto de lei para criar o marco regulatório da Inteligência Artificial no Brasil, mas o trâmite é considerado lento diante da urgência do tema.
Impacto nas vítimas e monitoramento
Os danos causados pela divulgação de deepfakes são frequentemente irreparáveis. Mariana Karpukovas, vítima desse tipo de crime, relata ter sofrido com mentiras de cunho sexual espalhadas na internet, o que a levou a trancar a faculdade por seis meses.
Mulheres e crianças são os alvos preferenciais dessas manipulações. A SaferNet, ONG de referência em direitos humanos na internet, atua no combate a esses crimes cibernéticos e reforça a necessidade de preparação e investimento em segurança digital para proteger jovens e crianças.
Continua depois da publicidade
Após a explosão de casos, o X limitou o acesso às ferramentas de criação de imagens do Grok apenas para assinantes do serviço. A medida é criticada por especialistas por, na prática, monetizar a geração de conteúdo que pode ser utilizado para fins ilegais.