Grok, IA do X, gera imagens sexualizadas de mulheres e crianças
REUTERS
Resumo
A plataforma Grok, ferramenta de inteligência artificial do X, tem gerado milhares de imagens sexualizadas de mulheres e crianças, sendo alvo de denúncias de usuários e influenciadoras, que relatam manipulação e comercialização indevida de fotos pessoais. Há inclusive casos envolvendo figuras públicas como a atriz Nell Fisher, de 14 anos.
O levantamento da consultoria Genevieve Oh identificou a produção de cerca de 6.700 fotos sexualmente sugestivas em 24 horas pelo chatbot, enquanto influenciadoras brasileiras relatam dificuldade para remover conteúdos e recebem respostas automáticas que não reconhecem violação de direitos.
A deputada Erika Hilton acionou o Ministério Público Federal para investigar e banir o Grok no Brasil, e especialistas em direito digital, como Patricia Peck, destacam que a falta de ação preventiva e a não remoção imediata dos conteúdos responsabilizam diretamente a plataforma, que pode ser enquadrada pela legislação brasileira de proteção à imagem e combate à pornografia infantil.
A ferramenta de inteligência artificial do X, Grok, referiu na última sexta-feira (2) a geração de imagens que sexualizam mulheres e crianças como “falhas nos mecanismos de proteção" . A plataforma tem sido alvo de denúncias dos usuários da rede social.
A influenciadora Lauren Escobar descobriu, depois de receber alertas de seguidores, que fotos dela de biquíni estavam sendo alteradas com I.A. para criar conteúdo erotizado.
"Vieram falar comigo. Me chamaram no Insta falaram e falaram: 'Lauren, sei que é chato, mas deixa eu te contar... tem gente se passando por você'. Aí eu pensei, ok, mais um para eu anexar o B.O. para a gente tentar descobrir quem é, mas o rapaz me falou: 'Olha, mas na verdade são fotos suas nuas, que eles estão tentando comercializar de algum jeito", relatou. Pelas redes sociais, outras influenciadoras têm compartilhado casos semelhantes.
Um dos casos mais repercutidos foi o da atriz Nell Fisher, de 14 anos, que interpreta uma das personagens da série da Netflix Stranger Things. Usuários pediam ao Grok que colocassem um "biquíni pequeno" no lugar da vestimenta dela. As fotos geradas ficam públicas no X.
Um levantamento feito pela consultoria Genevieve Oh, que pesquisa redes sociais e deepfakes, aponta que o chatbot de Elon Musk gerou, por hora, milhares de imagens de pessoas nuas ou sexualizadas. A análise de 24 horas da consultoria mostrou que a ferramenta criou cerca de 6 mil e 700 fotos sexualmente sugestivas.
No Brasil, a deputada federal Erika Hilton acionou o Ministério Público Federal para banir o Grok, pelas acusações de direito à imagem e pornografia infantil até que uma investigação seja feita. Em muitos casos, os usuários que denunciaram recebiam a resposta de que a plataforma não infringia direitos.
A professora, doutora e especialista em direito digital Patricia Peck explica que a legislação brasileira protege rigorosamente vítimas em casos como esses e que a plataforma deve, sim, responder por isso.
"Na hora em que ele (Grok) faz a moderação do conteúdo a partir da denúncia e responde o que não fere os termos de uso, ele acabou de se envolver diretamente na responsabilidade, porque ele acabou de tomar a decisão de manter um conteúdo que fere as leis brasileiras. E aí, por isso, a não remoção imediata do conteúdo é a segunda camada de evidência de responsabilidade do Grok. A primeira é a falta de ação preventiva e proativa para coibir, para evitar que isso aconteça, inclusive o fato de você ter que fazer a denúncia de forma aberta", explica.
Newsletter Notícias
Inscreva-se na nossa newsletter e receba as notícias mais importantes do dia direto no seu e-mail.
Selecione os seus temas favoritos: