Grok, IA do X, gera imagens sexualizadas de mulheres e crianças
Empresa afirma que a causa foi devido a falhas nos mecanismos de proteção
A ferramenta de inteligência artificial do X, Grok, referiu na última sexta-feira (2) a geração de imagens que sexualizam mulheres e crianças como “falhas nos mecanismos de proteção" . A plataforma tem sido alvo de denúncias dos usuários da rede social.
Continua depois da publicidade
A influenciadora Lauren Escobar descobriu, depois de receber alertas de seguidores, que fotos dela de biquíni estavam sendo alteradas com I.A. para criar conteúdo erotizado.
"Vieram falar comigo. Me chamaram no Insta falaram e falaram: 'Lauren, sei que é chato, mas deixa eu te contar... tem gente se passando por você'. Aí eu pensei, ok, mais um para eu anexar o B.O. para a gente tentar descobrir quem é, mas o rapaz me falou: 'Olha, mas na verdade são fotos suas nuas, que eles estão tentando comercializar de algum jeito", relatou. Pelas redes sociais, outras influenciadoras têm compartilhado casos semelhantes.
Um dos casos mais repercutidos foi o da atriz Nell Fisher, de 14 anos, que interpreta uma das personagens da série da Netflix Stranger Things. Usuários pediam ao Grok que colocassem um "biquíni pequeno" no lugar da vestimenta dela. As fotos geradas ficam públicas no X.
Continua depois da publicidade
Um levantamento feito pela consultoria Genevieve Oh, que pesquisa redes sociais e deepfakes, aponta que o chatbot de Elon Musk gerou, por hora, milhares de imagens de pessoas nuas ou sexualizadas. A análise de 24 horas da consultoria mostrou que a ferramenta criou cerca de 6 mil e 700 fotos sexualmente sugestivas.
No Brasil, a deputada federal Erika Hilton acionou o Ministério Público Federal para banir o Grok, pelas acusações de direito à imagem e pornografia infantil até que uma investigação seja feita. Em muitos casos, os usuários que denunciaram recebiam a resposta de que a plataforma não infringia direitos.
A professora, doutora e especialista em direito digital Patricia Peck explica que a legislação brasileira protege rigorosamente vítimas em casos como esses e que a plataforma deve, sim, responder por isso.
Continua depois da publicidade
"Na hora em que ele (Grok) faz a moderação do conteúdo a partir da denúncia e responde o que não fere os termos de uso, ele acabou de se envolver diretamente na responsabilidade, porque ele acabou de tomar a decisão de manter um conteúdo que fere as leis brasileiras. E aí, por isso, a não remoção imediata do conteúdo é a segunda camada de evidência de responsabilidade do Grok. A primeira é a falta de ação preventiva e proativa para coibir, para evitar que isso aconteça, inclusive o fato de você ter que fazer a denúncia de forma aberta", explica.