Resumo
O sistema Grok, ferramenta de inteligência artificial da rede social X, está sendo utilizado para gerar imagens sexualizadas falsas de pessoas reais, incluindo menores de idade, através de comandos que alteram fotos comuns.
O levantamento da agência Bloomberg aponta produção de milhares de imagens pornográficas por hora, levando autoridades brasileiras e internacionais a alertarem sobre crimes previstos na legislação, enquanto especialistas defendem punições severas e a Câmara dos Deputados discute um marco regulatório para Inteligência Artificial.
O impacto nas vítimas, especialmente mulheres e crianças, é considerado irreparável, motivando ações de ONGs como a SaferNet e críticas à restrição do uso do Grok apenas para assinantes, pois isso pode incentivar a monetização de conteúdo ilegal.
O sistema Grok, ferramenta de inteligência artificial da rede social X (antigo Twitter), está no centro de uma denúncia por gerar imagens sexualizadas falsas de pessoas reais. O aplicativo, que funciona como um chatbot capaz de editar fotos a partir de comandos de texto, vem sendo utilizado para criar nudez artificial, inclusive de menores de idade.
A plataforma passou a atender pedidos para adicionar biquínis, tornar roupas transparentes e inserir objetos sexuais em corpos retratados em fotos comuns. O cenário provocou reações de autoridades brasileiras e estrangeiras devido à facilidade com que o material é produzido e compartilhado dentro da própria rede social.
Escala da produção e sanções legais
A dimensão do problema foi detalhada por um levantamento da agência Bloomberg, que reportou a criação de 6.700 imagens identificadas como nudez ou sexualmente sugestivas por hora entre os dias 5 e 6 de janeiro. Exemplos reais mostram fotos tiradas em igrejas ou selfies casuais sendo transformadas em imagens de pornografia em poucos instantes.
Pela legislação brasileira, a adulteração de fotos e o compartilhamento de imagens íntimas falsas sem autorização configuram crime. A punição pode atingir tanto a rede social quanto os usuários que solicitam ou replicam o conteúdo.
A advogada Kezia Miranda, especialista em Direito Digital, ressalta que os crimes envolvidos são numerosos e as penas podem ser severas. Atualmente, a Câmara dos Deputados analisa um projeto de lei para criar o marco regulatório da Inteligência Artificial no Brasil, mas o trâmite é considerado lento diante da urgência do tema.
Impacto nas vítimas e monitoramento
Os danos causados pela divulgação de deepfakes são frequentemente irreparáveis. Mariana Karpukovas, vítima desse tipo de crime, relata ter sofrido com mentiras de cunho sexual espalhadas na internet, o que a levou a trancar a faculdade por seis meses.
Mulheres e crianças são os alvos preferenciais dessas manipulações. A SaferNet, ONG de referência em direitos humanos na internet, atua no combate a esses crimes cibernéticos e reforça a necessidade de preparação e investimento em segurança digital para proteger jovens e crianças.
Após a explosão de casos, o X limitou o acesso às ferramentas de criação de imagens do Grok apenas para assinantes do serviço. A medida é criticada por especialistas por, na prática, monetizar a geração de conteúdo que pode ser utilizado para fins ilegais.
Fique bem informado!
Receba gratuitamente as notícias mais importantes do dia direto no seu e-mail
Escolha quais newsletters quer receber