Grok, IA do X, gera imagens sexualizadas de mulheres e crianças
REUTERS
O avanço tecnológico das ferramentas de inteligência artificial (IA) tem impulsionado uma escalada de crimes de difamação e exploração sexual nas redes sociais. A facilidade de acesso a sistemas que geram imagens realistas a partir de fotos comuns permitiu a criação de conteúdos falsos de nudez, vitimando principalmente crianças e adolescentes entre 12 e 17 anos. Nos últimos seis meses, o país registrou ao menos 17 denúncias formais envolvendo alunos de escolas públicas e privadas em dez capitais brasileiras.
O uso do Grok, assistente de inteligência artificial da plataforma X (antigo Twitter), exemplifica como essas imagens são produzidas e compartilhadas sem restrições eficazes. A tecnologia permite que uma fotografia simples, tirada em ambientes cotidianos como o trabalho ou um passeio em família, seja manipulada para criar cenas de exposição sexual com realismo impressionante. O cenário é agravado pelo fato de que esse material falso pode ser disseminado em redes de pedofilia organizadas em comunidades digitais.
Desafios na proteção e responsabilidade das plataformas
A diretora da SaferNet, Juliana Cunha, alerta que muitas dessas plataformas são treinadas com conteúdos pornográficos e imagens impróprias, o que facilita a produção de materiais ofensivos. Como medida imediata de proteção, a especialista recomenda que pais e responsáveis mantenham os perfis de crianças e adolescentes fechados e evitem a publicação de fotos que exponham claramente os rostos dos menores.
Para a diretora de pesquisa do InterLab, Clarice Tavares, a geração de conteúdo sexual por IA deveria ser classificada como uma atividade de altíssimo risco e banida do acesso público geral. Ela defende que as empresas de tecnologia devem ser responsabilizadas judicialmente pela circulação desses conteúdos, embora o processo de responsabilização das plataformas ainda avance de forma lenta no sistema jurídico.
Como agir em casos de exposição
A orientação principal para as vítimas é a formalização imediata da denúncia. O procedimento deve ser realizado tanto dentro da plataforma onde o conteúdo foi identificado quanto em delegacias de polícia, solicitando a remoção urgente das imagens. A preservação de provas é essencial para que a rede social possa ser acionada judicialmente.
A estrutura de segurança digital deve seguir um rigoroso checklist para garantir que a informação chegue ao público de forma clara e segura. O título da matéria, por exemplo, deve refletir fielmente o conteúdo sem recorrer a sensacionalismos
Fique bem informado!
Receba gratuitamente as notícias mais importantes do dia direto no seu e-mail
Escolha quais newsletters quer receber