IA impulsiona denúncias de exploração sexual e difamação nas redes

A exploração sexual com inteligência artificial tem provocado aumento de denúncias de difamação e violência nas redes sociais. A exploração sexual com inteligência artificial ocorre por meio da criação de imagens falsas, muitas vezes com nudez ou seminudismo, a partir de fotos reais divulgadas na internet.

Crianças e adolescentes estão entre as principais vítimas desses crimes digitais. Nos últimos seis meses, ao menos 17 denúncias envolveram estudantes de 12 a 17 anos, em escolas públicas e privadas de 10 capitais brasileiras. O fácil acesso a ferramentas de IA contribui para a rápida disseminação desse tipo de conteúdo nas plataformas digitais.

Segundo os relatos, ferramentas permitem a criação de imagens com alto grau de realismo, inclusive a partir de uma única foto com o rosto visível.

Especialistas alertam que há um mercado voltado à violência sexual contra crianças e adolescentes. A orientação é reduzir a exposição de imagens, utilizar perfis privados e registrar denúncias tanto nas plataformas quanto junto às autoridades policiais. Também é recomendado solicitar a remoção imediata do conteúdo e, se necessário, acionar judicialmente as redes sociais.

Pesquisadores defendem maior responsabilização das plataformas, com transparência sobre regras de moderação e números de conteúdos removidos. A principal cobrança é para que as empresas adotem medidas estruturais que impeçam a produção e a circulação desse material.

Na semana passada, a plataforma X anunciou mudanças para impedir que sua inteligência artificial Grok gere imagens de nudez sem consentimento, especialmente envolvendo crianças. A empresa informou que encaminhou contas suspeitas às autoridades e afirmou trabalhar para enfrentar os desafios impostos pelo avanço rápido da inteligência artificial.