De deepfake a milícia digital: o que diz guia da AGU sobre IA nas Eleições

A Advocacia-Geral da União (AGU), por meio de seu Observatório da Democracia e em parceria com o Tribunal Superior Eleitoral (TSE), divulgou nesta segunda-feira (3) uma cartilha com orientações sobre o uso de ferramentas de inteligência artificial (IA) no contexto político e eleitoral.

O documento estabelece balizas éticas para a utilização da tecnologia por candidatos, partidos, gestores públicos e eleitores, além de listar condutas vedadas pela legislação.

A publicação aborda o avanço de tecnologias capazes de gerar conteúdos automatizados e elenca os principais riscos associados ao seu uso indevido no debate público. Entre as ameaças citadas pela instituição estão a proliferação de notícias falsas, a disseminação de montagens em áudio e vídeo (deepfakes) e a atuação de grupos organizados em redes sociais para a manipulação da opinião pública.

Diretrizes e vedações

Para mitigar impactos negativos do uso de IA, a cartilha apoia-se em cinco pilares principais: transparência sobre a origem dos conteúdos, observância à legislação vigente, proteção a dados pessoais, responsabilidade pelos impactos gerados e combate à desinformação.

Segundo o material, a utilização de sistemas de IA deve ser explicitamente sinalizada em qualquer peça divulgada, mantendo-se a exigência de revisão humana sobre o material final.

No âmbito eleitoral, a cartilha relembra que é proibido o uso de deepfakes para simular falas ou ações de candidatos e autoridades — veto que se estende a imagens de pessoas falecidas ou figuras fictícias. O documento veda ainda o uso de automação para a simulação de pessoas reais sem aviso prévio e a tomada de decisões automatizadas de alto impacto sem supervisão humana.

O alerta para as milícias digitais

Um dos pontos de maior atenção no guia é a atuação de grupos organizados que utilizam a inteligência artificial para fins antidemocráticos.

A cartilha define como milícias digitais as estruturas coordenadas que empregam IA para disparar desinformação em massa, atacar instituições e influenciar indevidamente a opinião pública.

Para conter a ação dessas redes, a publicação orienta que eleitores evitem compartilhar ou amplificar ataques coordenados, ainda que pareçam legítimos, e aponta a importância do letramento digital para que o cidadão consiga identificar as táticas de manipulação.

O texto reforça que conteúdos ilícitos produzidos por esses grupos devem ser imediatamente denunciados às plataformas e às autoridades competentes.

Responsabilização e fiscalização

A AGU estabelece que a contenção da desinformação envolve diferentes esferas da sociedade. De acordo com a publicação:

• Órgãos públicos têm o dever de garantir transparência na aplicação de IA, resguardar dados de cidadãos e regulamentar o setor.
• Plataformas digitais respondem pela aplicação de termos de uso que coíbam abusos, ataques coordenados e interferência eleitoral.
• Cidadãos e criadores de conteúdo assumem a responsabilidade sobre a checagem da procedência do material antes do compartilhamento e sobre o impacto da difusão de peças geradas por IA.

O documento aponta ainda os canais disponíveis para o recebimento de denúncias sobre abusos ou uso irregular da tecnologia durante o período eleitoral.

As notificações podem ser feitas por meio da Justiça Eleitoral (via portal do TSE ou aplicativo Pardal), o Ministério Público Eleitoral, a organização SaferNet Brasil e os próprios mecanismos de notificação das redes sociais.