O que é racismo algorítmico e por que ele preocupa?

O racismo algorítmico é a reprodução de desigualdades raciais por meio de sistemas automatizados, como algoritmos, inteligência artificial e plataformas digitais. Mesmo sendo tecnologias aparentemente “neutras”, esses sistemas aprendem com dados históricos, decisões humanas e padrões sociais.

E aí que mora o problema: se esses dados carregam preconceitos, o sistema também vai reproduzi-los.

Isso significa que uma IA pode sugerir menos currículos de pessoas negras em processos seletivos, falhar em reconhecer rostos com tons de pele mais escuros ou dificultar o acesso de certos grupos a serviços digitais.

Dependendo de como esses algoritmos e sistemas foram programados para fazer escolhas, eles podem reforçar e perpetuar preconceitos raciais, o que leva a um tratamento injusto e a resultados desiguais para pessoas negras ou asiáticas.

“Uso o termo ‘racismo algorítmico’ para explicar como tecnologias e imaginários sociotécnicos em um mundo moldado pelo privilégio branco fortalecem a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não brancos”, explica o pesquisador Tarcízio Silva.

Por que o racismo algorítmico acontece?

Existem três grandes fatores por trás do racismo algorítmico:

1. Falta de diversidade na tecnologia: a maioria das equipes que desenvolvem sistemas de IA e algoritmos ainda é composta majoritariamente por pessoas brancas. Isso significa que as experiências e necessidades de pessoas negras, indígenas ou asiáticas muitas vezes não são consideradas nos processos de desenvolvimento.
2. Falta de transparência nos critérios usados: alguns algoritmos tomam decisões que nem os próprios desenvolvedores conseguem explicar direito. Sem saber como uma recomendação é feita, como uma triagem é realizada ou como uma pessoa foi rejeitada por um sistema, fica muito difícil identificar e corrigir.
3. Ausência de leis e regulação eficazes: são poucos os países que têm regras claras sobre o uso ético e justo de algoritmos. Isso dificulta a responsabilização de empresas e governos por decisões enviesadas e, na prática, permite que injustiças se perpetuem no mundo digital.

Para enfrentar esse problema, especialistas defendem mais diversidade nas equipes técnicas, mais transparência nos algoritmos e, principalmente, o uso de princípios de justiça social no desenvolvimento tecnológico.

Quais os impactos do racismo algorítmico na sociedade?

O racismo algorítmico não é uma teoria distante, ele afeta a vida real de milhões de pessoas, muitas vezes de forma invisível.

Veja alguns exemplos dos impactos do racismo algorítmico na sociedade:

• Reconhecimento facial com falhas: sistemas usados por empresas, governos e aplicativos têm mais dificuldade em identificar corretamente rostos de pessoas negras. É o que gera abordagens policiais injustas, bloqueio de contas ou até negação de acesso a serviços.
• Filtros com viés estético: plataformas que “embelezam” imagens costumam clarear tons de pele ou afinar traços faciais, reforçando padrões racistas de beleza e apagando a diversidade dos rostos reais.
• Recomendações enviesadas: algoritmos de vagas de emprego, crédito bancário, habitação ou conteúdo online podem excluir, ou priorizar, pessoas com base em critérios que reproduzem discriminações históricas.

CEOs brancos gerados por IA

Pesquisadores da Universidade de Leipzig, em parceria com a Hugging Face, testaram o DALL·E 2 (gerador de imagens por IA) e observaram um padrão.

Ao pedir imagens de “CEO”, 97% dos resultados mostravam homens brancos. Isso revela como até ferramentas criativas reproduzem estereótipos raciais e de gênero.

Como combater o racismo algorítmico?

Não dá para desenvolver sistemas justos se só um grupo está por trás do código. Incluir pessoas negras, indígenas, mulheres, pessoas trans e outras vozes sub-representadas nas equipes de dados e desenvolvimento é o primeiro passo.

Testar, mapear e revisar os impactos de algoritmos, na prática. Isso vale tanto para empresas privadas quanto para políticas públicas.

A ideia de uma “auditoria pública”, como defende o pesquisador Tarcízio Silva, permite que a sociedade civil participe ativamente, apontando falhas e exigindo melhorias.

Como plataformas e empresas podem adotar tecnologia ética e inclusiva?

A adoção de tecnologias mais justas começa com uma decisão estratégica: colocar a equidade no centro do desenvolvimento. Isso significa ir além da performance técnica e pensar no impacto social que cada sistema pode gerar.

Algumas boas práticas que empresas e plataformas podem seguir:

• Diversidade nas equipes: quanto mais plural for o time que projeta algoritmos, maior a chance de que diferentes vivências sejam consideradas e vieses sejam identificados logo no início.
• Testes e validação contínua: nenhum algoritmo é infalível. Por isso, toda empresa precisa revisar regularmente seu funcionamento, com auditorias internas e externas.
• Transparência: deixar claro como as decisões são tomadas e quais critérios são utilizados permite que usuários e especialistas acompanhem possíveis distorções.
• Uso de dados representativos: bancos de dados com recortes diversos ajudam a evitar generalizações injustas e falhas graves.
• Compromissos públicos com equidade: empresas que assumem posicionamentos claros e prestam contas regularmente ganham credibilidade e ajudam a pressionar o setor por avanços reais.