Racismo algorítmico: inteligência artificial e discriminação nas redes digitais

Reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito são apenas algumas das aplicações que usam sistemas de inteligência artificial na atualidade.

Mas e o que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas?

E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito?

Neste título da coleção Democracia Digital, o pesquisador e mestre em Comunicação Tarcízio Silva busca observar a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação.

O racismo algorítmico se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo.

Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam.

O autor investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial.

Editada exclusivamente para o formato digital, a coleção Democracia Digital é organizada pelo professor e sociólogo Sergio Amadeu da Silveira.