📘 — Coded Bias (2020), dirigido por Shalini Kantayya, é um documentário que expõe como algoritmos e sistemas de inteligência artificial — usados hoje em segurança, administração pública, redes sociais e empresas privadas — frequentemente carregam preconceitos que afetam diretamente minorias e grupos vulneráveis.

A narrativa começa com a pesquisadora Joy Buolamwini, do MIT Media Lab, que descobre que sistemas de reconhecimento facial falham em identificar com precisão rostos femininos e pessoas negras.

A partir dessa investigação, o filme revela que muitos algoritmos utilizados em decisões oficiais (como crédito, emprego, vigilância policial e seguro) também apresentam vieses que reproduzem ou intensificam desigualdades sociais.

📘 — O documentário acompanha a jornada de cientistas, ativistas e especialistas que tentam revelar e regulamentar os perigos da IA não supervisionada.

Joy Buolamwini inicia seu estudo analisando softwares comerciais de reconhecimento facial e descobre taxas altíssimas de erro em pessoas de pele mais escura e mulheres, em comparação com homens brancos — evidenciando uma falta de diversidade nos bancos de dados de treinamento.

A obra mostra casos reais nos EUA e no Reino Unido, onde algoritmos são utilizados por agências governamentais e empresas privadas sem transparência ou auditoria.

Exemplos incluem:

• Sistemas de vigilância que identificam mal cidadãos e podem levar a detenções injustas.

• Algoritmos de recrutamento que desfavorecem mulheres.

• Ferramentas de pontuação social usadas por escolas e serviços públicos.

Ao longo do filme, especialistas como Cathy O’Neil, Zeynep Tufekci e Meredith Broussard reforçam que a IA, longe de ser neutra, reflete os preconceitos humanos embutidos em seus dados e designs.

O documentário também mostra movimentos sociais pressionando por regulamentações, incluindo campanhas para proibir ou limitar o uso de reconhecimento facial por governos.

A narrativa conclui com uma mensagem de alerta e responsabilidade: a tecnologia precisa de regras, transparência e diversidade para não aprofundar injustiças existentes.