📘 — Coded Bias (2020), dirigido por Shalini Kantayya, é um documentário que expõe como algoritmos e sistemas de inteligência artificial — usados hoje em segurança, administração pública, redes sociais e empresas privadas — frequentemente carregam preconceitos que afetam diretamente minorias e grupos vulneráveis.
A narrativa começa com a pesquisadora Joy Buolamwini, do MIT Media Lab, que descobre que sistemas de reconhecimento facial falham em identificar com precisão rostos femininos e pessoas negras.
A partir dessa investigação, o filme revela que muitos algoritmos utilizados em decisões oficiais (como crédito, emprego, vigilância policial e seguro) também apresentam vieses que reproduzem ou intensificam desigualdades sociais.
📘 — O documentário acompanha a jornada de cientistas, ativistas e especialistas que tentam revelar e regulamentar os perigos da IA não supervisionada.
Joy Buolamwini inicia seu estudo analisando softwares comerciais de reconhecimento facial e descobre taxas altíssimas de erro em pessoas de pele mais escura e mulheres, em comparação com homens brancos — evidenciando uma falta de diversidade nos bancos de dados de treinamento.
A obra mostra casos reais nos EUA e no Reino Unido, onde algoritmos são utilizados por agências governamentais e empresas privadas sem transparência ou auditoria.
Exemplos incluem:
-
Sistemas de vigilância que identificam mal cidadãos e podem levar a detenções injustas.
-
Algoritmos de recrutamento que desfavorecem mulheres.
-
Ferramentas de pontuação social usadas por escolas e serviços públicos.
Ao longo do filme, especialistas como Cathy O’Neil, Zeynep Tufekci e Meredith Broussard reforçam que a IA, longe de ser neutra, reflete os preconceitos humanos embutidos em seus dados e designs.
O documentário também mostra movimentos sociais pressionando por regulamentações, incluindo campanhas para proibir ou limitar o uso de reconhecimento facial por governos.
A narrativa conclui com uma mensagem de alerta e responsabilidade: a tecnologia precisa de regras, transparência e diversidade para não aprofundar injustiças existentes.
