Enquanto trabalhava em um projeto envolvendo software de reconhecimento facial, Joy Buolamwini, pesquisadora do Media Lab do MIT, descobriu que o algoritmo não conseguia detectar seu rosto, até que ela colocou uma máscara branca. Joy descobriu que a maioria dos programas de inteligência artificial são treinados para identificar padrões baseados em conjuntos de dados que tem viés para pele clara e sexo masculino.
"Coded Bias" (Netflix) é um documentário que explora como algoritmos de IA, onipresentes em publicidade, contratação, serviços financeiros, policiamento e muitos outros campos, podem perpetuar as desigualdades de raça, classe e gênero existentes na sociedade.
