Joy Buolamwini, cientista e fundadora da Liga da Justiça Algorítmica (AJL), identificou um padrão racista em sistemas de reconhecimento facial e passou a cobrar mudanças de empresas de tecnologia. Buolamwini nasceu no Canadá, filha de pais imigrantes de Gana. Ela estudou no MIT (Massachusetts Institute of Technology) e relata que, durante uma pesquisa com robôs, percebeu que um software de reconhecimento facial não conseguia reconhecer o rosto dela. O sistema passou a detectar um rosto quando ela colocou uma máscara branca. Buolamwini afirma que o problema não era um caso isolado e que os sistemas mais avançados do mundo não funcionavam direito com o rosto de pessoas negras. Esse padrão tem efeitos fora do ambiente digital. Um exemplo mencionado é o de Porcha Woodruff, uma mulher negra grávida de oito meses que foi presa nos EUA após um reconhecimento facial errado. Ela entrou em trabalho de parto quando foi detida e hoje move ação por detenção indevida contra a Prefeitura de Detroit. Buolamwini pressionou empresas a reverem suas políticas de reconhecimento facial e convenceu Amazon, IBM e Microsoft a mudarem seus softwares e a revisar práticas ligadas ao uso da tecnologia. Sua pesquisa virou o documentário 'Coded Bias', na Netflix, que investiga vieses de algoritmos. | 
