Desmascarando a I.A: minha missão para proteger o que é humano em um mundo de máquinas

Para a maioria de nós, parece que os recentes avanços na Inteligência Artificial surgiram do nada, representando ameaças sem precedentes para a humanidade. Mas para a Joy Buolamwini, que está na vanguarda das pesquisas sobre IA, esse momento vem sendo construído há muito tempo. Depois de experimentos com robótica no ensino médio em Memphis e desenvolver aplicativos móveis na Zâmbia como bolsista Fulbright, Buolamwini seguiu sua antiga paixão por ciência da computação, engenharia e arte, ingressando no MIT em 2015. Como aluna de pós-graduação na Future Factory, ela realizou pesquisas inovadoras que expuseram o viés racial e de gênero em programas de IA de gigantes da tecnologia no mundo todo. "Desmascarando a IA" vai além das manchetes sobre os riscos existenciais produzidos pelas grandes empresas de tecnologia. É a história extraordinária de como Buolamwini descobriu o que ela chama de "o olhar codificado" — a evidência de discriminação e exclusão codificadas em produtos tecnológicos e como ela impulsionou o movimento para prevenir os danos da IA, fundando a Liga da Justiça Algorítmica. Aplicando uma perspectiva interseccional tanto à indústria tecnológica quanto ao setor de pesquisa, ela demonstra como o racismo, o sexismo, o colorismo e o capacitismo podem se sobrepor e deixar grandes parcelas da humanidade "excodificadas" e, portanto, vulneráveis em um mundo que adota rapidamente ferramentas de IA sem questionar. Os computadores, ela nos lembra, são reflexos tanto das aspirações quanto das limitações das pessoas que os criam. Incentivando especialistas e não especialistas a se unirem a essa luta, Buolamwini escreve: "A crescente fronteira dos direitos civis exigirá justiça algorítmica. A IA deve ser para o povo e pelo povo, não apenas para alguns privilegiados."