A Inteligência Artificial (IA) avança rapidamente, prometendo revolucionar a maneira como trabalhamos e interagimos com o mundo. No entanto, essa empolgação deve ser acompanhada de uma análise crítica dos vieses embutidos nos algoritmos, especialmente o viés de gênero, que pode perpetuar e amplificar desigualdades preexistentes, limitando o acesso a oportunidades e recursos de forma justa para diversas pessoas.
A escolha predominante de vozes femininas para assistentes virtuais, como Siri, Alexa e Assistente do Google, não é aleatória. O livro "Mulheres Invisíveis: o Viés dos Dados em um Mundo Projetado para Homens", de Caroline Criado Perez, argumenta que essa decisão reforça o estereótipo de mulheres em papéis subordinados e de suporte. Perez destaca que essa escolha de design contribui para a manutenção de normas culturais que veem as mulheres como propensas a servir. Esse viés se torna ainda mais evidente em situações onde esses assistentes respondem passivamente a comentários agressivos e sexuais, como relatado em uma pesquisa da UNESCO intitulada "Eu Coraria Se Eu Pudesse". O relatório usa a metáfora do "corar" para destacar como a tecnologia, mesmo sem capacidade para sentir vergonha, reflete as desigualdades de gênero presentes na sociedade e no campo digital. A pesquisa investiga a lacuna de gênero nas habilidades digitais e propõe soluções para incentivar a participação feminina na tecnologia, combatendo a perpetuação de estereótipos prejudiciais.
No contexto educacional, o impacto desse viés é preocupante. O livro "Algoritmos da Opressão", de Safiya Noble, relata um experimento em que estudantes que interagem com assistentes virtuais com personalidades femininas internalizam a ideia de que mulheres desempenham papéis de apoio, são submissas e devem tolerar qualquer tipo de comentário sem reagir. Essa internalização pode influenciar o comportamento dos estudantes, levando-os a reproduzir esses padrões de comportamento com outras mulheres em suas vidas.
Em 2018, a Amazon enfrentou críticas por seu algoritmo de recrutamento que discriminava mulheres. Treinado com dados históricos de contratações da empresa, o sistema penalizava currículos que continham palavras, termos ou nomes femininos, ou qualquer referência a atividades e cursos historicamente associados a mulheres. Esse caso, amplamente discutido em estudos sobre vieses em IA, exemplifica como dados históricos, que refletem desigualdades de gênero, podem ser usados para perpetuar e até mesmo agravar essas desigualdades em vez de corrigi-las. No livro "Algoritmos de Destruição em Massa", Cathy O'Neil alerta para o perigo de algoritmos em decisões importantes, como contratações, transformando desigualdades sociais em regras digitais imutáveis. A falsa sensação de neutralidade e eficiência dos algoritmos mascara o fato de que eles podem estar codificando e perpetuando preconceitos, criando um ciclo vicioso de discriminação.
Um estudo do Oxford Internet Institute, intitulado "Gênero, Representação e Participação Online", analisou como algoritmos de busca, principalmente do Google, representam profissões de forma estereotipada. Ao buscar imagens de profissões como "cientista" ou "engenheiro", a maioria dos resultados mostra homens brancos, reforçando a ideia de que essas áreas são predominantemente masculinas. Por outro lado, buscas por imagens de profissões como "enfermeira" ou "professora" mostram majoritariamente mulheres, perpetuando estereótipos de gênero. Essa representação enviesada pode influenciar, desde cedo, a percepção de crianças e adolescentes sobre os papéis de gênero, afastando meninas de áreas como ciência e tecnologia. A ausência de representatividade cria uma barreira implícita, sugerindo que certos campos não são para elas.
Em seu livro "Artificial Unintelligence", Meredith Broussard argumenta que os erros dos algoritmos não são meros inconvenientes, mas falhas autorizadas pelos desenvolvedores que criam esses sistemas. A escolha de usar dados históricos enviesados e a falta de diversidade nas equipes de desenvolvimento contribuem para a marginalização de certos grupos. A crítica e a compreensão de como os vieses de gênero afetam a IA são cruciais para o desenvolvimento de práticas e políticas que garantam uma tecnologia mais justa e inclusiva. A atenção aos dados utilizados, às intenções por trás das aplicações e a busca por equipes de desenvolvimento mais diversas são passos essenciais para construir um futuro onde a tecnologia beneficie a todos, promovendo não apenas o desenvolvimento tecnológico, mas também o social e humano.
