GENDER BIAS IN CRITICAL LINGUISTICS: ALGORITHMIC DISCRIMINATION AGAINST TRANSGENDER PEOPLE IN PUBLIC POLICY SYSTEMS
DOI:
https://doi.org/10.56238/arev7n8-047Keywords:
Critical Linguistics, Gender Bias, Artificial Intelligence (AI), Algorithmic DiscriminationAbstract
The article investigates gender bias in critical linguistics, focusing on how artificial intelligence (AI) algorithms reproduce and amplify stereotypes against transgender people in priority areas such as health, education, and employment. By analyzing, in an interdisciplinary manner, the relationships between language, power, and technology, the main objective of the study is to identify the mechanisms that lead to algorithmic discrimination and discuss critical approaches to mitigate such biases. The methodology emphasizes debiasing methods, which are techniques for correcting biases in informational models that use AI.
Downloads
References
ARAÚJO, Júlio; DE ARAÚJO, Júlio Cézar Dantas. Racismo algorítmico e inteligência artificial: uma análise crítica multimodal. Revista Linguagem em Foco, v. 16, n. 2, p. 89–109. 2024. DOI: https://doi.org/10.46230/lef.v16i2.13108
BOURDIEU, Pierre et al. (Ed.). Bourdieu: critical perspectives. University of Chicago Press. 1993.
CALISKAN, Aylin; BRYSON, Joanna J.; NARAYANAN, Arvind. Semantics derived automatically from language corpora contain human-like biases. Science, v. 356, n. 6334, p. 183–186. 2017 DOI: https://doi.org/10.1126/science.aal4230
DE TONI JUNIOR, Claudio Noel. Dispositivos de dominações: O capital biopolítica de dominações. Humanidades & Inovação, v. 11, n. 3, p. 227–240. 2024.
DEV, Sunipa et al. Harms of gender exclusivity and challenges in non-binary representation in language technologies. arXiv preprint arXiv:2108.12084. 2021. DOI: https://doi.org/10.18653/v1/2021.emnlp-main.150
GONEN, Hila; GOLDBERG, Yoav. Lipstick on a pig: Debiasing methods cover up systematic gender biases in word embeddings but do not remove them. arXiv preprint arXiv:1903.03862. 2019. DOI: https://doi.org/10.18653/v1/N19-1061
LIMA VIANA, Guilherme Manoel. Desigualdade na era digital: Como a discriminação algorítmica afeta os transexuais. Inova Jur., v. 2, n. 1, 2023. DOI: https://doi.org/10.36704/inovajur.v2i1.7534
FERNANDES, Erika Ribeiro; GRAGLIA, Marcelo Augusto Vieira. Inteligência Humana e Inteligência Artificial e os desafios dos vieses nos algoritmos de IA. RISUS–Journal on Innovation and Sustainability, São Paulo, v. 15, n. 1, p. 133–142, 2024. DOI: https://doi.org/10.23925/2179-3565.2023v15i1p133-142
FERNANDES, Dora Lorejan Avila et al. Promoção de Igualdade de Gênero: O uso de Inteligência Artificial em Processos de Recrutamento e Seleção em Empresas Brasileiras. FGV RIC Revista de Iniciação Científica, v. 3. 2022.
FOUCAULT, Michel. Qu'est-ce que la Critique?Bulletin de la Société Française de Philosophie, Paris, t. LXXXIV, année 84, n.2, p.35–63, avr./juin. 1990.
FREITAG, Raquel Meister Ko. Diversidade Linguística e inclusão ao digital: desafios para uma ia brasileira. arXiv preprint arXiv:2411,01259, 2024. DOI: https://doi.org/10.5753/laai-ethics.2024.32476
GONTIJO, Danielly Cristina Araújo; VOGEL, Stefani Juliana. Desafios de gênero na tecnologia e políticas para a inclusão. . In: IV Congresso internacional de direitos humanos de Coimbra: Uma visão transdiciplinar. p. 93. 2024. DOI: https://doi.org/10.29327/1450775.9-8
GROS, Frédéric. A parrhesia em Foucault (1982–1984). GROS, Fréderic et al. 2004. DOI: https://doi.org/10.3917/puf.gros.2004.01
HASHIGUTI, Simone; FAGUNDES, Isabella Zaiden Zara. O algoritmo como materialidade discursiva em um contexto de educação Linguística. Letras & letras. 2022. DOI: https://doi.org/10.14393/LL63-v38-2022-27
KOTEK, Hadas; DOCKUM, Rikker; SUN, David. Gender bias and stereotypes in large language models. In: Proceedings of the ACM collective intelligence conference, p. 12–24. 2023. DOI: https://doi.org/10.1145/3582269.3615599
MATIAS, João Luís Nogueira; DE MORAIS JÚNIOR, Ricardo Antônio Maia. Discriminação algorítmica na relação de emprego: eficiência econômica, inteligência artificial e fragilidade do empregado. Revista do Tribunal Superior do Trabalho, v. 90, n. 2, p. 128–147. 2024. DOI: https://doi.org/10.70405/rtst.v90i2.67
O'NEIL, Cathy. Weapons of math destruction. How big data increases, inequality and threatens democracy. Crown, 2017.
RAFAELA SILVA, Mariah. Orbitando telas… Sur: International Journal on Human Rights/Revista Internacional de Direitos Humanos, v. 18, n. 31, 2021.
REPO, Jemima. The biopolitics of gender. Oxford University Press. 2015. DOI: https://doi.org/10.1093/acprof:oso/9780190256913.001.0001
SALEIRO, Pedro et al. Aequitas: A bias and fairness audit toolkit. arXiv preprint arXiv: 1811.05577 2018.
FRAZÃO, Ana. Transparência de algoritmos x segredo de empresa. 2021.
SALMORIA, Camila Henning; RAMOS, Wanessa Assunção. Discriminação algorítimica: desvendando a representação de pessoas trans e queer por modelos de IA geradores de imagem. Revista CNJ, Brasília, v. 8, n. 2, p. 211–226. 2024. DOI: 10.54829/revistacnj.v8i2.618. Disponível em: https://www.cnj.jus.br/ojs/revista-cnj/article/view/618. Acesso em: 9 jul. 2025. DOI: https://doi.org/10.54829/revistacnj.v8i2.618
SANTOS, Rodrigo Coimbra; GRAMINHO, Vivian Maria Caxambu. Discriminação algorítmica nas relações de trabalho e princípios da Lei Geral De Proteção De Dados. Sequência (Florianópolis), v. 45, n. 96, p. e96294. 2024. DOI: https://doi.org/10.5007/2177-7055.2024.e96294
TASO, Fernanda Tiemi de S.; REIS, Valéria Q.; MARTINEZ, Fábio HV. Discriminação algorítmica de gênero: Estudo de caso e análise no contexto brasileiro. In: Workshop sobre as Implicações da Computação na Sociedade (WICS). SBC, 2023. p. 13–25. 2023. DOI: https://doi.org/10.5753/wics.2023.229980
VEYNE, Paul. Foucault: seu pensamento, sua pessoa. Civilização Brasileira. 2024.
YU, Chen. Gender Inequality in the Age of AI: Predictions, Perspectives, and Policy Recommendations. Center for Open Science. 2024. DOI: https://doi.org/10.31219/osf.io/5zrh9
ZUIDERVEEN BORGESIUS, Frederik et al. Discrimination, artificial intelligence, and algorithmic decision-making. Council of Europe, Directorate General of Democracy, v. 42. 2018.
