O DESAFIO ÉTICO DA IA NA FORMAÇÃO HUMANA: DIRETRIZES PARA UMA EDUCAÇÃO RESPONSIVA E INCLUSIVA
DOI:
https://doi.org/10.56238/arev7n11-241Palavras-chave:
Ética, Formação Humana, Inclusão, Inteligência Artificial, ResponsividadeResumo
O uso de inteligência artificial (IA) na Educação de crianças, jovens e adultos tem suscitado questões éticas, especialmente com o advento de ferramentas avançadas como o ChatGPT, da Open AI, que têm a pretensão de se passar por textos supostamente humanos, quando, de fato, se constituem modelos de linguagem generativos que escamoteiam as noções de autoria e veridicção. O uso indiscriminado dessa tecnologia como assistente para a formação humana e acadêmica, bem como para a produção e revisão de textos acadêmicos, levanta preocupações sobre a originalidade e a integridade das informações produzidas. Nessa linha, busca-se refletir acerca dos impactos éticos do uso de ferramentas de IA em contextos educacionais e acadêmicos, com ênfase na necessidade de diretrizes para sua utilização responsável, transparente e equitativa. Trata-se de uma pesquisa de abordagem qualitativa, natureza aplicada, objetivos exploratórios e procedimentos bibliográficos com base em revisão narrativa de literatura, utilizando-se de artigos científicos, livros referenciais e documentos de organizações internacionais selecionados de acordo com o critério de adequação ao tema e seu tratamento. Estudos recentes demonstram preocupações com a questão ética do uso de ferramentas de IA, particularmente com privacidade e proteção dos dados, viés algorítmico, transparência e aplicabilidade e autonomia e controle humano. O tema foi abordado pelas categorias: 1) dilemas éticos e epistêmicos; 2) princípios de transparência, justiça e inclusão; e 3) marcos regulatórios e na propositura responsiva, indicando que há fragilidades na dimensão autorial diante do uso de IA, mas que uma resposta política, tecnologia e educacional deve pautar-se pela ampliação da formação, pela qualificação da tecnologia e por estratégias de responsividade tecnológica, justiça cognitiva e inclusão digital. Portanto, recomenda-se transparência, garantindo que os sistemas sejam mais explicativos e auditáveis, regulação e diretrizes, mitigação de vieses, proteção de dados e manutenção da supervisão humana sobre decisões críticas, em uma perspectiva responsiva e inclusiva.
Downloads
Referências
Bakhtin, M. (1986). Estética da criação verbal. São Paulo: Martins Fontes.
Bakhtin, M. (2016). Os gêneros do discurso. São Paulo: Editora 34.
Barthes, R. (1967). A morte do autor. In: O rumor da língua. São Paulo: Martins Fontes.
Bekiarides, G. & Attwell, G. (2024). Suplemento ao Quadro DigComp Edu - Definição das Aptidões e Competências dos Educadores em matérias de IA na Educação (digital). Disponível em: https://www.tecminho.uminho.pt/storage/app/media/uploaded-files/AIpioneers-suplementoIADigCompEdu%20-PT.pdf . Acesso em: 26 out. 2025.
Cristofaro, M.; Giardino, P. L. Surfing the AI waves: the historical evolution of artificial intelligence in management and organizational studies and practices. Journal of Management History, ahead-of-print, 2025. Disponível em: https://doi.org/10.1108/JMH-01-2025-0002 . Acesso em: 26 out. 2025.
Dantas, P. & Costa, F. (2024). Implicações éticas da Inteligência Artificial: desafios e estratégias digitais. (Digital Webartigos.com). Disponível em: Implicações Éticas da Inteligência Artificial: Desafios e Estratégias. Acesso em: 26 out. 2025.
De Felice, F. et al. (2022). Artificial Intelligence or Augmented Intelligence? Impact on our lives, rights and ethics. 3rd International Conference on Industry 4.0 and Smart Manufacturing. https://doi.org/10.1016/j.procs.2022.01.385. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050922003945 Acesso em: 26 out. 2025.
Dignum, V. (2019). Responsible Artificial Intelligence. How to Develop and Use AI in a Responsible Way. Springer.
Ferreira, M., Costa, M. R. M., Meira, É. N. G., & Filho, O. L. da S. (2024). Inteligência artificial na Educação Superior – avanços e dilemas na produção acadêmica. EmRede – Revista de Educação a Distância, 11. Disponível em: https://doi.org/10.53628/emrede.v11i.1019 Acesso em: 26 out. 2025.
Foucault, M. (1969). O que é um autor? In Ditos e escritos II – Arqueologia das ciências e história dos sistemas de pensamento. Rio de Janeiro: Forense Universitária.
Giannini, S. (2024). Prefácio. In: UNESCO. Guidance for generative AI in education and research. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
Gonzaga, K.; Amouzou Koffi, D. (2024). Guiando as organizações do futuro: uma reflexão sobre o manifesto da liderança responsiva e do paradigma evolucionário nas organizações de educação no Brasil. Revista de Empreendedorismo e Gestão de Micro e Pequenas Empresas (REGMPE) - ISSN 2447-8407 09 02 (2024): 46-61. Disponível em: https://www.revistas.editoraenterprising.net/ index.php/regmpe/article/view/739/987 Acesso em: 26 out. 2025.
González-Esteban, E., & Calvo, P. (2022). Ethically governing artificial intelligence in the field of scientific research and innovation. Heliyon, 8(2), e08946. Disponível em: https://www.sciencedirect.com/science/article/pii/S2405844022002341 Acesso em: 26 out. 2025.
Haenlein, M., & Kaplan, A. (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review, 61(4), 5-14. Disponível em: https://doi-org.ez54.periodicos.capes.gov.br/10.1177/0008125619864925 Acesso em: 26 out. 2025.
Kaplan, A. M.; Haenlein, M. Siri, Siri, in My Hand: Who’s the Fairest in the Land? On the Interpretations, Illustrations, and Implications of Artificial Intelligence. Business Horizons, v. 62, n. 1, p. 15–25, jan./fev. 2019.
Marques, A. (2024). Relatório de Pesquisa - Regulação da Inteligência Artificial ao Redor do Mundo (Research Report - Regulation of Artificial Intelligence Around the World). Disponível em: https://ssrn.com/abstract=4803041 Acesso em: 26 out. 2025.
McKinsey & Company. (2024). The state of AI: The view from 2024. QuantumBlack AI by McKinsey. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai Acesso em: 26 out. 2025.
Quintino, M. et al. (2024). Implicações éticas do uso da inteligência artificial (IA) em textos científicos: uma revisão integrativa de literatura. ABEC Meeting 2024. Associação Brasileira de Editores. https://doi.org/10.21452/abecmeeting2024.258 Acesso em: 26 out. 2025.
Ramos, I.; Faria, C. (2024). Inteligência artificial: história, tipologia e aplicações. Revista Tópicos, v. 2, n. 12.
Rother, E. T. (2007). Revisão sistemática X revisão narrativa. Acta Paulista De Enfermagem, 20(2), v-vi. Disponível em: https://doi.org/10.1590/S0103-21002007000200001 Acesso em: 26 out. 2025.
Santana, I. (2024, 3 de junho). IA já é usada em 72% das empresas no mundo, diz estudo de McKinsey. Valor Econômico, Brasil. Disponível em: https://valor.globo.com/empresas/noticia/2024/06/03/ia-ja-e-usada-em-72-das-empresas-no-mundo.ghtml Acesso em: 26 out. 2025.
Sichman, J. S. (2021). Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, 35(101), 37–50. Disponível em: https://doi.org/10.1590/s0103-4014.2021.35101.004 Acesso em: 26 out. 2025.
Silva, A. M da. (2022). A era da inteligência artificial e o nosso futuro humano. Prisma.com (47), p. 61-66. ISS: 1646-3153. Disponível em: https://doi.org/10.21747/16463153/47a5 Acesso em: 26 out. 2025.
Silva, J. A. M.; Maciel, J. de C.; & Coutinho, D. P. R. Sobre o modelo decolonial: a importância do outro e a urgência de seu olhar. Ciências Sociais Unisinos, v. 54, n. 3, p. 328-335, set.-dez., 2018.
Tapalova, O.; Zhiyenbayeva, N. Artificial Intelligence in Education: AIEd for Personalised Learning Pathways. Almaty: Abay Kazakh National Pedagogical University, 2022.
Trotta, A., Ziosi, M & Lolonaco, V. (2023). The future of ethics in AI: Challenges and opportunities. AI & Society, 38:439–441
UNESCO. (2019). International Conference on Artificial Intelligence and Education, Planning Education in the AI Era: Lead the Leap, Beijing. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000372249 Acesso em: 26 out. 2025.
UNESCO. (2021). Recomendação sobre a Ética da Inteligência Artificial: Adotada pela Conferência Geral em sua 41ª reunião, Paris, 23 de novembro de 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137 Acesso em: 26 out. 2025.
UNESCO. (2023). Metodologia de Avaliação de Prontidão: Um recurso da Recomendação sobre a Ética da Inteligência Artificial. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000385763 Acesso em: 26 out. 2025.
UNESCO. (2024). Guidance for generative AI in education and research. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
UNESCO. (2025). Declaração de Paris sobre Inteligência Artificial Inclusiva e Sustentável para as Pessoas e o Planeta. Cúpula Global sobre IA, Paris, França.
Volóchinov, V. N. (2017). Marxismo e filosofia da linguagem. 2ª ed. Tradução de T. C. Miceli. São Paulo: Editora 34.
Watson, D.; O’connor, C. If an artificial intelligence chatbot wrote a scientific article, how would we know? Natural Sciences Education, v. 52, n. 1, e12051, 2023. Disponível em: https://doi.org/10.1111/nae2.12051 Acesso em: 26 out. 2025.
Wilson, C. et al. (2013). Alfabetização midiática e informacional: currículo para formação de professores UNESCO, UFTM.
Xue, L. & Pang, Z. (2022). Ethical governance of artificial intelligence: An integrated analytical framework. Journal of Digital Economy. Disponível em: https://www.sciencedirect.com/science/article/pii/S2773067022000048 Acesso em: 26 out. 2025.
