THE ETHICAL CHALLENGE OF AI IN HUMAN EDUCATION: GUIDELINES FOR RESPONSIVE AND INCLUSIVE EDUCATION
DOI:
https://doi.org/10.56238/arev7n11-241Keywords:
Ethics, Human Development, Inclusion, Artificial Intelligence, ResponsivenessAbstract
The use of artificial intelligence (AI) in the education of children, youth, and adults has raised ethical questions, especially with the advent of advanced tools such as ChatGPT, by OpenIA, which purport to pass themselves off as human texts, when in fact they constitute generative language models that obscure the notions of authorship and veridiction. The indiscriminate use of this technology as an aid to human and academic development, as well as for the production and review of academic texts, raises concerns about the originality and integrity of the information produced. In this context, we seek to reflect on the ethical impacts of using AI tools in educational and academic contexts, with an emphasis on the need for guidelines for their responsible, transparent, and equitable use. This is a qualitative, applied study with exploratory objectives and bibliographic procedures based on a narrative literature review, using scientific articles, reference books, and documents from international organizations selected according to the criteria of suitability for the topic and its treatment. Recent studies demonstrate concerns about the ethical issues surrounding the use of AI tools, particularly regarding privacy and data protection, algorithmic bias, transparency and applicability, and autonomy and human oversight. The topic was addressed by the following categories: 1) ethical and epistemic dilemmas; 2) principles of transparency, justice, and inclusion; and 3) regulatory frameworks and responsive proposal, indicating that there are weaknesses in the authorial dimension when faced with the use of AI, but that a political, technological, and educational response must be guided by the expansion of training, the qualification of technology, and strategies of technological responsiveness, cognitive justice, and digital inclusion. Therefore, transparency is recommended, ensuring that systems are more explanatory and auditable, regulation and guidelines, mitigating bias, protecting data, and maintaining human oversight over critical decisions, from a responsive and inclusive perspective.
Downloads
References
Bakhtin, M. (1986). Estética da criação verbal. São Paulo: Martins Fontes.
Bakhtin, M. (2016). Os gêneros do discurso. São Paulo: Editora 34.
Barthes, R. (1967). A morte do autor. In: O rumor da língua. São Paulo: Martins Fontes.
Bekiarides, G. & Attwell, G. (2024). Suplemento ao Quadro DigComp Edu - Definição das Aptidões e Competências dos Educadores em matérias de IA na Educação (digital). Disponível em: https://www.tecminho.uminho.pt/storage/app/media/uploaded-files/AIpioneers-suplementoIADigCompEdu%20-PT.pdf . Acesso em: 26 out. 2025.
Cristofaro, M.; Giardino, P. L. Surfing the AI waves: the historical evolution of artificial intelligence in management and organizational studies and practices. Journal of Management History, ahead-of-print, 2025. Disponível em: https://doi.org/10.1108/JMH-01-2025-0002 . Acesso em: 26 out. 2025.
Dantas, P. & Costa, F. (2024). Implicações éticas da Inteligência Artificial: desafios e estratégias digitais. (Digital Webartigos.com). Disponível em: Implicações Éticas da Inteligência Artificial: Desafios e Estratégias. Acesso em: 26 out. 2025.
De Felice, F. et al. (2022). Artificial Intelligence or Augmented Intelligence? Impact on our lives, rights and ethics. 3rd International Conference on Industry 4.0 and Smart Manufacturing. https://doi.org/10.1016/j.procs.2022.01.385. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050922003945 Acesso em: 26 out. 2025.
Dignum, V. (2019). Responsible Artificial Intelligence. How to Develop and Use AI in a Responsible Way. Springer.
Ferreira, M., Costa, M. R. M., Meira, É. N. G., & Filho, O. L. da S. (2024). Inteligência artificial na Educação Superior – avanços e dilemas na produção acadêmica. EmRede – Revista de Educação a Distância, 11. Disponível em: https://doi.org/10.53628/emrede.v11i.1019 Acesso em: 26 out. 2025.
Foucault, M. (1969). O que é um autor? In Ditos e escritos II – Arqueologia das ciências e história dos sistemas de pensamento. Rio de Janeiro: Forense Universitária.
Giannini, S. (2024). Prefácio. In: UNESCO. Guidance for generative AI in education and research. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
Gonzaga, K.; Amouzou Koffi, D. (2024). Guiando as organizações do futuro: uma reflexão sobre o manifesto da liderança responsiva e do paradigma evolucionário nas organizações de educação no Brasil. Revista de Empreendedorismo e Gestão de Micro e Pequenas Empresas (REGMPE) - ISSN 2447-8407 09 02 (2024): 46-61. Disponível em: https://www.revistas.editoraenterprising.net/ index.php/regmpe/article/view/739/987 Acesso em: 26 out. 2025.
González-Esteban, E., & Calvo, P. (2022). Ethically governing artificial intelligence in the field of scientific research and innovation. Heliyon, 8(2), e08946. Disponível em: https://www.sciencedirect.com/science/article/pii/S2405844022002341 Acesso em: 26 out. 2025.
Haenlein, M., & Kaplan, A. (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review, 61(4), 5-14. Disponível em: https://doi-org.ez54.periodicos.capes.gov.br/10.1177/0008125619864925 Acesso em: 26 out. 2025.
Kaplan, A. M.; Haenlein, M. Siri, Siri, in My Hand: Who’s the Fairest in the Land? On the Interpretations, Illustrations, and Implications of Artificial Intelligence. Business Horizons, v. 62, n. 1, p. 15–25, jan./fev. 2019.
Marques, A. (2024). Relatório de Pesquisa - Regulação da Inteligência Artificial ao Redor do Mundo (Research Report - Regulation of Artificial Intelligence Around the World). Disponível em: https://ssrn.com/abstract=4803041 Acesso em: 26 out. 2025.
McKinsey & Company. (2024). The state of AI: The view from 2024. QuantumBlack AI by McKinsey. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai Acesso em: 26 out. 2025.
Quintino, M. et al. (2024). Implicações éticas do uso da inteligência artificial (IA) em textos científicos: uma revisão integrativa de literatura. ABEC Meeting 2024. Associação Brasileira de Editores. https://doi.org/10.21452/abecmeeting2024.258 Acesso em: 26 out. 2025.
Ramos, I.; Faria, C. (2024). Inteligência artificial: história, tipologia e aplicações. Revista Tópicos, v. 2, n. 12.
Rother, E. T. (2007). Revisão sistemática X revisão narrativa. Acta Paulista De Enfermagem, 20(2), v-vi. Disponível em: https://doi.org/10.1590/S0103-21002007000200001 Acesso em: 26 out. 2025.
Santana, I. (2024, 3 de junho). IA já é usada em 72% das empresas no mundo, diz estudo de McKinsey. Valor Econômico, Brasil. Disponível em: https://valor.globo.com/empresas/noticia/2024/06/03/ia-ja-e-usada-em-72-das-empresas-no-mundo.ghtml Acesso em: 26 out. 2025.
Sichman, J. S. (2021). Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, 35(101), 37–50. Disponível em: https://doi.org/10.1590/s0103-4014.2021.35101.004 Acesso em: 26 out. 2025.
Silva, A. M da. (2022). A era da inteligência artificial e o nosso futuro humano. Prisma.com (47), p. 61-66. ISS: 1646-3153. Disponível em: https://doi.org/10.21747/16463153/47a5 Acesso em: 26 out. 2025.
Silva, J. A. M.; Maciel, J. de C.; & Coutinho, D. P. R. Sobre o modelo decolonial: a importância do outro e a urgência de seu olhar. Ciências Sociais Unisinos, v. 54, n. 3, p. 328-335, set.-dez., 2018.
Tapalova, O.; Zhiyenbayeva, N. Artificial Intelligence in Education: AIEd for Personalised Learning Pathways. Almaty: Abay Kazakh National Pedagogical University, 2022.
Trotta, A., Ziosi, M & Lolonaco, V. (2023). The future of ethics in AI: Challenges and opportunities. AI & Society, 38:439–441
UNESCO. (2019). International Conference on Artificial Intelligence and Education, Planning Education in the AI Era: Lead the Leap, Beijing. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000372249 Acesso em: 26 out. 2025.
UNESCO. (2021). Recomendação sobre a Ética da Inteligência Artificial: Adotada pela Conferência Geral em sua 41ª reunião, Paris, 23 de novembro de 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137 Acesso em: 26 out. 2025.
UNESCO. (2023). Metodologia de Avaliação de Prontidão: Um recurso da Recomendação sobre a Ética da Inteligência Artificial. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000385763 Acesso em: 26 out. 2025.
UNESCO. (2024). Guidance for generative AI in education and research. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
UNESCO. (2025). Declaração de Paris sobre Inteligência Artificial Inclusiva e Sustentável para as Pessoas e o Planeta. Cúpula Global sobre IA, Paris, França.
Volóchinov, V. N. (2017). Marxismo e filosofia da linguagem. 2ª ed. Tradução de T. C. Miceli. São Paulo: Editora 34.
Watson, D.; O’connor, C. If an artificial intelligence chatbot wrote a scientific article, how would we know? Natural Sciences Education, v. 52, n. 1, e12051, 2023. Disponível em: https://doi.org/10.1111/nae2.12051 Acesso em: 26 out. 2025.
Wilson, C. et al. (2013). Alfabetização midiática e informacional: currículo para formação de professores UNESCO, UFTM.
Xue, L. & Pang, Z. (2022). Ethical governance of artificial intelligence: An integrated analytical framework. Journal of Digital Economy. Disponível em: https://www.sciencedirect.com/science/article/pii/S2773067022000048 Acesso em: 26 out. 2025.
