EL DESAFÍO ÉTICO DE LA IA EN LA FORMACIÓN HUMANA: DIRECTRICES PARA UNA EDUCACIÓN RESPONSIVA E INCLUSIVA
DOI:
https://doi.org/10.56238/arev7n11-241Palabras clave:
Ética, Formación Humana, Inclusión, Inteligencia Artificial, Capacidad de RespuestaResumen
El uso de la inteligencia artificial (IA) en la educación de niños, jóvenes y adultos ha suscitado cuestiones éticas, especialmente con el surgimiento de herramientas avanzadas como ChatGPT, de OpenAI, que pretenden presentarse como textos supuestamente humanos cuando, en realidad, se constituyen como modelos de lenguaje generativos que ocultan las nociones de autoría y veridicción. El uso indiscriminado de esta tecnología como asistente para la formación humana y académica, así como para la producción y revisión de textos académicos, plantea preocupaciones sobre la originalidad y la integridad de las informaciones producidas. En esta línea, se busca reflexionar sobre los impactos éticos del uso de herramientas de IA en contextos educativos y académicos, con énfasis en la necesidad de directrices para su utilización responsable, transparente y equitativa. Se trata de una investigación de enfoque cualitativo, naturaleza aplicada, objetivos exploratorios y procedimientos bibliográficos basados en una revisión narrativa de la literatura, utilizando artículos científicos, libros de referencia y documentos de organizaciones internacionales seleccionados según el criterio de adecuación al tema y a su tratamiento. Estudios recientes demuestran preocupaciones con la cuestión ética del uso de herramientas de IA, particularmente en relación con la privacidad y protección de datos, sesgo algorítmico, transparencia y aplicabilidad, así como autonomía y control humano. El tema fue abordado a través de las siguientes categorías: 1) dilemas éticos y epistémicos; 2) principios de transparencia, justicia e inclusión; y 3) marcos regulatorios y propuestas responsivas, indicando que existen fragilidades en la dimensión autoral frente al uso de IA, pero que una respuesta política, tecnológica y educativa debe basarse en la ampliación de la formación, en la cualificación de la tecnología y en estrategias de capacidad de respuesta tecnológica, justicia cognitiva e inclusión digital. Por lo tanto, se recomienda transparencia, garantizando que los sistemas sean más explicativos y auditables, regulación y directrices, mitigación de sesgos, protección de datos y mantenimiento de la supervisión humana sobre decisiones críticas, desde una perspectiva responsiva e inclusiva.
Descargas
Referencias
Bakhtin, M. (1986). Estética da criação verbal. São Paulo: Martins Fontes.
Bakhtin, M. (2016). Os gêneros do discurso. São Paulo: Editora 34.
Barthes, R. (1967). A morte do autor. In: O rumor da língua. São Paulo: Martins Fontes.
Bekiarides, G. & Attwell, G. (2024). Suplemento ao Quadro DigComp Edu - Definição das Aptidões e Competências dos Educadores em matérias de IA na Educação (digital). Disponível em: https://www.tecminho.uminho.pt/storage/app/media/uploaded-files/AIpioneers-suplementoIADigCompEdu%20-PT.pdf . Acesso em: 26 out. 2025.
Cristofaro, M.; Giardino, P. L. Surfing the AI waves: the historical evolution of artificial intelligence in management and organizational studies and practices. Journal of Management History, ahead-of-print, 2025. Disponível em: https://doi.org/10.1108/JMH-01-2025-0002 . Acesso em: 26 out. 2025.
Dantas, P. & Costa, F. (2024). Implicações éticas da Inteligência Artificial: desafios e estratégias digitais. (Digital Webartigos.com). Disponível em: Implicações Éticas da Inteligência Artificial: Desafios e Estratégias. Acesso em: 26 out. 2025.
De Felice, F. et al. (2022). Artificial Intelligence or Augmented Intelligence? Impact on our lives, rights and ethics. 3rd International Conference on Industry 4.0 and Smart Manufacturing. https://doi.org/10.1016/j.procs.2022.01.385. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050922003945 Acesso em: 26 out. 2025.
Dignum, V. (2019). Responsible Artificial Intelligence. How to Develop and Use AI in a Responsible Way. Springer.
Ferreira, M., Costa, M. R. M., Meira, É. N. G., & Filho, O. L. da S. (2024). Inteligência artificial na Educação Superior – avanços e dilemas na produção acadêmica. EmRede – Revista de Educação a Distância, 11. Disponível em: https://doi.org/10.53628/emrede.v11i.1019 Acesso em: 26 out. 2025.
Foucault, M. (1969). O que é um autor? In Ditos e escritos II – Arqueologia das ciências e história dos sistemas de pensamento. Rio de Janeiro: Forense Universitária.
Giannini, S. (2024). Prefácio. In: UNESCO. Guidance for generative AI in education and research. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
Gonzaga, K.; Amouzou Koffi, D. (2024). Guiando as organizações do futuro: uma reflexão sobre o manifesto da liderança responsiva e do paradigma evolucionário nas organizações de educação no Brasil. Revista de Empreendedorismo e Gestão de Micro e Pequenas Empresas (REGMPE) - ISSN 2447-8407 09 02 (2024): 46-61. Disponível em: https://www.revistas.editoraenterprising.net/ index.php/regmpe/article/view/739/987 Acesso em: 26 out. 2025.
González-Esteban, E., & Calvo, P. (2022). Ethically governing artificial intelligence in the field of scientific research and innovation. Heliyon, 8(2), e08946. Disponível em: https://www.sciencedirect.com/science/article/pii/S2405844022002341 Acesso em: 26 out. 2025.
Haenlein, M., & Kaplan, A. (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review, 61(4), 5-14. Disponível em: https://doi-org.ez54.periodicos.capes.gov.br/10.1177/0008125619864925 Acesso em: 26 out. 2025.
Kaplan, A. M.; Haenlein, M. Siri, Siri, in My Hand: Who’s the Fairest in the Land? On the Interpretations, Illustrations, and Implications of Artificial Intelligence. Business Horizons, v. 62, n. 1, p. 15–25, jan./fev. 2019.
Marques, A. (2024). Relatório de Pesquisa - Regulação da Inteligência Artificial ao Redor do Mundo (Research Report - Regulation of Artificial Intelligence Around the World). Disponível em: https://ssrn.com/abstract=4803041 Acesso em: 26 out. 2025.
McKinsey & Company. (2024). The state of AI: The view from 2024. QuantumBlack AI by McKinsey. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai Acesso em: 26 out. 2025.
Quintino, M. et al. (2024). Implicações éticas do uso da inteligência artificial (IA) em textos científicos: uma revisão integrativa de literatura. ABEC Meeting 2024. Associação Brasileira de Editores. https://doi.org/10.21452/abecmeeting2024.258 Acesso em: 26 out. 2025.
Ramos, I.; Faria, C. (2024). Inteligência artificial: história, tipologia e aplicações. Revista Tópicos, v. 2, n. 12.
Rother, E. T. (2007). Revisão sistemática X revisão narrativa. Acta Paulista De Enfermagem, 20(2), v-vi. Disponível em: https://doi.org/10.1590/S0103-21002007000200001 Acesso em: 26 out. 2025.
Santana, I. (2024, 3 de junho). IA já é usada em 72% das empresas no mundo, diz estudo de McKinsey. Valor Econômico, Brasil. Disponível em: https://valor.globo.com/empresas/noticia/2024/06/03/ia-ja-e-usada-em-72-das-empresas-no-mundo.ghtml Acesso em: 26 out. 2025.
Sichman, J. S. (2021). Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, 35(101), 37–50. Disponível em: https://doi.org/10.1590/s0103-4014.2021.35101.004 Acesso em: 26 out. 2025.
Silva, A. M da. (2022). A era da inteligência artificial e o nosso futuro humano. Prisma.com (47), p. 61-66. ISS: 1646-3153. Disponível em: https://doi.org/10.21747/16463153/47a5 Acesso em: 26 out. 2025.
Silva, J. A. M.; Maciel, J. de C.; & Coutinho, D. P. R. Sobre o modelo decolonial: a importância do outro e a urgência de seu olhar. Ciências Sociais Unisinos, v. 54, n. 3, p. 328-335, set.-dez., 2018.
Tapalova, O.; Zhiyenbayeva, N. Artificial Intelligence in Education: AIEd for Personalised Learning Pathways. Almaty: Abay Kazakh National Pedagogical University, 2022.
Trotta, A., Ziosi, M & Lolonaco, V. (2023). The future of ethics in AI: Challenges and opportunities. AI & Society, 38:439–441
UNESCO. (2019). International Conference on Artificial Intelligence and Education, Planning Education in the AI Era: Lead the Leap, Beijing. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000372249 Acesso em: 26 out. 2025.
UNESCO. (2021). Recomendação sobre a Ética da Inteligência Artificial: Adotada pela Conferência Geral em sua 41ª reunião, Paris, 23 de novembro de 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137 Acesso em: 26 out. 2025.
UNESCO. (2023). Metodologia de Avaliação de Prontidão: Um recurso da Recomendação sobre a Ética da Inteligência Artificial. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000385763 Acesso em: 26 out. 2025.
UNESCO. (2024). Guidance for generative AI in education and research. Disponível em: Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693.locale=en Acesso em: 26 out. 2025.
UNESCO. (2025). Declaração de Paris sobre Inteligência Artificial Inclusiva e Sustentável para as Pessoas e o Planeta. Cúpula Global sobre IA, Paris, França.
Volóchinov, V. N. (2017). Marxismo e filosofia da linguagem. 2ª ed. Tradução de T. C. Miceli. São Paulo: Editora 34.
Watson, D.; O’connor, C. If an artificial intelligence chatbot wrote a scientific article, how would we know? Natural Sciences Education, v. 52, n. 1, e12051, 2023. Disponível em: https://doi.org/10.1111/nae2.12051 Acesso em: 26 out. 2025.
Wilson, C. et al. (2013). Alfabetização midiática e informacional: currículo para formação de professores UNESCO, UFTM.
Xue, L. & Pang, Z. (2022). Ethical governance of artificial intelligence: An integrated analytical framework. Journal of Digital Economy. Disponível em: https://www.sciencedirect.com/science/article/pii/S2773067022000048 Acesso em: 26 out. 2025.
