PROYECTO Y COGNICIÓN: ALGUNAS LECTURAS CRÍTICAS DE LA IA
DOI:
https://doi.org/10.56238/arev8n3-125Palabras clave:
IA, Asilomar, Singularidad, Transhumanismo, HeideggerResumen
En el artículo se desarrollan algunas reflexiones críticas sobre los límites de la Inteligencia Artificial. Partiendo de las reflexiones de Heidegger, quien se interrogó acerca del significado del pensamiento humano, surgen cuestiones como la distinción entre pensamiento y algoritmo, los riesgos éticos, la desinformación y la responsabilidad humana sobre sus productos tecnológicos. Destacamos que las alucinaciones de los sistemas de IA revelan límites estructurales. Señalamos problemas como la ausencia de sistemas abiertos y las restricciones impuestas al conocimiento por arquitecturas de IA cerradas. Contrastamos dos visiones divergentes de hibridación: la de transhumanistas como Iannis Xenakis y Vernor Vinge. Prestamos atención a las fantasías tecnológicas, como la de la superinteligencia, que pueden revelar actitudes políticas de control totalitario. Se defiende la construcción de sistemas abiertos con gobernanza democrática para calibrar estos riesgos de control, vigilancia y concentración de poder. Se destacan las advertencias éticas de la conferencia de Asilomar y la necesidad de transparencia en los sistemas. Tomamos como base las críticas recientes de Landgrebe y Smith.
Descargas
Referencias
ALPHAGEOMETRY. https://github.com/google-deepmind/alphageometry . 2024.
ANTHROPIC. Claude Constitution. www.anthropic.com/constitution , 2026.
BENASAYAG, M., PENNISI, A. La inteligencia artificial no piensa. (El cerebro tampoco). Ed. Prometeo. Ciudad Autónoma de Buenos Aires.
BENSE, M, Pequena estética. São Paulo. Perspectiva.
BIRKHOFF, G, D. Aesthetic measure. Harvard University Press.
BODEN, M. A. Filosofía de la Inteligencia Artificial. Londres: Oxford University Press.
_____________ Dimensões da criatividade. Porto Alegre: Ed. Artes Médicas Sul.
CHURCHLAND, P. M. Matéria e consciência. Uma introdução contemporânea à filosofia da mente. São Paulo. Fundação Ed. As UNESP.
DREYFUS, H.; DREYFUS, S. La Construcción de una mente versus el modelaje del cérebro: La inteligencia artificial regresa a un punto de ramificación. Artificial Intelligence Vol. 117 n°1.
FLI. FUTURE LIFE INSTITUTE. Asilomar AI Principles. Beneficial AI 2017. https://futureoflife.org/open-letter/ai-principles , 2017.
FLI. FUTURE LIFE INSTITUTE. Pause Giant AI Experiments: An Open Letter, 2023. https://futureoflife.org/open-letter/pause-giant-ai-experiments/ , 2023.
HEIDEGGER, M. ¿Qué significa pensar? Traducción de Raúl Gabás. Ed. Trotta. Madrid.
LANDGREBE, J., SMITH, B. Why Machines Will Never Rule the World. Artificial Intelligence without Fear. New York. Routledge.
MENEGOTTO, J.L. A Framework for Speech-Oriented CAD and BIM Systems. en: Gabriela Celani; David Moreno Sperling; Juarez Moara Santos Franco. (Org.). Communications in Computer and Information Science. 1°Ed. Berlin: Springer Berlin Heidelberg, 2015, v.1, pp. 329-347. DOI: https://doi.org/10.1007/978-3-662-47386-3_18
NEUHAUS, F. Ontologies in the era of large language models - a perspective. Applied Ontology. v.18. n.4. pp.399-407. Dezembro 2023. DOI: 10.3233/AO-230072 DOI: https://doi.org/10.3233/AO-230072
NIKHIL, A. I wasted years confused about how LLMs learn before learning this. I wish someone had told me this when I started. Medium. https://medium.com/me/lists, 2024.
NON-ERGODICSYSTEMS.https://energy.sustainability-directory.com/term/non-ergodic-systems , 2025.
SLOTERDIJK, P. Crítica de la Razón Cínica. Madrid. Ed. Siruela.
______________ Regras para o parque humano. São Paulo: Estação Liberdade.
SLOTERDIJK, P, HEINRICHS H. J. O sol e a morte. Investigações dialógicas. Lisboa: Relógio D’ Água Editores.
SMITH, B. New desiderata for biomedical terminologies. in K. Munn and B. Smith (eds.), Applied Ontology: An Introduction, Frankfurt/Lancaster: Ontos, p. 83-109.
TURING, A. La maquinaria de la computación y la inteligencia. En: Boden Margaret Ann. Filosofía de la Inteligencia Artificial. México, D.F.: Ed. Fondo de Cultura Económica.
UE. Regulamento da União Europeia. 2024/1689 del Parlamento Europeu e do Conselho da União Europeia. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=OJ:L_202401689, 2024.
VAROUFAKIS, Y. Tecno feudalismo. O que matou o capitalismo. Tradução: Érika Nogueira Vieira. São Paulo. Ed. Planeta do Brasil.
VINGE, V. The Coming Technological Singularity: How to Survive in the Post Human Era. En: Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, G. A. Landis, Ed., NASA Publication CP-10129, pp.11-22.
XENAKIS, I. Formalized Music: Thought and Mathematics in Composition. New York: Pendragon Press.
