INTELIGENCIA ARTIFICIAL, VULNERABILIDAD Y DERECHO A LA SALUD: RIESGOS DE LA DISCRIMINACIÓN ALGORÍTMICA Y DESAFÍOS A LA PROTECCIÓN JURÍDICA DE LOS PACIENTES
DOI:
https://doi.org/10.56238/levv17n61-044Palabras clave:
Inteligencia Artificial, Derecho a la Salud, Vulnerabilidad, Discriminación Algorítmica, Protección JurídicaResumen
Considerando la creciente incorporación de la inteligencia artificial en los servicios de salud y los riesgos de reproducción de desigualdades por medio de sistemas algorítmicos, este artículo analiza los impactos de estas tecnologías sobre pacientes en situación de vulnerabilidad. Tiene como finalidad discutir de qué manera el uso de la inteligencia artificial en la atención sanitaria puede afectar el derecho fundamental a la salud, la equidad asistencial y la protección jurídica de los pacientes, especialmente ante la posibilidad de discriminación algorítmica. Para ello, se realiza una investigación cualitativa, de carácter bibliográfico y documental, orientada por un análisis jurídico-crítico, con base en la legislación brasileña, documentos internacionales y estudios científicos sobre inteligencia artificial, vulnerabilidad, protección de datos y derechos fundamentales. De esta manera, se observa que los sistemas algorítmicos, cuando se desarrollan a partir de bases de datos incompletas, sesgadas o poco representativas, pueden reproducir desigualdades sociales, raciales, económicas y territoriales ya existentes en los sistemas de salud. También se verifica que la opacidad algorítmica dificulta la transparencia, la impugnación de decisiones y la responsabilización por eventuales daños. Se concluye que la inteligencia artificial solo podrá contribuir a la efectividad del derecho a la salud si se somete a mecanismos de gobernanza, supervisión humana, auditoría, protección de datos sensibles y responsabilidad institucional.
Descargas
Referencias
ALDERMAN, J. E. et al. Tackling algorithmic bias and promoting transparency in health datasets: a systematic review and stakeholder survey. The Lancet Digital Health, London, v. 7, n. 1, p. e64-e88, 2025.
AYRES, J. R. C. M. et al. O conceito de vulnerabilidade e as práticas de saúde: novas perspectivas e desafios. In: CZERESNIA, D.; FREITAS, C. M. (org.). Promoção da saúde: conceitos, reflexões, tendências. Rio de Janeiro: Fiocruz, 2003. p. 117-139.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado Federal, 2022.
BRASIL. Lei nº 8.080, de 19 de setembro de 1990. Lei Orgânica da Saúde. Brasília, DF: Presidência da República, 1990.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília, DF: Presidência da República, 2018.
BRASIL. Ministério da Saúde. Saúde lança painel de doenças e agravos na população por raça e cor. Brasília, DF: Ministério da Saúde, 2025.
CARY JR., M. P. et al. Building competency in artificial intelligence and bias mitigation among the health care workforce. Journal of Medical Internet Research, Toronto, 2025.
CROSS, J. L.; CHOMA, M. A.; ONOFREY, J. A. Bias in medical AI: implications for clinical decision-making. PLOS Digital Health, San Francisco, v. 3, n. 11, e0000651, 2024.
DANKWA-MULLAN, I. Health equity and ethical considerations in using artificial intelligence in public health and medicine. Preventing Chronic Disease, Atlanta, v. 21, p. 1-9, 2024.
DE MICCO, F. et al. Artificial intelligence in healthcare: transforming patient safety and clinical risk management. Frontiers in Medicine, Lausanne, v. 12, p. 1-17, 2025.
FLORIDI, L. et al. AI4People: an ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds and Machines, Dordrecht, v. 28, p. 689-707, 2018.
GADDAS, M. et al. Artificial intelligence in hospitals: legal uncertainties and emerging risks for patient safety. EXCLI Journal, Dortmund, v. 24, p. 824-827, 2025.
GIL, A. C. Como elaborar projetos de pesquisa. 4. ed. São Paulo: Atlas, 2002.
MELLO, M. M.; ROBERTS, J. L. Antidiscrimination law meets artificial intelligence: new requirements for health care organizations and insurers. JAMA Health Forum, Chicago, v. 5, n. 8, e243397, 2024.
MINAYO, M. C. S. O desafio do conhecimento: pesquisa qualitativa em saúde. 14. ed. São Paulo: Hucitec, 2014.
OBERMEYER, Z. et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, Washington, v. 366, n. 6464, p. 447-453, 2019.
OECD. AI in health: huge potential, huge risks. Paris: OECD Publishing, 2024.
PHAM, T. et al. Ethical and legal considerations in healthcare AI. Healthcare, Basel, v. 13, n. 7, p. 1-18, 2025.
TOMASIELLO, D. B. et al. Desigualdades raciais e de renda no acesso à saúde nas cidades brasileiras. Instituto de Pesquisa Econômica Aplicada, Brasília, DF, 2023.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.
WEINER, E. B. et al. Ethical challenges and evolving strategies in the integration of artificial intelligence into clinical practice. PLOS Digital Health, San Francisco, v. 4, n. 4, e0000810, 2025.
WORLD HEALTH ORGANIZATION. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization, 2021.
WORLD HEALTH ORGANIZATION. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization, 2025.
