Fundamentos de la ética biomédica

Fundamentos de la ética biomédica

La medicina, como disciplina, se ha asociado desde hace mucho tiempo con elevados estándares éticos y responsabilidad profesional, tal y como se refleja en normas que van desde el Juramento de Hipócrates (Miles, 2005) hasta las Declaraciones de Ginebra y Helsinki (Tröhler, 2008). Sin embargo, la historia de la medicina también incluye prácticas que causaron graves daños a personas vulnerables.  Entre los ejemplos más conocidos se encuentran la eugenesia, la esterilización forzada de poblaciones indígenas y marginadas, y la experimentación sin consentimiento sobre personas con discapacidad. Estos fracasos históricos reflejan injusticias estructurales y relaciones de poder que han marcado la investigación y la práctica médicas durante siglos, y cuyo legado sigue siendo visible en los datos sesgados y los patrones discriminatorios que los sistemas de IA en el ámbito sanitario corren el riesgo de heredar en la actualidad.

La ética biomédica (o bioética) es un ámbito de la ética aplicada que aborda las cuestiones morales que surgen en la práctica de la medicina y la investigación biomédica (Vevaina et al., 1993). Se articula en torno a cuatro principios fundamentales, tal y como los definen Beauchamp y Childress (Beauchamp y Childress, 2019):

• Autonomía: Respetar la capacidad de toma de decisiones de las personas autónomas. Dos condiciones generales son esenciales para la autonomía: la libertad, que se manifiesta como independencia frente a influencias controladoras, y la capacidad de actuar, es decir, la capacidad de realizar acciones intencionadas.

• No maleficencia: Evitar causar daño.

• Beneficencia: Tomar medidas positivas para ayudar a los demás; concretamente, prevenir el mal o el daño, eliminar el mal o el daño y promover el bien.

• Justicia: Distribuir los beneficios, los riesgos y los costes de forma justa. La justicia se interpreta como un trato justo, equitativo y adecuado para las personas y los grupos, dadas las numerosas disparidades en la asistencia sanitaria y la investigación basadas en la raza, el origen étnico, el género y la condición social.

Estos principios no son abstractos, sino que constituyen el fundamento ético de tu práctica profesional como profesional sanitario, y están directamente en juego cuando se utilizan herramientas de IA sesgadas en la toma de decisiones clínicas.

Ética de la IA: la extensión de los principios biomédicos a la inteligencia artificial

El rápido desarrollo de las aplicaciones de IA ha planteado una amplia gama de cuestiones éticas, entre las que destacan especialmente los sesgos y la discriminación (Christoforaki y Beyan, 2022). En respuesta a ello, la ética de la IA ha surgido como un ámbito de la ética aplicada que comprende «un conjunto de valores, principios y técnicas que emplean normas ampliamente aceptadas sobre lo correcto y lo incorrecto para orientar la conducta moral en el desarrollo y el uso de las tecnologías de IA» (Leslie, 2019, p. 3).

La ética de la IA se nutre tanto de la bioética como del discurso sobre los derechos humanos; este último incluye el derecho a la igualdad de libertad y dignidad ante la ley, la protección de los derechos civiles, políticos y sociales, el reconocimiento universal de la personalidad jurídica y el derecho a la libre participación en la vida comunitaria (Leslie, 2019).

Los cuatro principios bioéticos se han adaptado posteriormente a la IA, añadiéndose un quinto: la explicabilidad (Floridi et al., 2018):

1. Autonomía, entendida como la capacidad de los seres humanos para decidir si desean tomar una decisión, y que conlleva el riesgo de delegar demasiado en las máquinas.

2. No maleficencia, entendida como la prevención de daños derivados tanto de la intención de los seres humanos como del comportamiento imprevisto de las máquinas.

3. Beneficencia, entendida como la promoción del bienestar, la preservación de la dignidad y la sostenibilidad del planeta.

4. Justicia, entendida como la prevención y eliminación de las discriminaciones injustas ya existentes, así como de nuevos daños, y la garantía de una distribución equitativa de los beneficios de la IA.

5. Explicabilidad, definida como la comprensión y la rendición de cuentas de los procesos de toma de decisiones de la IA.

De la ética a la política

En comparación con la medicina, el desarrollo de la IA adolece actualmente de: 

Objetivos comunes y obligaciones fiduciarias;

Una trayectoria profesional y unas normas consolidadas;

Métodos contrastados para trasladar los principios a la práctica;

Mecanismos sólidos de responsabilidad jurídica y profesional. 

Esto significa que los principios éticos, aunque necesarios, no son suficientes para regular la IA en el ámbito sanitario.

Los sesgos de género y raciales en la IA biomédica no son fallos técnicos fortuitos o aislados, sino riesgos sistémicos que surgen a lo largo de todo el ciclo de vida de los sistemas de IA utilizados en la asistencia sanitaria. En el caso de las enfermedades cardiovasculares, la depresión y la diabetes, el sesgo se deriva de conjuntos de datos clínicos históricamente sesgados, prácticas diagnósticas desiguales, variables sustitutivas que codifican desigualdades estructurales y contextos de aplicación que distribuyen de forma desigual tanto los beneficios como los perjuicios.

Estos hallazgos confirman que la IA biomédica afecta directamente a múltiples derechos y principios protegidos por la Carta de los Derechos Fundamentales de la UE, entre los que destacan la dignidad humana, la igualdad ante la ley y la no discriminación, así como el derecho a la integridad de la persona, el derecho a la asistencia sanitaria, la protección de datos y el derecho a un recurso efectivo.

Por lo tanto, los marcos normativos de la UE y nacionales que regulan la IA en el ámbito sanitario deben tratar la mitigación del sesgo no como un complemento ético voluntario, sino como un componente vinculante de un despliegue de la IA lícito y respetuoso con los derechos.

La Carta de los Derechos Fundamentales de la UE y la IA

Según un informe de 2018 financiado por el Consejo de Europa (Comité de expertos sobre intermediarios de Internet (MSI-NET, 2018)), entre los derechos humanos más afectados por los algoritmos y el tratamiento automatizado de datos se encuentran:

El derecho a un juicio justo y a las garantías procesales

La privacidad y la protección de datos

La libertad de expresión

El derecho a un recurso efectivo

La libertad de reunión y de asociación

La prohibición de la discriminación

Los derechos sociales y el acceso a los servicios públicos

El derecho a elecciones libres

Los algoritmos sesgados se mencionan explícitamente como posibles factores de discriminación contra grupos sociales por motivos de edad, orientación sexual, raza, género o situación socioeconómica (MSI-NET, 2018, p. 27). Además, el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho exige específicamente que los Estados miembros «adopten o mantengan medidas con el fin de garantizar que las actividades desarrolladas a lo largo del ciclo de vida de los sistemas de inteligencia artificial respeten la igualdad —incluida la igualdad de género— y la prohibición de la discriminación, tal y como se establece en el Derecho internacional y nacional aplicable» (Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, 2024, p. 4).

Tal y como se ha analizado en el Módulo 1, los artículos de la Carta de la UE más directamente relevantes para la IA biomédica son el artículo 21 (No discriminación), el artículo 23 (Igualdad entre hombres y mujeres) y el artículo 35 (Asistencia sanitaria). Cuando los sistemas de IA utilizados en la práctica clínica funcionan de forma desigual entre pacientes con características de género o raciales y étnicas diferentes, representan una violación directa de los derechos que protegen estos artículos.

El marco jurídico de la UE para la inteligencia artificial en el ámbito sanitario

La UE ha establecido un marco normativo de varios niveles para la IA biomédica, articulado en torno a cuatro instrumentos jurídicos complementarios:

La Ley de la UE sobre la IA

La Ley de IA establece un marco normativo basado en el riesgo para los sistemas de IA. Muchas aplicaciones sanitarias, incluidas las herramientas de apoyo a la toma de decisiones clínicas y los algoritmos de diagnóstico, se clasifican como sistemas de IA de alto riesgo, que están sujetos a requisitos estrictos en materia de gestión de riesgos, gobernanza de datos, transparencia, supervisión humana y precisión, incluida la identificación y mitigación de los riesgos de resultados discriminatorios entre los distintos grupos demográficos (Ley de IA de la UE, 2024).

Las instituciones sanitarias que implementan sistemas de IA también tienen obligaciones específicas en virtud de la Ley de IA. Para los profesionales sanitarios y los hospitales, las disposiciones más importantes desde el punto de vista operativo son:

1. Requisitos para los sistemas de alto riesgo: Los proveedores deben implementar un sistema de gestión de riesgos a lo largo del ciclo de vida (art. 9) y prácticas de gobernanza de datos que incluyan: expectativas explícitas de detección y mitigación de sesgos (art. 10), incluida la evaluación de la representatividad de los datos y las posibles disparidades de rendimiento entre poblaciones desglosadas por género y origen racial o étnico; garantías de transparencia y suministro de información a los responsables de la implementación (art. 13); supervisión humana diseñada para prevenir el sesgo de la automatización y permitir procedimientos de anulación o parada (art. 14); y controles de precisión, robustez y ciberseguridad con especial atención a los bucles de retroalimentación y a los ataques específicos contra la IA (art. 15), que, de no abordarse, podrían exacerbar las desigualdades existentes.

2. Obligaciones de los responsables de la implementación: Los hospitales y otros responsables de la implementación deben utilizar los sistemas de IA de alto riesgo de acuerdo con las instrucciones del proveedor (art. 26); asignar una supervisión humana competente (art. 26); garantizar que los datos de entrada sean pertinentes, representativos y completos cuando el responsable de la implementación controle dichos datos (art. 26), así como (cuando sea factible) tener en cuenta la diversidad demográfica en las poblaciones clínicas; supervisar el funcionamiento del sistema (art. 26); conservar los registros generados automáticamente durante al menos seis meses, salvo que otra ley disponga lo contrario (art. 26); e informar de los incidentes graves o fallos de funcionamiento a los proveedores y a las autoridades competentes sin demora indebida (arts. 26 y 73), especialmente cuando exista riesgo de resultados clínicos desiguales.

3. Evaluación del impacto sobre los derechos fundamentales (FRIA, por sus siglas en inglés): Antes de poner en marcha determinados sistemas de IA de alto riesgo, los organismos de derecho público (y las entidades privadas que prestan servicios públicos) deben realizar una FRIA, en la que se describan los procesos, los grupos afectados, los riesgos, las medidas de supervisión humana y los mecanismos de mitigación o de reclamación, y, a continuación, notificarlo a la autoridad de vigilancia del mercado mediante una plantilla que se espera que elabore la Oficina de IA (art. 28). Este requisito es de relevancia directa para los hospitales públicos de muchos Estados miembros, ya que proporciona un mecanismo para identificar y abordar los riesgos de discriminación y los impactos desiguales entre los distintos grupos de género y raciales o étnicos antes de la puesta en marcha.

Reglamento sobre productos sanitarios (MDR) y Reglamento sobre productos sanitarios para diagnóstico in vitro (IVDR)

Los sistemas de IA utilizados en contextos médicos también están sujetos a la legislación sobre productos sanitarios y a las directrices relacionadas, entre ellas el Reglamento sobre productos sanitarios (MDR) (Unión Europea, 2017a) y el Reglamento sobre productos sanitarios para diagnóstico in vitro (IVDR) (Unión Europea, 2017b), que regulan la seguridad y el rendimiento de las tecnologías médicas y exigen una evaluación clínica y una vigilancia posterior a la comercialización (incluidas las herramientas basadas en la IA), prestando especial atención a que el rendimiento sea equitativo entre los distintos grupos de población.

La relación entre la Ley de IA y la legislación vigente sobre productos sanitarios se aclara en la Guía sobre la interacción entre la Ley de IA y el MDR/IVDR (Grupo de Coordinación de Productos Sanitarios y Consejo Europeo de IA, 2025). El documento explica que la Ley de IA se aplica de forma paralela a estos dos reglamentos, en lugar de sustituirlos. En la práctica, esto significa que muchos sistemas de IA médica deben cumplir con ambos marcos normativos simultáneamente. La guía también aclara cuándo la IA médica se considera de alto riesgo en virtud de la Ley de IA, lo que suele ocurrir cuando el propio sistema de IA es un producto sanitario (o un componente de seguridad del mismo) y, por lo tanto, está sujeto a una evaluación de conformidad por parte de un organismo notificado.

En lo que respecta a la contratación pública hospitalaria, esto implica exigir a los proveedores que demuestren la situación reglamentaria de su sistema, incluida la clasificación según el MDR/IVDR, la intervención de un organismo notificado cuando proceda, y la documentación sobre el rendimiento desglosado por grupos de población y las medidas de mitigación del sesgo cuando sea pertinente. Los contratos de adquisición también deberían exigir a los proveedores que faciliten la documentación, la información sobre transparencia y las medidas de supervisión que necesitan los responsables de la implantación en virtud de la Ley de IA, incluidas disposiciones para garantizar resultados equitativos para todos los pacientes.

Reglamento General de Protección de Datos (RGPD)

En la práctica, también son relevantes varios instrumentos adicionales de la UE para la gobernanza de la IA en el ámbito sanitario. El RGPD sigue siendo una restricción fundamental para la IA biomédica, ya que los datos sanitarios se consideran datos personales de categorías especiales (Unión Europea, 2016). Las implantaciones en hospitales suelen requerir evaluaciones de impacto en materia de protección de datos (EIPD), que la Ley de IA (artículos 26, apartado 9, y 27, apartado 4) vincula explícitamente a las obligaciones de quien las implanta (incluida la consideración de los impactos desiguales en las poblaciones desglosadas por género y origen racial o étnico, siempre que sea factible).

Espacio Europeo de Datos Sanitarios (EHDS)

El EHDS tiene como objetivo facilitar el acceso seguro a los datos sanitarios para la prestación de asistencia sanitaria y la investigación, al tiempo que se mantienen sólidas garantías de protección de datos (Unión Europea, 2025). Se espera que desempeñe un papel clave a la hora de facilitar conjuntos de datos más representativos para el desarrollo de la inteligencia artificial biomédica, apoyando una evaluación centrada en la equidad y reduciendo el riesgo de que determinados grupos demográficos queden infrarrepresentados (Comisión Europea, 2025).

¿Qué significa esto para ti como profesional de la salud?

El panorama jurídico y ético descrito en este módulo se traduce en responsabilidades concretas para los profesionales sanitarios que trabajan con herramientas de IA. Entre ellas se incluyen:

• Supervisión humana: Las herramientas clínicas de IA utilizadas para el diagnóstico, la estratificación del riesgo, el cribado o el apoyo al tratamiento nunca deben funcionar como tomadores de decisiones autónomos de facto. Tienes tanto el derecho como la responsabilidad de cuestionar críticamente los resultados de la IA en lugar de ceñirte a ellos, y tu institución tiene la obligación de apoyarte para que lo hagas.

• Transparencia:  Se debe informar a los pacientes siempre que se utilicen sistemas de IA en la toma de decisiones clínicas que les afecten, incluyendo el cribado, la priorización o la puntuación de riesgo. Cuando los resultados generados por la IA sirvan de base para los servicios sanitarios públicos, dichos resultados deben ser claramente identificables como tales e ir acompañados de explicaciones accesibles sobre su función, sus limitaciones y los riesgos de sesgo conocidos. Los pacientes también deben ser informados cuando sus datos personales se utilicen para el entrenamiento, las pruebas o el aprendizaje continuo de la IA, especialmente cuando se trate de datos sanitarios sensibles. Estas medidas de transparencia son esenciales para defender los derechos de la Carta a la protección de datos y a un recurso efectivo, y para permitir que las personas puedan impugnar de manera significativa las decisiones que puedan afectarles negativamente.

• Notificación: Cuando observes resultados que parezcan incoherentes, inexplicables o potencialmente discriminatorios, especialmente entre grupos de género o raciales, tienes la obligación de documentar y notificar estas preocupaciones a través de los mecanismos de supervisión de tu institución.

• Adquisición: Cuando tu institución adquiera sistemas de IA, los derechos fundamentales y los criterios de sesgo deben formar parte integral de esa decisión, favoreciendo soluciones que demuestren prácticas de mitigación del sesgo sólidas, transparentes y verificadas de forma independiente.

Ahora ya dispones de una base sólida tanto en los principios éticos como en los instrumentos jurídicos que regulan la IA en el ámbito sanitario. El siguiente módulo te permitirá ponerlo en práctica: el Módulo 5 presenta el Modelo Regulador de la IA, una herramienta desarrollada de conformidad con la Carta de los Derechos Fundamentales de la UE, específicamente para proporcionar a los hospitales y a las organizaciones de la sociedad civil un marco de gobernanza práctico que abarque todo el ciclo de vida de los sistemas de IA, desde la adquisición y la validación hasta la implantación, el seguimiento y la rendición de cuentas.

Para poder completar la formación y recibir el certificado, necesitas realizar la sesión práctica (en formato online). Inscríbete en el correo comunicacion.lobbyeuropeo@gmail.com y recibirás toda la información. ¡Gracias!

A continuación: Módulo 5

Bibliografía

Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8th ed).

Christoforaki, M., & Beyan, O. (2022). AI Ethics—A Bird’s Eye View. AI Ethics—A Bird’s Eye View, 12(9), Article 9. https://doi.org/10.3390/app12094130

Committee of experts on internet intermediaries (MSI-NET). (2018). Algorithms and human rights—Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [Study]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c

European Commission, European Health Data Space (EHDS), Brussels: European Commission, 2025.

European Commission, Timeline for Implementation of the EU AI Act, Brussels: European Commission, 2024.

European Union, Regulation (EU) 2016/679 on General Data Protection Regulation (GDPR), Brussels: EU, 2016.

European Union, Regulation (EU) 2017/745 on Medical Devices (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2017/746 on In Vitro Diagnostic Medical Devices (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2025/327 on the European Health Data Space (EHDS), Brussels: European Union, 2025.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. Zenodo. https://doi.org/10.5281/ZENODO.3240529

Medical Device Coordination Group & European AI Board, Guidance on MDR/IVDR and AI Act Interplay, Brussels: European Commission, 2025.

Miles, S. H. (2005). The Hippocratic Oath and the Ethics of Medicine. Oxford University Press, USA.

Regulation (EU) 2024/1689 of the European Parliament and of the Council, Laying Down Harmonised Rules on Artificial Intelligence (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.

Tröhler, U. (2008). The Historical Development of International Codes of Ethics for Human Subjects Research. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052

Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Issues in biomedical ethics. Disease-a-Month, 39(12), 874–925.