IA y salud: los debates éticos que la medicina no puede ignorar

La inteligencia artificial lleva años prometiendo una revolución en la medicina: diagnósticos más precisos, detección temprana de enfermedades, personalización de tratamientos. Parte de esa promesa ya es realidad. Pero junto a los avances han llegado también preguntas incómodas que la comunidad médica, legislativa y tecnológica no puede seguir aplazando.

Este artículo no es un manifiesto antiIA. Es un intento de mirar honestamente los problemas reales que plantea su uso en salud, apoyado en la regulación vigente y en los debates actuales de la bioética clínica.

El marco regulatorio: el AI Act europeo

El Reglamento (UE) 2024/1689, conocido como AI Act, es la primera regulación integral del mundo sobre inteligencia artificial. Entró en vigor en agosto de 2024 y establece un sistema de clasificación de riesgos que tiene consecuencias directas para la IA en salud.

La aplicación es escalonada:

El incumplimiento conlleva multas de hasta 35 millones de euros o el 7% de la facturación global anual, la cifra que sea mayor.

La IA médica es, por definición, de alto riesgo

El AI Act clasifica como alto riesgo los sistemas de IA utilizados en equipos médicos o en software médico según la regulación de productos sanitarios (MDR). Esto significa que cualquier sistema de IA que intervenga en diagnóstico, triage, prescripción o monitorización de pacientes está sujeto a los requisitos más estrictos de la regulación.

Entre esos requisitos destacan la obligatoriedad de supervisión humana (el sistema debe poder ser detenido, corregido o invalidado por un profesional en cualquier momento), la transparencia hacia los usuarios sobre el hecho de que están interactuando con IA, y la gestión de riesgos documentada.

Los tres debates éticos más urgentes

1. El sesgo algorítmico

Un sistema de IA aprende de los datos con los que se entrena. Si esos datos reflejan desigualdades históricas —menores registros clínicos de mujeres en determinadas patologías, infrarrepresentación de ciertas etnias en ensayos clínicos, sesgos socioeconómicos en los historiales— el sistema aprenderá esas desigualdades y las perpetuará.

Ejemplos documentados incluyen algoritmos de triaje que subestimaban el dolor en pacientes de raza negra, o sistemas de predicción de riesgo cardiovascular entrenados casi exclusivamente con datos de hombres blancos de mediana edad. Cuando estos sistemas se despliegan en poblaciones diversas, los resultados pueden ser sistemáticamente erróneos para quienes más necesitan diagnósticos precisos.

2. La caja negra: transparencia y explicabilidad

Muchos sistemas de IA modernos, especialmente los basados en redes neuronales profundas, son opacos por diseño: producen un resultado correcto (o aparentemente correcto) sin que sea posible explicar con precisión por qué llegaron a esa conclusión.

En medicina, esto plantea una pregunta filosófica y práctica fundamental: ¿puede un médico responsabilizarse éticamente de una decisión clínica que no puede explicar? Si el sistema de IA recomienda un determinado tratamiento y el médico lo sigue sin poder evaluar el razonamiento subyacente, ¿quién es responsable si el resultado es adverso?

3. La concentración de poder tecnológico

Los modelos de IA más capaces están en manos de un número muy reducido de empresas privadas, mayoritariamente estadounidenses. En el ámbito sanitario, esto plantea preguntas legítimas sobre la soberanía de los datos de salud, la dependencia tecnológica de sistemas críticos y quién establece las reglas éticas de los sistemas que deciden sobre la salud de los ciudadanos.

Mientras Silicon Valley presiona por una adopción acelerada con pocas restricciones, Bruselas y Madrid intentan imponer controles éticos. La tensión entre innovación y protección no tiene una respuesta fácil, pero el debate es necesario.

La autonomía del paciente en la era de la IA

Uno de los principios fundamentales de la bioética es la autonomía del paciente: el derecho a tomar decisiones informadas sobre su propio cuidado. La IA introduce una complejidad nueva: si un algoritmo determina el riesgo de reingreso de un paciente o la probabilidad de que responda a un tratamiento, ¿debe el paciente saber que esa valoración fue generada por un sistema automatizado? ¿Tiene derecho a rechazar que su caso sea evaluado por IA?

La respuesta legal en Europa es sí: el RGPD ya establece el derecho a no ser objeto de decisiones exclusivamente automatizadas con efectos significativos, y el AI Act refuerza la obligación de transparencia. Pero la implementación práctica en los sistemas sanitarios está aún en sus primeras fases.

Líneas rojas que no deberían cruzarse

Más allá del debate regulatorio, existe cierto consenso ético emergente sobre algunas líneas que la IA en salud no debería cruzar:

• La IA no debe tomar decisiones clínicas autónomas sin supervisión humana cualificada
• Los algoritmos de triaje o asignación de recursos no deben incorporar criterios socioeconómicos como variables de predicción
• El uso de datos de salud para fines distintos al cuidado del paciente requiere consentimiento explícito e informado
• Los sistemas de IA médica deben ser auditables: debe ser posible revisar qué datos usaron, cómo se entrenaron y qué sesgos se identificaron

Conclusión: la IA como herramienta, no como oráculo

La inteligencia artificial tiene un potencial enorme para mejorar la medicina: puede detectar patrones que escapan al ojo humano, procesar cantidades de datos que ningún equipo médico podría manejar, y democratizar el acceso a diagnósticos de calidad en entornos con pocos recursos.

Pero ese potencial solo puede realizarse de forma ética si la IA se concibe como una herramienta de apoyo al profesional sanitario, no como un sustituto de su criterio clínico y de su responsabilidad deontológica. La supervisión humana no es un obstáculo tecnológico: es la garantía de que el progreso no se convierte en negligencia.