Cristina Gil, catedrática de Derecho Civil y autora del capítulo IV, “Entre datos y diagnósticos: IA médica con garantías”, del nuevo Manual de buenas prácticas para el uso de la inteligencia artificial en Medicina de la Organización Médica Colegial (OMC), analiza el encaje jurídico de la inteligencia artificial en el ámbito sanitario. El manual se presentará el próximo 3 de junio.
¿Qué aporta este Manual de la OMC al debate sobre IA sanitaria que no estuviera ya recogido en la regulación europea?
Creo que la gran aportación del Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina de la OMC es que traduce un marco regulatorio muy complejo al lenguaje real y cotidiano de la práctica clínica. La normativa europea habla de supervisión humana, control de sesgos y protección de datos, pero el médico necesita algo más concreto: ¿qué significa todo eso cuando tiene delante a un paciente o ante una decisión diagnóstica compleja? Y esa es realmente la gran aportación del Manual. No se limita a recopilar normas o principios abstractos. Intenta traducirlos a situaciones clínicas reconocibles.
¿Cómo?
Por ejemplo, cuando habla de “supervisión humana significativa”, deja claro que no basta con validar automáticamente lo que propone un algoritmo. El profesional tiene que poder entender la recomendación, revisarla críticamente, contextualizarla e incluso apartarse de ella si clínicamente no es adecuada. Este matiz es muy importante. Imaginemos un sistema de IA en Urgencias que clasifica automáticamente a los pacientes según el riesgo clínico. Si a consecuencia de la presión asistencial, el profesional termina aceptando todas las recomendaciones sin revisar los datos clínicos, la supervisión deja de ser significativa. Distinto sería el caso de una radióloga que comprueba personalmente un TAC previamente analizado por una IA, compara estudios previos y contextualiza el hallazgo antes de tomar una decisión, para la que será de ayuda el apoyo de la IA.
«El reto es convertir el Manual en cultura operativa dentro de las organizaciones sanitarias”
¿Qué más aporta desde el punto de vista de la profesión médica?
Incorpora algo especialmente relevante: una mirada humanista y deontológica del uso de la IA. El debate ya no se limita a la seguridad o al cumplimiento normativo. En estos momentos se plantean cuestiones más profundas y muy presentes ya en hospitales o en consultas: cómo afecta la IA a la relación médico-paciente, cómo preservar la autonomía clínica o cómo evitar que el médico acabe siendo un mero validador de decisiones algorítmicas. La IA puede asistir, acelerar o priorizar procesos, pero la decisión clínica debe seguir siendo humana. Puede parecer una obviedad, pero es fundamental que el Manual lo reitere con claridad.
¿Este Manual puede convertirse en una referencia práctica real para hospitales y profesionales o corre el riesgo de quedarse en el plano teórico?
Esta es una de las cuestiones fundamentales que se planteó desde el inicio: el riesgo de que el Manual terminara siendo un documento interesante, pero sin impacto real en la práctica asistencial. La verdad es que existe mucha literatura sobre IA sanitaria, aunque en gran parte se mueve entre lo técnico y lo regulatorio, mientras que el médico necesita respuestas prácticas: qué preguntas debe hacerse antes de utilizar una herramienta, cómo detectar riesgos o qué límites no deberían cruzarse.
¿Y qué preguntas debe hacerse?
El Manual intenta responder precisamente a eso, por lo que colma un vacío evidente. Por este motivo incorpora listas de verificación, recomendaciones operativas, escenarios clínicos y protocolos mínimos. No habla de la IA en abstracto, sino de cómo convivir con ella en el día a día asistencial. Además, llega en un momento especialmente sensible. La IA ya ha entrado en hospitales y en consultas -a veces incluso de modo informal-. Hoy no es raro encontrar profesionales utilizando herramientas generativas para resumir informes, redactar documentación o buscar apoyo rápido ante determinadas decisiones clínicas. Muchas veces eso ocurre sin protocolos claros sobre protección de datos, trazabilidad o supervisión. Y eso tiene consecuencias prácticas en la clínica.
«si un profesional introduce historias clínicas completas en una herramienta generativa externa no autorizada, el riesgo para la seguridad es muy grande»
La cuestión ya no es si la IA llegará a la medicina. Eso ya ha ocurrido. La cuestión ahora es cómo convivimos con ella sin perder seguridad clínica, criterio profesional ni capacidad crítica. Por eso creo que el verdadero reto es convertir este Manual en cultura operativa dentro de las organizaciones sanitarias y que se materialice en formación, protocolos, estructuras de supervisión y espacios reales de gobernanza clínica.
¿Cuál ha sido el principal reto al intentar equilibrar innovación tecnológica, seguridad jurídica y ética médica?
Probablemente escapar de los dos extremos que dominan hoy buena parte del debate sobre IA sanitaria. Por un lado, el entusiasmo tecnológico acrítico que implica la idea de que toda innovación es necesariamente positiva o de que los algoritmos terminarán sustituyendo el juicio clínico. Por otro, una visión puramente defensiva que contempla la IA casi exclusivamente como una amenaza. Entre ambos extremos había que construir algo complicado: un equilibrio razonable entre innovación, seguridad y humanismo médico. Es evidente que la IA tiene un potencial enorme. Puede mejorar diagnósticos, optimizar procesos asistenciales, impulsar medicina personalizada o acelerar investigación clínica. No obstante, también introduce riesgos reales: automatización excesiva, dependencia tecnológica, opacidad algorítmica, sesgos o pérdida de autonomía profesional. Y ahí aparece una cuestión de fondo especialmente importante: cómo incorporar IA sin desdibujar aquello que hace que la medicina siga siendo una profesión humana.
«hay elementos insustituibles en el médico humano: la empatía, la prudencia clínica o la relación médico-paciente”
Esta no es una cuestión menor. El riesgo no es solo tecnológico. También existe el riesgo de que la práctica médica termine reducida a métricas, predicciones y validaciones automáticas. Por eso el Manual adopta una posición clara: la innovación solo tiene sentido si fortalece -y no sustituye- el juicio clínico y la relación entre el profesional y el paciente.
¿Qué mensaje trasladaría a los médicos que ven la IA con desconfianza o incertidumbre?
Lo primero, que esa incertidumbre es completamente razonable. De hecho, probablemente, sería más preocupante una aceptación acrítica de la IA en un ámbito tan sensible como la medicina. Hoy la IA puede detectar lesiones en imágenes, priorizar pacientes, redactar informes o generar predicciones clínicas en segundos. Y eso, lógicamente, plantea preguntas inevitables: hasta dónde puede llegar, quién responde cuando falla o qué control mantiene realmente el profesional. Y quizá esta sea una de las claves del debate: no es la medicina la que debe adaptarse ciegamente a la tecnología, sino la tecnología la que debe adaptarse a los valores de la medicina. Porque hay elementos claramente insustituibles en el médico humano: la empatía, la prudencia clínica, la contextualización o la relación médico-paciente. Ahora bien, también hay tareas donde la IA puede aportar muchísimo valor y liberar de tiempo al profesional en tareas para las que el médico es sustituible.
«un sistema puede detectar una posible hemorragia cerebral en un TAC urgente segundos después de realizar la prueba»
¿Cuáles?
Por ejemplo, un sistema puede automatizar documentación repetitiva o detectar una posible hemorragia cerebral en un TAC urgente segundos después de realizar la prueba. Eso puede acelerar decisiones críticas y mejorar tiempos asistenciales. Con todo, la interpretación final y la responsabilidad clínica siguen requiriendo criterio profesional. El médico no necesita convertirse en ingeniero ni comprender toda la arquitectura matemática de un algoritmo, pero sí necesita entender qué puede hacer esa herramienta, cuáles son sus límites y en qué situaciones puede equivocarse. Solo bajo esa premisa puede utilizarse la IA como una herramienta de inteligencia aumentada de apoyo, pero no como sustituta del juicio clínico.
¿Se puede garantizar privacidad y seguridad cuando la IA necesita cantidades masivas de datos sanitarios para entrenarse?
La IA necesita enormes volúmenes de datos clínicos: radiografías, TAC, historias clínicas, datos genéticos o monitorización continua. Gracias a ello ya existen algoritmos capaces de detectar, por ejemplo, lesiones pulmonares mínimas antes incluso de que sean visibles para el ojo humano. Ese es el enorme potencial de la IA sanitaria.
No obstante, cuanto más valiosos y masivos son los datos, mayores son también los riesgos para la privacidad, la seguridad y la confianza del paciente. Imaginemos una empresa tecnológica que accede a imágenes médicas, datos genéticos y evolución clínica de millones de pacientes para entrenar modelos predictivos. Aunque los datos estén anonimizados sigue existiendo el riesgo de reidentificación, de reutilización no prevista o de pérdida de control sobre información extremadamente sensible. Y aquí conviene evitar tanto el alarmismo como la ingenuidad, porque no basta con tener una regulación.
«No basta con validar automáticamente lo que propone un algoritmo”
También hace falta cultura organizativa, supervisión continua y formación real de los profesionales. Un hospital puede disponer de protocolos jurídicos impecables, pero si un profesional introduce historias clínicas completas en una herramienta generativa externa no autorizada, el riesgo para la privacidad y para la seguridad es muy grande. Y creo que ahí el Manual aporta algo especialmente valioso. No aborda la privacidad únicamente desde el cumplimiento normativo, sino también desde la práctica asistencial real. Introduce una idea muy importante: la seguridad de los datos ya no depende solo de los estándares jurídicos o tecnológicos, sino que incidirán especialmente las decisiones cotidianas de los profesionales sanitarios. Ello implica que, en el fondo, la confianza del paciente seguirá siendo uno de los pilares esenciales de la medicina, y cualquier integración de la IA que ponga en riesgo esa confianza estará comprometiendo mucho más que un sistema tecnológico: estará afectando a la propia relación médico-paciente y a la dimensión profundamente humana sobre la que se sostiene la práctica clínica.
