Jaime del Barrio, senior advisor healthcare and life sciencies de EY, y Ana Pastor, presidenta de AMA, participaron en el coloquio “El impacto de las nuevas tecnologías en la responsabilidad profesional”, coordinador por Luciano Vidán, presidente del Colegio de Médicos de A Coruña, en la primera jornada de la IV Escuela de la Profesión Médica
Revolución rápida, disruptiva e inimaginable
Jaime del Barrio inició su intervención recordando los avances en transformación digital en el sector de la salud, “experiencias de éxito y de fracaso” durante los último años.
“Hace dos años”, añadió, “ya decíamos que no habíamos sido formados para pensar de manera diferente”, a lo que aclaró que “tenemos que asumir la tecnología como una herramienta que puede ayudarnos y no como un fin”.
Asimismo, ante los cambios en las dinámicas de trabajo, en las que ahora se utilizan entornos de IA generativa, destacó que “trabajar así implica conocimiento, datos y ciberseguridad”, por lo que definió la IA como “una revolución disruptiva e inimaginable”.
El papel del médico en esta revolución, en palabras de Del Barrio, “es estar en la génesis de la solución del problema, formándonos y entendiendo que esta revolución es diferente y que es algo que está por encima de nosotros”, no sin mencionar que “tienen que preocuparnos los sesgos de este tipo de tecnologías” y sin olvidar que “todavía no hemos avanzado en muchos de los procesos que hemos telematizado”.
Como conclusiones, el ponente hizo 6 reflexiones:
- La tecnología no es nuestra: induce una serie de resultados dependiendo de cómo lo programemos, lo que implica, insistió, “sesgos”.
- Los pacientes son personas informadas, de modo que “el médico tiene que acompañar y estar más allá, más en el foco del paciente”.
- La responsabilidad compartida. Un algoritmo propone y el médico decide. En este sentido, explicó que “alguien nos va a pedir responsabilidades y nosotros podemos pedirla a quien ha programado esa IA”.
- Nuevas realidades suponen nuevas competencias. Esto implica un cambio de cultura, diagnóstico en base a cálculos, algoritmos, etc.
- Valorar qué vamos a resolver y cómo vamos a evaluar si una tecnología no nos sirve, si no sabemos qué valor nos va a aportar.
- El médico es el garante de la humanización en un mundo tecnológico.
Para finalizar, el experto matizó que “estamos en un momento diferente porque no hablamos de poner informática a lo que estamos haciendo, sino de trabajar de una forma distinta”.
Adaptación y regulación necesarias
En su turno de palabra, Ana Pastor hizo un rápido repaso por los cambios en el contexto clínico-jurídico: “hemos pasado de una actuación conforme a los estándares científicos y profesionales del momento, a un consentimiento informado obligatorio en España desde la Ley 41/2002, hasta la digitalización, la IA y sus herramientas”.
Así, valoró que “la IA es un hito que lo cambia todo”, al tiempo que aseguró que “la IA no sustituye al médico pero sí condiciona sus decisiones”. En este sentido, indicó que “en la trazabilidad, hay que dejar constancia de qué sistema se utilizó, qué recomendación dio y cuál fue la decisión final”. Además, “existe un sesgo de datos, dado que los algoritmos pueden inducir errores si están entrenados con poblaciones poco representativas”. En cuanto al consentimiento informado, Pastor habló de un “consentimiento informado reforzado, en el que el paciente debe saber si su diagnóstico o tratamiento se apoya en IA, cuáles son sus límites y qué alternativas existen”.
Igualmente, recordó las “buenas prácticas clínicas, con supervisión humana efectiva, validación local de la herramienta, doble firma en decisiones críticas y protocolos de desactivación”.
También hizo varias observaciones a los retos de las pólizas de responsabilidad civil profesional, “ya que la IA introduce nuevos riesgos: daños derivados de un defecto del software o sus actualizaciones, ciberataques que bloquean historias clínicas o alteran datos de pacientes, sesgos algorítmicos que conducen a diagnósticos erróneos o discriminatorios y costes de peritaje técnico, imprescindibles para reproducir el funcionamiento del algoritmo ante un tribunal”, así como nuevas coberturas la adaptación de las mismas.
Como medida inmediata, Pastor contextualizó que “estamos incorporando IA aquí y allá, proyectos distintos y esto nos pasará factura a la hora de integrarla”, por lo que propuso 4 pasos para la introducción de procesos de IA:
- Aprobar una política de uso de la IA clínica en el conjunto del sistema sanitario: qué es la IA, qué guías tenemos, quién las autoriza, etc.
- Consentimiento informado en el que se puede incluir un apartado específico sobre la IA.
- Registrar siempre las versiones de software usadas y la justificación de la decisión médica.
- Revisar si la póliza cubre estos nuevos riesgos.
La ex ministra de Sanidad apostó por “ponernos a regular porque manejamos datos de pacientes, porque la IA transforma la responsabilidad pero no debe generarnos inseguridades y porque es buena si la usamos bien”.
En el sentido de la regulación, aplaudió la propuesta del Ministerio para presentar un proyecto de Ley de Salud Digital.
Finalmente, concluyó que “la confianza entre el médico y el paciente, en este contexto, está en la ética profesional”.
