Durante la I Jornada de Inteligencia Artificial en Medicina organizadas por la Federación de Asociaciones Científico Médicas Españolas (FACME) se han debatido aspectos de la regulación de los datos que se emplean en IA.
11 de junio 2024. 4:47 pm
El reglamento de inteligencia artificial, el reglamento de productos sanitarios y el reglamento del Espacio Europeo de datos de salud centran el marco de IA aplicada a la salud. “Estos reglamentos incorporan principios éticos que tienen un impacto alto en el entorno sanitario”, según ha…
El reglamento de inteligencia artificial, el reglamento de productos sanitarios y el reglamento del Espacio Europeo de datos de salud centran el marco de IA aplicada a la salud. “Estos reglamentos incorporan principios éticos que tienen un impacto alto en el entorno sanitario”, según ha explicado Lucía Escapa Castro, jefa del Gabinete de la Secretaría General de Salud Digital, Información e Innovación del SNS, en la mesa Regulación ético-legal e implementación de las nuevas tecnologías por parte de la Administración de la I Jornada de Inteligencia Artificial en Medicina, organizada por Federación de Asociaciones Científico Médicas Españolas (FACME), que se ha celebrado en el Colegio de Médicos de Madrid.
Para la experta, el reglamento del Espacio Europeo de datos de salud tiene dos partes, primera se refiere al uso primario de los datos, es decir, el usar mis datos de salud para proporcionarme asistencia sanitaria. De ahí se deriva la regulación tanto de qué es una historia clínica electrónica europea como de qué tienen que cumplir los sistemas de información que manejan historias clínicas digitales europeas.
La segunda parte se centra en utilizar datos de salud de unas personas para desarrollar productos, medicamentos servicios, algoritmos o proporcionar formación, hacer estadísticas o desarrollar políticas públicas en beneficio de otras personas, es decir uso secundario de los datos. La novedad más relevante del reglamento con respecto a la IA es que es una herramienta que permite hacer ese uso secundario sin necesidad de consentimiento. Es una diferencia sustancial respecto de la regulación previa nivel europeo, que se aplica al uso secundario de los datos.
Datos de los algoritmos de IA
Eso afectará cuando se empleen los algoritmos de inteligencia artificial en la asistencia sanitaria, porque según para que se utilicen van estar sujetos al reglamento 745/2017 y van a tener que pasar un proceso de certificación. La inteligencia artificial va a impactar porque cuando los usuarios, los pacientes y los profesionales quieran acceder a los datos de salud de uso primario necesitarán seguir este último reglamento.
Además, el reglamento de ciberresiliencia va a obligar a los prestadores de asistencia sanitaria que manejan sistemas de historia clínica a cumplir con unas condiciones de ciberresiliencia específicas.
Riesgos
El balance riesgo beneficio y las medidas para contrarrestar el riesgo es el que inspira el reglamento de inteligencia artificial. Unos de los principales es el riesgo de manipulación o de discriminación.
Por eso, Lucía Escapa Castro señala que “habrá que ir trabajando, empezando por los ámbitos en los que el riesgo, que es un concepto que inspira a todos estos reglamentos, sea lo suficientemente bajo como para ayudarnos a aprender a mejorar en el uso, a ganar la confianza de los profesionales y a mejorar hacia un futuro en el que se puedan hacer cosas más complicadas”.
Datos secundarios
Federico de Montalvo Jääskeläinen, profesor de Derecho en la Universidad de Comillas y expresidente del Comité́ de Bioética de España, en su conferencia, se ha planteado si realmente la inteligencia artificial va a venir a sustituir al médico y si eso es bueno. “Los datos secundarios han dejado de ser nuestros porque los datos salvan vidas; es decir, el dato hasta hace poco era un elemento que nos correspondía a nosotros, pero un dato de salud salva vidas y ha dejado de pertenecernos. Seguimos todavía en un modelo basado en una privacidad y no en la solidaridad. Hemos implantado un sistema de solidaridad, que puede afectar a nuestra integridad física, como es el sistema de donación y trasplante de órganos, pero cuando hablamos de otros parece que hablamos de otro mundo”, ha apuntado el profesor.
Hay que recordar que nuestros derechos fundamentales existe una jerarquía; la integridad física tiene un valor superior al que tiene la privacidad. “Obviamente no estoy diciendo que se pueda vulnerar fácilmente la privacidad, que es un derecho, pero que hay que establecer un equilibrio entre el interés colectivo y el interés individual, y en una investigación en salud siempre hay un interés público”.
Algo que le preocupa a Montalvo es que el algoritmo se convierta en el paradigma de la toma de decisiones y que el médico tenga miedo a apartarse de ese algoritmo. “Habrá que desarrollar herramientas y formar a nuestros residentes en el algoritmo y si se considera que hay algo en algoritmo que falla, se pueda sustituir. De hecho, la ley de profesiones sanitarias establece que el diagnóstico lo hace un profesional sanitario, nunca una herramienta”.
Relación médico paciente
La relación médico paciente es una relación esencialmente humana. Ya lo decía el doctor Marañón: la silla es el mejor instrumento de diagnóstico. “Escuchar al paciente que quiere ser escuchado”.
La inteligencia artificial nos trae nuevos dilemas sobre el uso de datos. “Plantearía una postura flexible. Tenemos el deber moral de compartir los datos, pero el problema para mí no es que se usen los datos es ver cómo se va a usar esos datos y en qué tipo de inteligencia artificial. La relación médico paciente tiene elementos que trascienden a lo tecnológico”.
