La Unión Europea está liderando a nivel global la regulación legal de la inteligencia artificial (IA) y desarrollando una importante actividad legislativa, entre la que destaca la Ley de IA. El propósito de este artículo es dar a conocer esta normativa y analizar 3 implicaciones prácticas que van a tener que gestionar los radiólogos. En relación con el «enfoque de riesgos», las aplicaciones de IA en radiología van a ser clasificadas como de alto riesgo, lo cual conlleva el cumplimiento de una serie de requisitos y obligaciones. En segundo lugar, la «supervisión efectiva del radiólogo» implica establecer niveles de supervisión-automatización, su grado de autoridad y definir cómo se van a documentar las recomendaciones de la IA en el informe radiológico. Por último, se examinan las formas de «responsabilidad legal» en las que puede incurrir el radiólogo en el supuesto de que el binomio radiólogo-IA cometa un error diagnóstico.
Introducción
En 1990 se publicó la primera aplicación de inteligencia artificial (IA) en radiología, utilizada en el diagnóstico de radiografías de tórax neonatal1. Después de 4 décadas con largos «periodos de invierno de IA»2, se ha llegado a la situación actual, en la que se está pasando rápidamente de la etapa de investigación experimental a la fase de implementación práctica3. En la actualidad son 127 los productos de IA en radiología que están autorizados en la Unión Europea (UE) y están marcados con
Propuesta de reglamento sobre inteligencia artificial: Ley de Inteligencia Artificial
La Ley-IA-UE14 fue presentada por la Comisión Europea (CE) en abril de 2021 y tiene un doble objetivo: garantizar que en su aplicación se cumplan unos requisitos de seguridad elevados y prevenir daños y perjuicios a los usuarios. En diciembre de 2022 el Consejo Europeo estableció su posición provisional sobre esta propuesta, y sentó la base para los preparativos de las negociaciones con el Parlamento Europeo15 (PE). El 14 de junio de 2023 el PE aprobó esta ley con la incorporación de 779
El enfoque de riesgos
Es la piedra angular de la Ley-IA-UE, la cual de forma conjunta con el RGPD22 y el Reglamento de Productos Sanitarios31 constituyen la triada legislativa que regula la posición de la UE en este tema.
Supervisión en radiología
La Ley-IA-UE establece como principio cardinal la supervisión humana14, y en los sistemas de alto riesgo impone como requisito imprescindible que su diseño y desarrollo permita que sean «supervisados de manera efectiva por personas físicas»16.
La normativa en la Unión Europea
El PE19 y el grupo de expertos en Responsabilidad Civil e IA han recomendado ajustes legales en las reglas sobre responsabilidad civil48 y, fruto de ello, la UE ha presentado 2 propuestas de directivas estrechamente vinculadas:
-
Directiva sobre responsabilidad civil extracontractual en materia de IA20. Su objetivo es mejorar el acceso a la información y facilitar la carga de la prueba en relación con los daños provocados por los SIA.
-
Directiva sobre responsabilidad por los daños causados por
Supervisión del radiólogo y tipos de responsabilidad
A la hora de analizar la conexión entre niveles de supervisión del radiólogo y tipos de responsabilidad, nos vamos a ceñir a su actuación en el proceso diagnóstico, lo que incluye: inferencia diagnostica, toma de decisiones, generación de informes y comunicación de resultados. En este rol su función principal es garantizar la exactitud diagnóstica y seguridad de los informes radiológicos.
El análisis de las conexiones de las otras fases del ciclo de vida quedan fuera del alcance de esta
Códigos de buenas prácticas
En este aspecto el papel de las sociedades científicas es primordial, ya que deben establecer estos códigos en todo el ciclo de vida del SIA (con especial énfasis en el proceso diagnóstico), recomendando indicadores-estándares de calidad y seguridad. También deben determinar cuáles son las mejores prácticas de formación básica y continuada, tanto para residentes, como para especialistas74.
Conclusión
Es necesario que los radiólogos adquieran formación sobre aspectos de responsabilidad y los requisitos legales que los SIA deben cumplir en la UE, ya que previamente a su implementación en entornos clínicos les corresponde (junto a otros actores) garantizar que su aplicación cumple las obligaciones relacionadas con la: fiabilidad, robustez técnica, seguridad, privacidad y gobierno de datos, transparencia, explicabilidad, auditabilidad, no discriminación, equidad, reducción del impacto
Conflicto de intereses
Los autores declaran no tener ningún conflicto de intereses.
Financiación
El presente artículo no ha recibido ayudas específicas provenientes de agencias del sector público, sector comercial o entidades sin ánimo de lucro.
Autoría
-
Responsable de la integridad del estudio: AM, SJ, MR y PV.
-
Concepción del estudio: AM, SJ, MR y PV.
-
Diseño del estudio: AM, SJ, MR y PV.
-
Obtención de los datos: AM, SJ, MR y PV.
-
Análisis e interpretación de los datos: AM, SJ, MR y PV.
-
Búsqueda bibliográfica: AM, SJ, MR y PV.
-
Redacción del trabajo: AM, SJ, MR y PV.
-
Revisión crítica del manuscrito con aportaciones intelectualmente relevantes: AM, SJ, MR y PV.
-
Aprobación de la versión final: AM, SJ, MR y PV.
Agradecimientos
A Natalia Antúnez Larrañaga, asociada senior de ciberseguridad, protección de datos y tecnologías emergentes de Écija, por la revisión de los aspectos legales del manuscrito.
Fuente de la Noticia: https://www.sciencedirect.com/science/article/abs/pii/S0033833824000043
