Las academias europeas de ciencias (EASAC) y de medicina (FEAM) reclamaron este miércoles en Bruselas mayores controles sobre el uso de la inteligencia artificial (IA) en la sanidad y pidieron que estas herramientas sean tratadas como cualquier otra intervención médica, con beneficios demostrados, riesgos conocidos y supervisión continua.
Un informe elaborado por 22 científicos designados por las academias reconoce que la IA puede acelerar los escáneres, reducir la radiación en resonancias y TAC, detectar tumores y anticipar la respuesta de los pacientes a determinados tratamientos. También puede contribuir a vigilar enfermedades, prever brotes y reducir la carga administrativa de los hospitales.
Sin embargo, los especialistas alertan que la ausencia de normas claras puede provocar filtraciones de datos, sesgos algorítmicos y pérdida del control humano. «La IA está entrando en la práctica clínica y administrativa más deprisa de lo que muchos sistemas sanitarios pueden evaluarla, gobernarla y vigilarla de forma independiente», señaló André Knottnerus, copresidente del grupo de trabajo por la EASAC.
El documento propone evaluar de forma transparente los beneficios de cada herramienta antes y después de introducirla en los sistemas sanitarios. También plantea informar a los pacientes cuando se utilice inteligencia artificial y garantizar mecanismos para presentar reclamaciones.
Advierten riesgos para pacientes
Los expertos advierten que un sistema con buenos resultados durante las pruebas puede fallar al utilizarse con pacientes reales debido a diferencias entre poblaciones, equipos médicos o métodos de trabajo de los hospitales. Por esta razón, consideran prematuro permitir que la IA determine por sí sola el orden de atención en urgencias, pues un paciente grave podría quedar relegado.
El informe también señala riesgos de desigualdad cuando los datos empleados para entrenar estos sistemas no representan a toda la población. Esto podría reducir su efectividad entre minorías, niños o habitantes de zonas rurales y ampliar las diferencias entre centros sanitarios con mayores recursos y aquellos que disponen de menos capacidades. Además, los sistemas pueden ser manipulados mediante alteraciones casi imperceptibles en los datos para inducir recomendaciones equivocadas sobre tratamientos.
Los científicos advierten también sobre el impacto que un uso continuado de estas herramientas podría tener en capacidades médicas como el juicio clínico y la empatía. El documento menciona un estudio en el que gastroenterólogos redujeron un 20 % su capacidad para detectar pólipos sin asistencia de inteligencia artificial después de acostumbrarse a utilizarla.
Piden regulación y supervisión independiente
«Necesitamos especificaciones claras para demostrar un beneficio clínico real en distintas poblaciones y contextos, y para asegurar que se usan datos representativos y de calidad», afirmó Luis Martí-Bonmatí, copresidente por FEAM. El informe propone probar los sistemas en entornos regulatorios controlados antes de generalizar su utilización y, una vez implementados, someterlos a supervisión independiente, auditorías y mecanismos de notificación de incidentes. También plantea normas armonizadas en Europa, intercambio transfronterizo de datos anonimizados, supervisión conjunta y competencias en IA para los profesionales médicos. «Ahora es el momento de actuar si queremos confiar nuestra salud a la IA», subrayó Knottnerus.
Deja una respuesta