Los científicos ya avisan del peligro de aplicar inteligencia artificial en los historiales médicos de los pacientes
Con el título de «Los grandes modelos lingüísticos y la degradación del historial clínico», tres académicos han argumentado en un estudio que introducir herramientas de inteligencia artificial como ChatGPT para el estudio de historiales médicos puede ser bastante peligroso, debido a la inmadurez y los numerosos fallos e imprecisiones que esta tecnología presenta.
«Internet se ha ido diluyendo progresivamente con basura generada por inteligencia artificial. ¿Corren los registros médicos el mismo destino?»,
«Además, la revisión de historias clínicas y la redacción de notas son tareas complejas y cognitivamente significativas con una profunda influencia en el comportamiento de los médicos. No podemos suponer sin una buena evidencia que delegar esta parte de nuestra cognición a los LLM conducirá a una atención de alta calidad», añade el investigador. En otras palabras, los riesgos son demasiado grandes como para colocar a IAs como asistentes de los médicos y especialistas, al menos, de momento.
Hay otros problemas
«Por último, tememos que este enfoque corra el riesgo de cimentar los errores del curso anterior de desarrollo de la historia clínica electrónica. En lugar de repensar la organización de la información desde cero (como se necesita desesperadamente), el enfoque actual de los LLM corre el riesgo de encubrir y solidificar el status quo«, señala el científico. De esta forma, defiende la necesidad de una mejora a la hora de tratar los historiales médicos, que debe resolverse antes de simplemente aplicar la IA sobre la rutina ya existente.
El investigador termina su hilo asegurando: «Somos optimistas sobre el futuro de los LLM, pero estos desafíos de implementación no se pueden ignorar. Necesitamos más y mejor ciencia que explore el impacto de los LLM en los registros médicos, y lo necesitamos ANTES de correr el riesgo de causar un daño irreparable a nuestro recurso de datos más importante».
En X, el hilo ha recibido muchas felicitaciones por parte de otros compañeros médicos o del sector de la salud, e incluso, el actual jefe de Salud en OpenAI, Karan Singhal, ha respondido McCoy diciendo: «¡Increíble trabajo!».
El hematólogo @DavidSteensma ha comentado también el hilo, señalando que la IA podría ser útil a la hora de realizar la burocracia necesaria, pero no para asesorar directamente a los médicos: «Casi necesitamos dos registros médicos paralelos: uno lleno de palabras de moda y basura de IA para la facturación y para satisfacer métricas istrativas arbitrarias, el otro conciso y con información seleccionada por el proveedor para comunicarnos con colegas clínicos sobre los pacientes». En otras palabras, un registro con toda la palabrería de cara a la galería, y otro que sea realmente útil para los profesionales a la hora de tratar con el paciente.
