El aprendizaje automático y la IA son muy inestables en la reconstrucción de imágenes médicas y pueden dar lugar a falsos positivos y falsos negativos, sugiere un nuevo estudio.
Un equipo de investigadores, dirigido por la Universidad de Cambridge y la Universidad Simon Fraser, diseñó una serie de pruebas para algoritmos de reconstrucción de imágenes médicas basadas en inteligencia artificial y aprendizaje profundo, y descubrió que estas técnicas producen innumerables artefactos o alteraciones no deseadas en eldatos, entre otros errores importantes en las imágenes finales. Los efectos generalmente no estaban presentes en las técnicas de imagen no basadas en IA.
El fenómeno se extendió a través de diferentes tipos de redes neuronales artificiales, lo que sugiere que el problema no se solucionará fácilmente. Los investigadores advierten que confiar en las técnicas de reconstrucción de imágenes basadas en IA para hacer diagnósticos y determinar el tratamiento en última instancia podría dañar a los pacientes.los resultados se informan en el Actas de la Academia Nacional de Ciencias .
"Ha habido mucho entusiasmo por la IA en las imágenes médicas, y bien puede tener el potencial de revolucionar la medicina moderna: sin embargo, hay posibles dificultades que no deben ignorarse", dijo el Dr. Anders Hansen del Departamento de Matemáticas Aplicadas de Cambridgey Física Teórica, que dirigió la investigación con el Dr. Ben Adcock de la Universidad Simon Fraser. "Hemos descubierto que las técnicas de IA son muy inestables en la imagen médica, por lo que pequeños cambios en la entrada pueden dar lugar a grandes cambios en la salida".
Una resonancia magnética típica puede tomar entre 15 minutos y dos horas, dependiendo del tamaño del área que se escanea y la cantidad de imágenes que se toman. Cuanto más tiempo pase el paciente dentro de la máquina, mayor será la resolución de la imagen finalSin embargo, se desea limitar la cantidad de tiempo que los pacientes pasan dentro de la máquina, tanto para reducir el riesgo para pacientes individuales como para aumentar el número total de escaneos que se pueden realizar.
El uso de técnicas de IA para mejorar la calidad de las imágenes de imágenes de resonancia magnética u otros tipos de imágenes médicas es una posibilidad atractiva para resolver el problema de obtener la imagen de la más alta calidad en el menor tiempo posible: en teoría, la IA podría tomarimagen de resolución y convertirla en una versión de alta resolución. Los algoritmos de IA 'aprenden' a reconstruir imágenes basadas en el entrenamiento de datos anteriores, y a través de este procedimiento de entrenamiento tienen como objetivo optimizar la calidad de la reconstrucción. Esto representa un cambio radical en comparación con la reconstrucción clásicatécnicas que se basan únicamente en la teoría matemática sin dependencia de datos anteriores. En particular, las técnicas clásicas no aprenden.
Cualquier algoritmo de IA necesita dos cosas para ser confiable: precisión y estabilidad. Una IA generalmente clasificará una imagen de un gato como gato, pero pequeños cambios, casi invisibles en la imagen, pueden hacer que el algoritmo clasifique al gato como uncamión o una mesa, por ejemplo. En este ejemplo de clasificación de imágenes, lo único que puede salir mal es que la imagen está clasificada incorrectamente. Sin embargo, cuando se trata de la reconstrucción de imágenes, como la utilizada en imágenes médicas, hay variascosas que pueden salir mal. Por ejemplo, detalles como un tumor pueden perderse o agregarse falsamente. Los detalles pueden oscurecerse y pueden aparecer artefactos no deseados en la imagen.
"Cuando se trata de decisiones críticas en torno a la salud humana, no podemos permitirnos que los algoritmos cometan errores", dijo Hansen. "Descubrimos que la corrupción más pequeña, como la causada por el movimiento de un paciente, puede darresultado diferente si está utilizando IA y aprendizaje profundo para reconstruir imágenes médicas, lo que significa que estos algoritmos carecen de la estabilidad que necesitan "
Hansen y sus colegas de Noruega, Portugal, Canadá y el Reino Unido diseñaron una serie de pruebas para encontrar las fallas en los sistemas de imágenes médicas basados en IA, que incluyen MRI, CT y NMR. Consideraron tres cuestiones cruciales: inestabilidades asociadas con pequeñas perturbacioneso movimientos; inestabilidades con respecto a pequeños cambios estructurales, como una imagen del cerebro con o sin un tumor pequeño; e inestabilidades con respecto a los cambios en el número de muestras.
Descubrieron que ciertos pequeños movimientos conducían a innumerables artefactos en las imágenes finales, los detalles se borraban o se eliminaban por completo, y que la calidad de la reconstrucción de la imagen se deterioraría con submuestreos repetidos. Estos errores se extendieron a través de los diferentes tipos de redes neuronales.
Según los investigadores, los errores más preocupantes son los que los radiólogos podrían interpretar como problemas médicos, en lugar de aquellos que pueden descartarse fácilmente debido a un error técnico.
"Desarrollamos la prueba para verificar nuestra tesis de que las técnicas de aprendizaje profundo serían universalmente inestables en las imágenes médicas", dijo Hansen. "El razonamiento para nuestra predicción fue que existe un límite en cuanto a qué tan buena una reconstrucción puede recibir un tiempo de exploración restringidoEn cierto sentido, las técnicas modernas de IA rompen esta barrera y, como resultado, se vuelven inestables. Hemos demostrado matemáticamente que hay un precio que pagar por estas inestabilidades, o dicho de manera simple: todavía no existe un servicio gratuito.almuerzo."
Los investigadores ahora se están centrando en proporcionar los límites fundamentales de lo que se puede hacer con las técnicas de IA. Solo cuando se conozcan estos límites podremos comprender qué problemas se pueden resolver ". La investigación basada en ensayos y errores nunca descubriría quelos alquimistas no podían hacer oro: estamos en una situación similar con la IA moderna ", dijo Hansen." Estas técnicas nunca descubrirán sus propias limitaciones. Estas limitaciones solo pueden mostrarse matemáticamente ".
Fuente de la historia :
Materiales proporcionado por Universidad de Cambridge . La historia original tiene licencia bajo a Licencia Creative Commons . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cita esta página :