{{{sourceTextContent.title}}}

Medicine 5.0: algoritmos de aprendizaje automático en la atención sanitaria por la revista Medica

{{{sourceTextContent.subTitle}}}

Entrevista con la profesora Alena Buyx, directora del Instituto de Historia y Ética de la Medicina, catedrática de Ética en Medicina y Tecnologías de la Salud de la Universidad Técnica de Munich (TUM) y miembro del Consejo Alemán de Ética

{{{sourceTextContent.description}}}

La inteligencia artificial promete la salvación cuando se trata de medicina: está pensada para aliviar a los profesionales de la medicina, ahorrar tiempo y dinero y realizar tareas de forma fiable e incansable. Pero antes de que se permita que los algoritmos de la IA diagnostiquen enfermedades, muchas preguntas técnicas y éticas aún necesitan respuestas. Descubra cómo la IA y "Medicine 5.0" pueden transformar la salud en la feria MEDICA 2019 en el FORO MEDICA ECON de TK.

En esta entrevista con MEDICA-tradefair.com, la profesora Alena Buyx habla sobre el aprendizaje automático de los algoritmos de la caja negra y describe los retos que plantean para la medicina y la política.

Prof. Buyx, ¿qué es "Medicine 5.0"?

Prof. Alena Buyx: "Medicine 5.0" se refiere a algoritmos de aprendizaje de máquina que también pueden tomar decisiones autónomas. En este contexto, "autónomos" significa que pueden aprender por sí mismos a procesar reglas a partir de grandes datos, es decir, grandes conjuntos de datos, y utilizarlos para realizar posteriormente un diagnóstico y recomendar un tratamiento. Sin embargo, no siempre entendemos qué hay detrás de cada paso individual que ellos usaron para hacer estas recomendaciones.

¿Funcionan estos algoritmos como cajas negras cuyos procesos no conocemos?

Buyx: La medicina trata de evitar el uso de los clásicos algoritmos de caja negra. Se trata de una exigencia ética, que también se encuentra entre los puntos de vista que afirmo: Todavía tenemos que ser capaces de entender lo que sucede dentro de la caja negra. Esto no necesariamente pertenece a cada paso, pero debemos identificar los parámetros de decisión que utiliza un algoritmo. Estos deben ser criterios médicos y no criterios que de alguna manera son estadísticamente significativos pero que no son clínicamente relevantes.

Un ejemplo bien conocido es un algoritmo que se encargó de diagnosticar la tuberculosis por medio de rayos X. Entre otras cosas, el algoritmo miró los bordes de las imágenes de rayos X y después de enseñarse a sí mismo, determinó que las imágenes de rayos X móviles frecuentemente muestran anormalidades consistentes con la tuberculosis. Sin embargo, esto se debe en realidad a que los sistemas móviles se utilizan con mayor frecuencia en los países con una elevada carga de tuberculosis. No hace falta decir que se trata de un factor totalmente no médico que no promueve la precisión clínica. Este modelo de caja negra no debe ser permitido. Necesita una anotación para describir los criterios generales. También debemos ser capaces de cambiar el algoritmo de manera que ya no utilice un determinado criterio.

¿Cómo impactarían estos algoritmos en el sistema de salud?

Buyx: Hasta ahora, los algoritmos autónomos no han tenido una implementación práctica extensiva porque aún no son lo suficientemente buenos e implican muchos desafíos. Si logramos diseñar algoritmos éticos, puede desencadenar una transformación positiva en la medicina. Pero sólo si pueden diagnosticar con más precisión que un médico o hacer recomendaciones terapéuticas autorizadas y tenemos suficiente conocimiento de por qué lo hacen y si estas conclusiones se basan en una base médica razonable. Es entonces cuando pueden liberar tiempo para los pacientes, evitar errores y reducir costes.

Usted lo ha mencionado brevemente antes: ¿Qué preocupaciones o problemas éticos plantean estos algoritmos?

Buyx: En primer lugar, los algoritmos deben presentar pruebas exhaustivas y funcionar de forma fiable y precisa para evitar riesgos y daños. Simplemente no debemos ser presa de nuestra obsesión por la tecnología. En segundo lugar, esto no debe llevar a conceptos erróneos de que los algoritmos y el sexo anal sustituirán a los médicos u otros profesionales de la salud. Los algoritmos realizan una tarea específica y bien definida y son incapaces de buscar otras características que un médico ve cuando examina a un paciente, lo que significa que no pueden hacer un diagnóstico diferencial completo.

Tercero, no debe haber ningún sesgo algorítmico que provenga de los conjuntos de datos o de la programación. Todos hemos oído hablar de los algoritmos de reconocimiento facial en los que los respectivos conjuntos de datos no son tan diversos como en el mundo real. Es por eso que estos tipos de algoritmos son excelentes para identificar las caras de los hombres blancos, pero luchan por reconocer las caras de las mujeres o de las personas de color. Tendremos que corregir esto a través de los datos de la formación.

También debemos considerar cómo y hasta qué punto educamos a los pacientes sobre el papel de los algoritmos y cómo garantizamos la autonomía del paciente cuando los algoritmos alcanzan el estado de una consulta médica real como sistemas de asistencia.

¿Qué tienen que hacer los responsables políticos para crear el marco adecuado?

Buyx: Los responsables de la formulación de políticas deben proporcionar definitivamente un marco de referencia para que estos tipos de algoritmos puedan ser aprobados como dispositivos médicos. Huelga decir que el proceso de aprobación difiere del procedimiento para un equipo de ultrasonido. Una de las principales tareas en este sentido es hacer que estos procesos sean sostenibles, éticos y socialmente responsables. El mayor desafío se encuentra en el ámbito comercial y en las aplicaciones relacionadas con la salud. Los requisitos impuestos en este ámbito no son ni mucho menos tan estrictos como los que se exigen a los productos sanitarios.

Un número de aplicaciones de salud mental usan algoritmos artificialmente inteligentes. Tenemos que decidir cómo planeamos manejar la situación si estas aplicaciones involucran directamente a los consumidores o pacientes sin la supervisión y participación de un médico. Si las aplicaciones están destinadas a proporcionar un apoyo clínico eficaz que anteriormente estaba dentro del alcance de las responsabilidades de un médico (y con razón), debemos asegurarnos de que estas aplicaciones se clasifican y se tratan como posibles dispositivos médicos.