Detrás Del Uso De La Inteligencia Artificial En La Salud Debe Haber Siempre Un Profesional Responsable

La inteligencia artificial se ha convertido en una herramienta muy útil que afecta directa o indirectamente a todos los ámbitos de la vida moderna. El cuidado de la salud no es una excepción, y la medicina, sin duda, se ha beneficiado de las tecnologías digitales, pero como en todas las industrias, sus beneficios conllevan riesgos que deben tenerse en cuenta.

Las herramientas de IA no son infalibles y su nivel de efectividad en el cuidado de la salud depende de su diseño de acuerdo con una serie de estándares científicos y éticos.

La Organización Mundial de la Salud ha advertido en repetidas ocasiones que el mal uso de la inteligencia artificial puede perjudicar a los pacientes a través de un diagnóstico erróneo o un mal tratamiento , por lo que se pueden utilizar las herramientas, pero las decisiones siempre deben ser tomadas por un profesional médico calificado.

Marcelo D'Agostino, jefe de sistemas de información y salud digital de la Organización Panamericana de la Salud, habló con Noticias ONU sobre la historia de la inteligencia artificial en la medicina, sus aplicaciones actuales y los riesgos y formas de abordarlos.

fecha

El uso de la inteligencia artificial en medicina comenzó hace varias décadas, pero se ha vuelto más importante debido a la transformación digital asociada a la epidemia, cree el experto. Su uso se remonta a las décadas de 1960 y 1970 , cuando comenzaron los llamados sistemas expertos o sistemas lógicos basados ​​en reglas, pero el principal avance se produjo en la década de 1980, cuando aparecieron sistemas en los que las computadoras aprenden y analizan automáticamente grandes cantidades de datos de materiales médicos. . datos.

La inteligencia artificial con estos algoritmos de aprendizaje comenzó a usarse para interpretar imágenes en la década de 1990.

"Se inspiraron en otras tecnologías, como las que usa la NASA para tomar fotografías. En medicina, comenzaron a utilizarse simultáneamente en la interpretación de imágenes, como las radiografías o las resonancias magnéticas .

Luego nació otro gran movimiento: el movimiento de big data , big data utilizado para analizar grandes conjuntos de datos, lo que lleva a lo que es posible hoy: modelos predictivos, descubrimientos, incluso medicina.

También ha contribuido al desarrollo de la medicina de precisión a través de herramientas que analizan cantidades de datos antes inimaginables. No incluye el diagnóstico precoz de enfermedades basado en datos genéticos.

Y por último, sobre todo tras la llegada de los chatbots o herramientas de comunicación de dispositivos; la gran ola de los últimos meses con ChatGPT y otras herramientas con las que puedes interactuar y buscar información.

El experto agrega que es un desarrollo que ha tenido altibajos.

Las herramientas de IA en el cuidado de la salud deben ser verificadas por personal responsable.

Inteligencia artificial y diagnóstico

¿Es posible diagnosticar con inteligencia artificial? D'Agostino dice que sí, pero destaca que estas tecnologías siempre deben ser monitoreadas o controladas por humanos. Es decir, no dejes que la herramienta te haga un diagnóstico y confía al 100% en este diagnóstico, porque también se detectan algunos errores . Siempre debe estar acompañado por profesionales, siempre debe haber un conjunto de parámetros para utilizar como herramienta de apoyo (...) La idea es que el profesional sea el último responsable del proceso de diagnóstico y toma de decisiones.

En cuanto a los robots quirúrgicos, las operaciones robóticas que requieren mayor precisión en el movimiento así como las intervenciones mínimamente invasivas enfatizan que siempre deben ser supervisadas por humanos.

Incluso con ChatGPT , que puede procesar grandes cantidades de información y brindar un resumen en segundos, es fundamental contar con profesionales y profesionales médicos que sepan utilizar estas herramientas.

exceso de seguridad

Sin embargo, la realidad es que existe el peligro de que los profesionales de la salud se vuelvan demasiado dependientes de ellos y dejen de aprender y actualizarse.

“Hoy estamos en un período de convergencia donde hay muchos profesionales y trabajadores que usan o tienen acceso a herramientas de IA, pero que no han estado expuestos a nada relacionado con la salud digital en su formación profesional ”, explica.

D'Agostino agrega que con el tiempo, “las generaciones más jóvenes realmente aprenderán estas herramientas como parte del proceso educativo. Actualmente existe un mayor riesgo (...) Hoy en día, las personas no necesariamente son capaces de distinguir la herramienta que puede usar evidencia; - confiar en fuentes o una herramienta que no tiene respaldo científico y se desconoce su fuente, y eso es la extracción de información".

Muchos médicos hoy en día usan herramientas de inteligencia artificial pero no estuvieron expuestos a ellas durante su práctica.

Para ello, la Organización Panamericana de la Salud destaca la importancia de utilizar herramientas basadas en algoritmos transparentes o conocidos , de lo contrario “no sabemos qué se esconde detrás de la herramienta o programa basado en inteligencia artificial. Si no sabes lo que hay detrás, el riesgo es mayor”, dice.

Por ahora, D'Agostino insiste en que el profesional sanitario "siempre debe tener la responsabilidad última de cualquier decisión clínica".

Herramientas de comprensión

Señala que, al igual que con la literatura científica en el pasado, donde tomó años darse cuenta de la disponibilidad y las fuentes de información de alta calidad basada en evidencia y revisada por pares, tomará tiempo en el mundo digital desarrollar una cultura donde se entienda cómo se utilizan las herramientas tecnológicas, las herramientas, cuáles son sus fuentes, quién está detrás de ellas y qué tan seguras son.

Debido a que la variedad de recursos es casi inmanejable, la Organización Mundial de la Salud y la Unión Internacional de Telecomunicaciones (UIT) están trabajando juntos para definir todos los estándares , "el concepto de la importancia de usar algoritmos abiertos y para incluir cada vez más comisiones reguladoras y parlamentarias.comités .países para que puedan cambiar las leyes y reglamentos basados ​​en todos estos principios técnicos.

Hasta ahora, la respuesta de los legisladores y políticos ha sido excelente, dice D'Agostino. “Hemos sido invitados a muchas reuniones de las comisiones de salud de los parlamentos de diferentes grupos de países americanos, donde se han dedicado varios días de reuniones para ver, entender y recibir nuestras recomendaciones para analizar la legislación existente y las nuevas leyes. desarrollar. Una solución segura y ética para la transformación digital de la sanidad, regulando específicamente el uso de algoritmos y herramientas de inteligencia artificial.

Desarrollo nuclear directo para la Armada

La inteligencia artificial se utiliza para interpretar imágenes como resonancias magnéticas, mamografías y radiografías.

Ética profesional

Uno de los aspectos más sensibles del uso de la IA tiene que ver con la ética.

En esta área, D'Agostino señala el daño que puede causar un algoritmo sesgado y proporciona un ejemplo documentado de un algoritmo desarrollado para simular accidentes de vehículos que ha sido utilizado para sistemas de seguridad de vehículos.

El modelo fue probado, pero en la vida real morían más mujeres que hombres, y al analizar cómo se construyó el algoritmo, se notó que el modelo de simulación estaba diseñado para un cuerpo masculino de cierta masa muscular. En otras palabras, tenía un fuerte sesgo de género que lastimaba más a las mujeres que a los hombres.

“Desde un punto de vista ético , se debe analizar profundamente la responsabilidad moral , el daño que pueden causar los algoritmos, así como cuáles son los límites y cuál es la independencia de su implementación. ¿Puede una herramienta de IA tener autonomía en la toma de decisiones? ¿O solo haces sugerencias?

La responsabilidad moral y el daño que pueden causar los algoritmos debe ser analizado en profundidad.

Además, añade, el marco regulatorio debería ser muy claro sobre la privacidad, la confidencialidad y la seguridad de los datos . La Organización Mundial de la Salud tiene un programa de bioética dedicado exclusivamente a analizar estos temas, y la Organización Panamericana de la Salud ha publicado lineamientos para el uso de inteligencia artificial en salud pública en 2021.

D'Agostino argumenta que estos principios se basan en la idea de que la inteligencia artificial, desde su creación hasta su implementación, debe guiarse por el beneficio que puede brindar a las personas, siempre respetando sus derechos.

Los algoritmos también deben ser transparentes y abiertos , para que quede claro cómo se crearon, para que tengan integridad científica.

“Porque hay muchas herramientas o herramientas, muchos chatbots , que no necesariamente se basan en bases de datos científicas”, señala.

Otro principio rector se refiere al seguimiento, control y uso de las tecnologías digitales por parte de las personas, asegurando que no existan sesgos discriminatorios .

Educación digital desde primaria

Sin embargo, el riesgo de mal uso de la inteligencia artificial no se limita a los profesionales de la salud, sino que se extiende a los usuarios de Internet en general que pueden hacer cualquier pregunta sobre salud en varios programas y plataformas de chat , sin saber si la respuesta que reciben tiene una base científica o es satisfactoria. para esos.

D'Agostino señala que los expertos en la materia han discutido ampliamente este tema y saben que es un fenómeno que trasciende a la Organización Mundial de la Salud y cualquier otra agencia, por lo que la respuesta debe buscarse en el sector salud y en una alianza fuerte . sector salud. educación. Sección:

“Es incontrolable porque es como intentar controlar la web , es realmente algo que está por encima de todo y en muchos casos tiene vida propia . Creemos que la educación primaria puede ser una barrera importante. (…) Uno de los elementos de Emergencias que puede ser muy efectivo es la inclusión de temas de transformación digital en el proceso de formación de una persona a lo largo de su vida”, dice.

Según la especialista, el problema es que el uso de herramientas digitales comienza a estudiarse cuando una persona termina la educación universitaria y recibe una maestría o doctorado, que hoy en día no contempla estos elementos en toda su dimensión.

“El aprendizaje continuo a lo largo de la vida de una persona puede ser más una prevención que una solución, porque será muy difícil controlar todo lo que sucede en la red y en el mundo del desarrollo tecnológico. Pero si creamos esta cultura y promovemos la educación, el impacto negativo se puede reducir significativamente ”, dice.

Para ello, la OPS trabaja con los ministerios de educación de muchos países del continente. Tenemos muchas iniciativas. Explica que hay un área dedicada a recursos humanos en el sector salud, estamos implementando un programa de alfabetización digital con ellos y tenemos varias áreas de capacitación que ahora estamos fortaleciendo para acelerar la adopción de tecnologías de la información durante la pandemia.

IA y panel de reclutamiento