Los médicos que dependen de la IA empeoran un 20% en la detección de riesgos para la salud, según un estudio

Las herramientas de asistencia con IA se han convertido en un recurso diario que ha ayudado a aumentar la productividad y la velocidad en varias industrias. A pesar de los beneficios notables de estos sistemas inteligentes, los expertos médicos están preocupados porque la excesiva dependencia de la inteligencia artificial podría estar causando más daño que beneficio.

La dependencia de la IA puede reducir las tasas de detección de los médicos en colonoscopias

Un estudio reciente realizado en 1,443 pacientes reveló que los endoscopistas que usaron agentes de IA d durante las colonoscopias alcanzaron una tasa de éxito menor en la detección de irregularidades cuando estas herramientas no se utilizaron. 

Los resultados de la investigación, publicada este mes en la revista Lancet Gastroenterology & Hepatology, muestran que estos médicos lograron una tasa de éxito del 28,4 % en la detección de pólipos potenciales usando la tecnología. Sin estas herramientas, la cifra bajó al 22,4 %, lo que representa una disminución del 20 % en las tasas de detección.

El Dr. Marcin Romańczyk, gastroenterólogo del Centro Médico H-T en Tychy, Polonia, y autor del estudio, expresó sorpresa por los resultados. Señaló la excesiva dependencia de la inteligencia artificial como uno de los factores clave que contribuyen a la caída en las tasas de detección.

Nos enseñaron medicina con libros y con nuestros mentores. Los observábamos. Nos decían qué hacer. Y ahora hay algún objeto artificial que sugiere qué deberíamos hacer, dónde deberíamos mirar, y en realidad no sabemos cómo comportarnos en ese caso particular.

Dr. Marcin Romańczyk

El resultado no solo refleja los posibles efectos negativos de depender excesivamente de la inteligencia artificial, sino que también aborda la evolución de la práctica médica de una tradición analógica a una era digital.

Preocupaciones sobre la inteligencia artificial en el lugar de trabajo: ganancias en productividad a un costo cognitivo

Además del creciente despliegue en hospitales y oficinas médicas, la automatización con IA se ha convertido en un pilar en los lugares de trabajo, con muchos recurriendo ahora a estas herramientas para aumentar la productividad. Goldman Sachs incluso predijo en 2023 que la IA podría aumentar la productividad laboral hasta en un 25 %.

Pero adoptar estos sistemas de IA también conlleva el peso de posibles inconvenientes. De hecho, investigaciones de firmas líderes han destacado los riesgos asociados con depositar demasiada confianza en estas herramientas. 

Una publicación de Microsoft y la Universidad Carnegie Mellon señaló que la IA ayudó a aumentar la eficiencia en el trabajo entre un grupo de trabajadores del conocimiento encuestados. Pero debilitó sus habilidades de «juicio atrofiado» y capacidad analítica.

Dependencia excesiva de la inteligencia artificial en la aviación: lecciones del vuelo 447 de Air France

Incluso en el sector de la aviación, donde la seguridad es primordial, evidencia previa sugiere que la dependencia excesiva de la automatización puede comprometer la seguridad. En 2009, un vuelo 447 de Air France en ruta de Río de Janeiro a París se estrelló en el océano Atlántico, resultando en la pérdida de más de 228 vidas.

Investigaciones posteriores revelaron que el sistema de automatización del avión había desarrollado fallas. Esto causó que el “director de vuelo” automatizado transmitiera información inexacta. Y dado que el personal de vuelo no estaba adecuadamente entrenado en vuelo manual, dependieron de las funciones automatizadas del avión en lugar de realizar los ajustes necesarios.

Balancear la adopción de la IA con la pericia humana en industrias de alta responsabilidad

Lynn Wu, profesora asociada de operaciones, información y decisiones en la Wharton School de la Universidad de Pennsylvania, señaló que estos incidentes son un llamado de atención para la adopción de la IA en sectores donde la seguridad humana es crítica. Wu explicó que mientras se apuesta por estas tecnologías, las industrias deben asegurarse de que los trabajadores adopten adecuadamente estas herramientas.

Lo importante es que aprendamos de esta historia de la aviación y de la generación previa de automatización, que la IA absolutamente puede aumentar el rendimiento. Pero al mismo tiempo, tenemos que mantener esas habilidades críticas, de modo que cuando la IA no funcione, sepamos cómo tomar el control.

Lynn Wu

Agregó que si las personas pierden sus propias habilidades, la inteligencia artificial también funcionará peor. Para que la IA mejore, los individuos también deben mejorar continuamente a sí mismos.

Romańczyk también acepta el uso de la IA en la medicina, señalando que “la IA será, o es, parte de nuestra vida, nos guste o no”. Sin embargo, enfatizó la necesidad de comprender cómo la inteligencia artificial afecta el pensamiento humano y urgió a los profesionales a determinar las formas más efectivas de utilizarla.