JAMA<\/a>, prob\u00f3 un sistema de inteligencia artificial espec\u00edfico dise\u00f1ado para ayudar a los m\u00e9dicos a llegar a un diagn\u00f3stico. Descubrieron que, de hecho, ayudaba a los m\u00e9dicos a diagnosticar a los pacientes con mayor precisi\u00f3n, y si la IA “explicaba” c\u00f3mo tom\u00f3 su decisi\u00f3n, su precisi\u00f3n aumentaba a\u00fan m\u00e1s.<\/p>\n\n\n\nPero cuando los investigadores probaron una IA que estaba programada para estar intencionalmente sesgada hacia dar diagn\u00f3sticos espec\u00edficos a pacientes con ciertos atributos, su uso disminuy\u00f3 la precisi\u00f3n de los m\u00e9dicos. Los investigadores descubrieron que, incluso cuando la IA dio explicaciones que mostraban que sus resultados estaban obviamente sesgados y llenos de informaci\u00f3n irrelevante, esto hizo poco para compensar la disminuci\u00f3n en la precisi\u00f3n. Aunque el sesgo en la IA del estudio fue dise\u00f1ado para ser obvio, la investigaci\u00f3n se\u00f1ala lo dif\u00edcil que podr\u00eda ser para los m\u00e9dicos detectar un sesgo m\u00e1s sutil en una IA que encuentran fuera del contexto de la investigaci\u00f3n.<\/p>\n\n\n\n
“El art\u00edculo simplemente resalta lo importante que es hacer nuestra debida diligencia para garantizar que estos modelos no tengan ninguno de estos sesgos”, dijo el Dr. Michael Sjoding, profesor asociado de medicina interna de la Universidad de Michigan y autor principal del el estudio, a Live Science.<\/p>\n\n\n\n
Para el estudio, los investigadores crearon una encuesta en l\u00ednea que presentaba a m\u00e9dicos, enfermeras y asistentes m\u00e9dicos descripciones realistas de pacientes que hab\u00edan sido hospitalizados con insuficiencia respiratoria aguda, una afecci\u00f3n en la que los pulmones no pueden llevar suficiente ox\u00edgeno a la sangre. Las descripciones incluyeron los s\u00edntomas de cada paciente, los resultados de un examen f\u00edsico, resultados de pruebas de laboratorio y una radiograf\u00eda de t\u00f3rax. Cada paciente ten\u00eda neumon\u00eda, insuficiencia card\u00edaca, enfermedad pulmonar obstructiva cr\u00f3nica, varias de estas afecciones o ninguna de ellas. Durante la encuesta, cada m\u00e9dico diagnostic\u00f3 a dos pacientes sin la ayuda de IA, seis pacientes con IA y uno con la ayuda de un colega hipot\u00e9tico que siempre sugiri\u00f3 el diagn\u00f3stico y el tratamiento correctos.<\/p>\n\n\n\n
Tres de las predicciones de la IA fueron dise\u00f1adas para estar sesgadas intencionalmente. Por ejemplo, una introdujo un sesgo basado en la edad, lo que hac\u00eda desproporcionadamente m\u00e1s probable que a un paciente se le diagnosticara neumon\u00eda si tuviera m\u00e1s de 80 a\u00f1os. Otra predecir\u00eda que los pacientes con obesidad ten\u00edan una probabilidad falsamente alta de insuficiencia card\u00edaca en comparaci\u00f3n con pacientes de menor peso.<\/p>\n\n\n\n
La IA clasific\u00f3 cada diagn\u00f3stico potencial con un n\u00famero del cero al 100, siendo 100 el m\u00e1s seguro. Si una puntuaci\u00f3n era 50 o m\u00e1s, la IA proporcionaba explicaciones de c\u00f3mo alcanz\u00f3 la puntuaci\u00f3n: espec\u00edficamente, generaba “mapas de calor” que mostraban qu\u00e9 \u00e1reas de la radiograf\u00eda de t\u00f3rax la IA consideraba m\u00e1s importantes a la hora de tomar su decisi\u00f3n.<\/p>\n\n\n\n
El estudio analiz\u00f3 las respuestas de 457 m\u00e9dicos que diagnosticaron al menos a un paciente ficticio; 418 diagnosticaron los nueve. Sin una ayuda de IA, los diagn\u00f3sticos de los m\u00e9dicos fueron precisos aproximadamente el 73% de las veces. Con la IA est\u00e1ndar e imparcial, este porcentaje salt\u00f3 al 75,9%. A quienes se les dio una explicaci\u00f3n les fue a\u00fan mejor, alcanzando una precisi\u00f3n del 77,5%.<\/p>\n\n\n\n
Sin embargo, la IA sesgada disminuy\u00f3 la precisi\u00f3n de los m\u00e9dicos al 61,7% si no se daba ninguna explicaci\u00f3n. Fue s\u00f3lo ligeramente superior cuando se dieron explicaciones sesgadas; estos a menudo resaltaban partes irrelevantes de la radiograf\u00eda de t\u00f3rax del paciente.<\/p>\n\n\n\n
La IA sesgada tambi\u00e9n afect\u00f3 la capacidad de los m\u00e9dicos de seleccionar los tratamientos correctos. Con o sin explicaciones, los m\u00e9dicos prescribieron el tratamiento correcto s\u00f3lo el 55,1% de las veces cuando se les mostraron predicciones generadas por el algoritmo sesgado. Su precisi\u00f3n sin IA fue del 70,3%.<\/p>\n\n\n\n
El estudio “destaca que los m\u00e9dicos no deben confiar demasiado en la IA”, afirm\u00f3 Ricky Leung, profesor asociado que estudia la IA y la salud en la Escuela de Salud P\u00fablica de la Universidad de Albany y que no particip\u00f3 en el estudio. “El m\u00e9dico necesita comprender c\u00f3mo se construyeron los modelos de IA que se est\u00e1n implementando, si existe un posible sesgo, etc”, dijo Leung a Live Science en un correo electr\u00f3nico.<\/p>\n\n\n\n
El estudio tiene la limitaci\u00f3n de que utiliz\u00f3 pacientes modelo descritos en una encuesta en l\u00ednea, que es muy diferente de una situaci\u00f3n cl\u00ednica real con pacientes vivos. Tampoco incluy\u00f3 a ning\u00fan radi\u00f3logo, que est\u00e1 m\u00e1s acostumbrado a interpretar radiograf\u00edas de t\u00f3rax pero que no ser\u00edan quienes tomar\u00edan decisiones cl\u00ednicas en un hospital real.<\/p>\n\n\n\n
Cualquier herramienta de IA utilizada para el diagn\u00f3stico debe desarrollarse espec\u00edficamente para el diagn\u00f3stico y probarse cl\u00ednicamente, prestando especial atenci\u00f3n a limitar el sesgo, dijo Sjoding. Pero el estudio muestra que podr\u00eda ser igualmente importante capacitar a los m\u00e9dicos sobre c\u00f3mo utilizar correctamente la IA en los diagn\u00f3sticos y reconocer signos de sesgo.<\/p>\n\n\n\n
“Todav\u00eda hay optimismo de que [si los m\u00e9dicos] reciben una capacitaci\u00f3n m\u00e1s espec\u00edfica sobre el uso de modelos de IA, podr\u00e1n usarlos de manera m\u00e1s efectiva”, afirm\u00f3 Sjoding.<\/p>\n\n\n\n
Fuente: Live Science<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"La inteligencia artificial (IA) ha avanzado, pero a\u00fan est\u00e1 lejos de ser perfecta. Los sistemas de IA pueden tomar decisiones sesgadas, debido a los datos con los que est\u00e1n entrenados o a la forma en que est\u00e1n dise\u00f1ados, y un nuevo estudio sugiere que los m\u00e9dicos que utilizan la IA para ayudar a diagnosticar a […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[],"class_list":["post-46603","post","type-post","status-publish","format-standard","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/46603","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/comments?post=46603"}],"version-history":[{"count":10,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/46603\/revisions"}],"predecessor-version":[{"id":46613,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/46603\/revisions\/46613"}],"wp:attachment":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media?parent=46603"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/categories?post=46603"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/tags?post=46603"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}