Inteligencia fabricado y atención sanitaria: ¿deberíamos preocuparnos?

Una pesquisa de Pew Research descubrió que 6 de cada 10 adultos estadounidenses se sentirían incómodos si su propio proveedor de atención médica dependiera de la inteligencia fabricado (IA) para diagnosticar enfermedades y guiar tratamientos. Pero la sinceridad es que la IA ha entrado en el ámbito de la sanidad y el bienestar, y algunos médicos ya están aprovechando su poder y potencial.

Yahoo News habló con Marzyeh Ghassemi, profesora adjunta del Instituto de Ingeniería y Ciencia Médica del MIT, y James Zou, profesor adjunto de ciencia de datos biomédicos en la Universidad de Stanford, para conocer más sobre la intersección de la IA y la atención médica: lo que es posible actualmente, lo que se avecina y cuáles podrían ser las desventajas.

Algunos médicos están usando chatbots de inteligencia fabricado para ayudar a dar malas telediario a los pacientes, según un crónica >>>

¿Qué es posible actualmente?

A continuación se muestran algunos ejemplos de lo que la IA puede hacer en este momento.

• Realizar diagnósticos y valoraciones. “[There are] “Hay más de 500 algoritmos y dispositivos de IA médica aprobados por la FDA en los EE. UU. que ahora se pueden usar en pacientes. Y muchos de estos algoritmos básicamente ayudan a los médicos a hacer mejores diagnósticos y mejores evaluaciones de los pacientes”, dijo Zou. Al usar IA para ayudar a realizar tareas como evaluar imágenes médicas, los médicos pueden eliminar parte del trabajo manual más esforzado.

• Hacer pronósticos. Si proporcionadamente muchos modelos de IA actuales se centran en ayudar a diagnosticar a los pacientes, Ghassemi dijo que todavía ha conocido algunos modelos en incremento que pueden ayudar a predecir la progresión de una enfermedad o el incremento de posibles complicaciones de una enfermedad.

• Simplificar la información médica para los pacientes. “Muchos de los conceptos y la terminología médica pueden ser sobrado complicados”, dijo Zou. “Uno de los proyectos que hemos realizado es utilizar ChatGPT para simplificar los formularios de consentimiento médico, que son terriblemente difíciles de estudiar, para que cierto con un nivel de recitación de octavo punto pueda leerlos”.

La inteligencia fabricado podría permitir un dictamen más rápido y preciso de los ataques cardíacos y otras telediario de sanidad que quizás te hayas perdido >>>

¿Qué podría hacer la IA en el futuro?

Y puede que haya aún más usos en el futuro. Esto es lo que la IA podría hacer en el futuro.

• Organizar los datos de atención sanitaria. Zou dijo que un gran desafío es que los datos de diferentes hospitales, incluidos los registros médicos electrónicos, no se pueden trocar fácilmente. La IA podría ayudar con eso. “Si eres un paciente y vas a diferentes hospitales, a menudo los hospitales no se comunican muy proporcionadamente entre sí. Y esta es un campo de acción en la que estos algoritmos de IA, potencialmente los modelos de jerga, podrían favorecer mucho las cosas”.

• Predecir malos resultados. La IA todavía podría ayudar a identificar a los pacientes que están en peligro para que reciban la atención que necesitan de forma temprana, lo que podría ayudar a combatir la tasa de morbilidad y mortalidad materna en los EE. UU. “Mi situación ideal sería si tuviéramos puntajes de peligro que predijeran con precisión los posibles resultados negativos para las mujeres. Entonces tal vez podríamos alertar a los equipos de atención de que están tomando malas decisiones sobre la atención médica de la mujer, o podríamos destinar capital adicionales a las mujeres embarazadas cuando más los necesitan”, dijo Ghassemi.

• Mejorar las predicciones de respuesta al tratamiento. En el caso de enfermedades crónicas como la depresión, en muchos casos el médico puede tener que hacer una “conjetura fundamentada” sobre qué fármaco o tratamiento funcionará mejor para un paciente en particular. Ghassemi dijo que la IA podría ayudar a los médicos a tomar mejores decisiones al tener en cuenta limitaciones como el peso corporal o el sexo, que pueden afectar la forma en que un paciente metaboliza ciertos fármacos.

• Desarrollar nuevos fármacos. “Existe todo un proceso en el que, en las primeras etapas, se puede utilizar la IA para ayudarnos a descubrir nuevos medicamentos, nuevas moléculas, nuevos antibióticos”, afirmó Zou.

¿Será pronto la IA tan inteligente como los humanos o más? >>>

El flanco aterrador de la IA en la atención sanitaria

“Creo que el peligro no es que se convierta en un autómata adverso que venga a por ti, sino que reproduzca la mala atención que ya estás recibiendo o la agrave”, dijo Ghassemi.

“Básicamente, estamos entrenando sistemas de enseñanza obligatorio para que hagan lo que hacemos nosotros, no lo que creemos que hacemos o esperamos que haríamos. Y en el ámbito de la atención sanitaria, lo que ocurre es que si se entrenan modelos de enseñanza obligatorio de forma ingenua para que hagan lo que hacemos actualmente, se obtienen modelos que funcionan mucho, mucho peor para las mujeres y las minorías”.

Por ejemplo, un dispositivo impulsado por IA sobreestimó los niveles de oxígeno en mortandad en pacientes con piel más oscura, lo que resultó en un tratamiento insuficiente de la hipoxia (deficiencia de oxígeno). Un estudio de 2019 descubrió que un operación utilizado para predecir las evacuación de atención médica de más de 100 millones de personas estaba sesgado en contra de los pacientes negros. “El operación se basó en el compra en atención médica para predecir las evacuación de sanidad futuras. Pero, históricamente, con un pequeño paso a la atención, los pacientes negros a menudo gastaban menos. Como resultado, los pacientes negros tenían que estar mucho más enfermos para que se les recomendara atención adicional según el operación”, informó NPR.

La Asociación Doméstico de Trastornos Alimentarios todavía fue novedad posteriormente de que su nuevo chatbot de inteligencia fabricado, Tessa, aconsejara a los usuarios contar calorías y calcular la obesidad corporal, lo que obligó a la ordenamiento a eliminar el chatbot meses posteriormente de despedir a sus empleados humanos de la andana telefónica.

“Creo que el problema es que cuando se intenta reemplazar ingenuamente a los humanos por IA en los entornos de atención médica, se obtienen resultados muy pobres”, dijo Ghassemi. “Deberíamos considerarla como una utensilio de aumento, no como una utensilio de reemplazo”.

Un estudio muestra que los dispositivos médicos esencia no logran diagnosticar con precisión a los pacientes negros >>>

¿Cómo podemos mitigar los posibles daños de la IA en la sanidad?

En mayo, los líderes de la industria tecnológica publicaron una afirmación de una sola frase en la que decían que “mitigar el peligro de agonía provocado por la IA debería ser una prioridad entero adjunto con otros riesgos a escalera social, como las pandemias y la pugna nuclear”. En el ámbito de la atención sanitaria, Ghassemi y Zou hicieron algunas sugerencias sobre las medidas que se podrían adoptar para someter los posibles daños que plantea la IA.

• Sea transparente. Zou dijo que un gran primer paso sería una longevo tolerancia sobre qué datos se utilizan para entrenar modelos de IA, como los chatbots, y cómo se evalúan esos modelos.

• Evalúe cuidadosamente los algoritmos ayer de permitir que los pacientes interactúen con ellos. Ya existe el peligro de que los pacientes reciban información errónea en andana, pero si cientos de miles de pacientes acuden a una única fuente, como un chatbot que tiene problemas, el peligro es aún longevo, dijo Zou.

• Mantenga los sistemas de IA actualizados.“Es necesario un plan para prolongar el sistema de IA actualizado y relevante con los consejos médicos actuales, porque los consejos médicos cambian”, dijo Ghassemi. “Si un maniquí se vuelve obsoleto y comienza a dar recomendaciones incorrectas a los médicos, eso todavía podría provocar daños al paciente”.

• Establecer regulaciones. Ghassemi sugirió que la Oficina de Derechos Civiles del Unidad de Salubridad y Servicios Humanos podría desempeñar un papel. “Podrían hacer cumplir esta andana que prohíbe la discriminación en el contexto de la atención médica y aseverar: ‘Oye, eso todavía se aplica a los algoritmos’”.