En un artículo de revisión reciente publicado en npj Medicina Digitallos investigadores investigaron las implicaciones éticas de implementar modelos de lenguaje grandes (LLM) en la atención médica a través de una revisión sistemática.
Sus conclusiones indican que si bien los LLM ofrecen ventajas significativas, como un mejor análisis de datos y apoyo a la toma de decisiones, las preocupaciones éticas persistentes con respecto a la equidad, el sesgo, la transparencia y la privacidad subrayan la necesidad de contar con pautas éticas definidas y supervisión humana en su aplicación.
phx">zjn" srcset="byi 2000w, zhi 1950w, tik 1750w, buh 1550w, vns 1350w, udo 1150w, dfg 950w, daz 750w, ojm 550w, nlk 450w" sizes="(min-width: 1200px) 673px, (min-width: 1090px) 667px, (min-width: 992px) calc(66.6vw - 60px), (min-width: 480px) calc(100vw - 40px), calc(100vw - 30px)" style="width: 2000px; height: 1186px;" width="2000" height="1186"/>zjn"/>phx">gym"/>Estudiar: La ética de ChatGPT en medicina y atención sanitaria: una revisión sistemática sobre modelos de lenguaje de gran tamaño (LLM)Crédito de la imagen: Summit Art Creations/Shutterstock.com
Fondo
Los LLM han despertado un interés generalizado debido a sus capacidades avanzadas de inteligencia artificial (IA), demostradas de manera destacada desde que OpenAI lanzó ChatGPT en 2022.
Esta tecnología se ha expandido rápidamente a diversos sectores, incluidos la medicina y la atención médica, y muestra resultados prometedores para la toma de decisiones clínicas, el diagnóstico y las tareas de comunicación con los pacientes.
Sin embargo, junto con sus posibles beneficios, han surgido preocupaciones sobre sus implicaciones éticas. Investigaciones anteriores han destacado riesgos como la difusión de información médica inexacta, violaciones de la privacidad por el manejo de datos confidenciales de pacientes y la perpetuación de sesgos basados en el género, la cultura o la raza.
A pesar de estas preocupaciones, existe una notable brecha en los estudios integrales que abordan sistemáticamente los desafíos éticos de la integración de los títulos de máster en derecho en la atención de la salud. La literatura existente se centra en casos específicos en lugar de proporcionar una visión general holística.
Métodos
Abordar las lagunas existentes en este campo es crucial, ya que los entornos de atención sanitaria exigen normas y regulaciones éticas rigurosas.
En esta revisión sistemática, los investigadores mapearon el panorama ético que rodea el papel de los LLM en la atención médica para identificar posibles beneficios y daños para informar futuras discusiones, políticas y pautas que buscan regir el uso ético de los LLM.
Los investigadores diseñaron un protocolo de revisión sobre aplicaciones prácticas y consideraciones éticas, registrado en el Registro Prospectivo Internacional de Revisiones Sistemáticas. No se requirió aprobación ética.
Se buscaron bases de datos de publicaciones relevantes y servidores de preimpresiones para recopilar datos, considerando las preimpresiones debido a su prevalencia en campos tecnológicos y su potencial relevancia aún no indexada en bases de datos.
Los criterios de inclusión se basaron en la intervención, el entorno de aplicación y los resultados, sin restricciones en cuanto al tipo de publicación, pero excluyendo trabajos únicamente sobre educación médica o escritura académica.
Después de la revisión inicial de títulos y resúmenes, se extrajeron los datos y se codificaron utilizando un formulario estructurado. La evaluación de calidad se centró de manera descriptiva en criterios de calidad procedimental para distinguir el material revisado por pares, analizando críticamente los hallazgos en busca de validez y exhaustividad durante el informe.
Recomendaciones
El estudio analizó 53 artículos para explorar las implicaciones éticas y las aplicaciones de los LLM en el ámbito de la atención sanitaria. De la investigación surgieron cuatro temas principales: aplicaciones clínicas, aplicaciones de apoyo a los pacientes, apoyo a los profesionales sanitarios y perspectivas de salud pública.
En aplicaciones clínicas, los LLM muestran potencial para ayudar en el diagnóstico inicial y la clasificación de pacientes, utilizando análisis predictivos para identificar riesgos de salud y recomendar tratamientos.
Sin embargo, surgen inquietudes en cuanto a su precisión y la posibilidad de sesgos en sus procesos de toma de decisiones. Estos sesgos podrían llevar a diagnósticos o recomendaciones de tratamiento incorrectos, lo que pone de relieve la necesidad de una supervisión cuidadosa por parte de los profesionales sanitarios.
Las aplicaciones de apoyo al paciente se centran en los LLM que ayudan a las personas a acceder a información médica, gestionar síntomas y navegar por los sistemas de atención médica.
Si bien los LLM pueden mejorar la alfabetización en salud y la comunicación a través de las barreras lingüísticas, la privacidad de los datos y la confiabilidad del asesoramiento médico generado por estos modelos siguen siendo consideraciones éticas importantes.
Para apoyar a los profesionales de la salud, se propone que los LLM automaticen tareas administrativas, resuman las interacciones de los pacientes y faciliten la investigación médica.
Si bien esta automatización podría mejorar la eficiencia, existen preocupaciones sobre el impacto en las habilidades profesionales, la integridad de los resultados de la investigación y el potencial de sesgos en el análisis automatizado de datos.
Desde una perspectiva de salud pública, los LLM ofrecen oportunidades para monitorear brotes de enfermedades, mejorar el acceso a la información de salud y mejorar la comunicación de salud pública.
Sin embargo, el estudio destaca riesgos como la difusión de información errónea y la concentración del poder de la IA entre unas pocas empresas, lo que podría exacerbar las disparidades en la salud y socavar los esfuerzos de salud pública.
En general, si bien los LLM presentan avances prometedores en el cuidado de la salud, su implementación ética requiere una cuidadosa consideración de los sesgos, las preocupaciones sobre la privacidad y la necesidad de supervisión humana para mitigar los posibles daños y garantizar el acceso equitativo y la seguridad del paciente.
Conclusiones
Los investigadores descubrieron que los LLM como ChatGPT se exploran ampliamente en el ámbito de la atención médica por su potencial para mejorar la eficiencia y la atención al paciente al analizar rápidamente grandes conjuntos de datos y brindar información personalizada.
Sin embargo, persisten preocupaciones éticas, incluidos sesgos, problemas de transparencia y la generación de información engañosa denominada alucinaciones, que pueden tener graves consecuencias en entornos clínicos.
El estudio se alinea con una investigación más amplia sobre la ética de la IA, enfatizando las complejidades y los riesgos de implementar la IA en la atención médica.
Los puntos fuertes de este estudio incluyen una revisión exhaustiva de la literatura y una categorización estructurada de las solicitudes de LLM y las cuestiones éticas.
Las limitaciones incluyen la naturaleza evolutiva del examen ético en este campo, la dependencia de fuentes preimpresas y un predominio de perspectivas de América del Norte y Europa.
Las investigaciones futuras deberían centrarse en definir pautas éticas sólidas, mejorar la transparencia de los algoritmos y garantizar una implementación equitativa de los LLM en contextos de atención médica global.