En los últimos años, modelos de lenguaje grande como ChatGPT, han emergido como tecnologías con capacidad de transformar múltiples sectores, y es también en el ámbito de la salud donde ya empezamos a vislumbrar cómo será su implementación a corto plazo.

Estos modelos procesan y generan texto con una precisión y rapidez sorprendentes, lo que ha llevado a explorar sus aplicaciones en el diagnóstico clínico. Sin embargo, más allá del sensacionalismo habitual a la hora de presentar los resultados de los primeros estudios, es importante que seamos capaces de ir más allá y entender no solo sus capacidades, sino también cómo tenemos que interactuar los profesionales con estas herramientas y las limitaciones que existen a la hora de integrarlas en nuestra práctica clínica.

Lo que el titular esconde

En estos días, resulta habitual encontrarse artículos con titulares que casi siempre van en la línea de «Un estudio demuestra que ChatGPT supera en diagnóstico a los médicos».  Pero debajo de este titular se encuentra un reciente estudio publicado en JAMA Network cuyo título original es ‘Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial’

Y efectivamente, cuando dedicas 10 minutos a leer el estudio te das cuenta de que los tiros van por otro lado y los hallazgos son, si cabe, más interesantes que el simple hecho de si una IA ha superado o no a los médicos a la hora de diagnosticar enfermedades.

Este ensayo lo que realmente buscaba era investigar si los médicos que utilizaban un modelo de lenguaje grande (ChatGPT Plus con GPT-4) como herramienta de ayuda mejoraban su razonamiento diagnóstico, en comparación con los médicos que usaban los recursos convencionales.

Para ello el estudio incluyó a 50 médicos de medicina de familia, internistas y médicos de emergencias. Los participantes fueron divididos aleatoriamente en dos grupos: uno de intervención, que tenía acceso a un LLM además de recursos diagnósticos convencionales; y un grupo de control, el cual solo tenía acceso a recursos convencionales.

Los médicos tuvieron 60 minutos para revisar hasta 6 casos clínicos. Se evaluó su desempeño utilizando una rúbrica estandarizada que medía la precisión del diagnóstico diferencial, la idoneidad de los factores de apoyo y oposición, y los próximos pasos de evaluación diagnóstica

Los resultados indicaron que la puntuación mediana de razonamiento diagnóstico por caso fue del 76% para el grupo con acceso al LLM y del 74% para el grupo de recursos convencionales. La diferencia ajustada fue de 2 puntos porcentuales, lo cual no fue estadísticamente significativa ni tampoco lo fue el tiempo que cada grupo dedicaba a cada caso. La conclusión fue que no había diferencias significativas entre los dos grupos en cuanto a la precisión del diagnóstico.

El hallazgo inesperado

PERO también hubo un hallazgo adicional inesperado: en un análisis secundario, se evaluó el desempeño del LLM por sí solo, sin intervención humana. Sorprendentemente, el LLM solo obtuvo una puntuación 16 puntos porcentuales más alta que el grupo de recursos convencionales. Es decir, el LLM solo puntuaba significativamente mejor que cuando era usado como asistente al diagnóstico por los propios médicos.

Este razonamiento es el que llevó a varios medios de comunicación a asignar el titular de que ChatGPT diagnosticaba mejor que los médicos, aunque tal y como los propios investigadores indicaban en su estudio, no se puede llevar a esa conclusión por la propia metodología del mismo, ya que su diseño «no captura la competencia en muchas otras áreas importantes para el razonamiento clínico, incluyendo entrevistas de pacientes y recolección de datos».

Aunque, por otro lado, la falta de mejora significativa en el grupo que usó el LLM podría indicar que los médicos no siempre incorporaban las sugerencias del LLM en sus diagnósticos finales, posiblemente manteniendo sus opiniones originales en muchos casos. Y eso sí es relevante, porque indica que aun teniendo herramientas potencialmente increíbles a la hora de ayudarnos en nuestra práctica clínica, los profesionales seguimos poniendo la mayor parte del peso de nuestras decisiones en nuestro propia intuición o juicio clínico, incurriendo en sesgos como el de anclaje (anclar el diagnóstico inicial basado en la primera impresión) o el de confirmación (buscar entre las sugerencias del LLM solo aquella información que respalde el diagnóstico inicial, ignorando o subestimando el resto).

Por lo tanto, más allá del titular las implicaciones de este estudio entran en el ámbito de cómo utilizamos las herramientas y nos devuelven al terreno de juego de la resistencia al cambio, la interpretación selectiva de la información y a utilizar la tecnología únicamente para confirmar nuestras propias creencias.

Algunas reflexiones al respecto

El estudio sugiere que podríamos incurrir en una pérdida de oportunidad de mejora, porque si tenemos a nuestro alcance herramientas que están demostrando una cada vez mejor capacidad de diagnóstico y no las utilizamos ¿no estaríamos dando un cuidado subóptimo a nuestros pacientes?

Por otro lado, la confianza excesiva en nuestro juicio clínico puede llevarnos a errores debido a sesgos cognitivos como el anclaje o la confirmación. En este sentido, las herramientas basadas en IA podrían ayudaros a mitigar estos sesgos al proporcionar análisis objetivos basados en grandes conjuntos de datos (si éstos no están también sesgados, claro).

Otra cuestión está relacionada con la tradicional resistencia al cambio. Si los profesionales somos reacios a incorporar nuevas herramientas, podría ralentizarse la inversión y la innovación en este campo.

Y también está la cuestión de la responsabilidad legal. Si hablamos de errores médicos, podría surgir la cuestión de si el profesional actuó de manera negligente al no utilizar todas las herramientas disponibles.

Ojalá próximas investigaciones se orienten hacia cómo podemos desarrollar estrategias para mitigar estos sesgos y fomentar una integración más efectiva de las herramientas de IA en nuestra práctica clínica. ¿Nos ayudará también la IA con eso?

Fuentes:

https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2825395

La entrada IA vs Profesionales: más allá del titular sensacionalista se publicó primero en Salud Conectada.

La obtención del consentimiento informado es un componente esencial en la atención sanitaria. Concebido para otorgar a los pacientes el poder de decisión sobre sus tratamientos y procedimientos médicos, en la práctica los consentimientos informados son en muchos casos difíciles de comprender, debido a su complejidad y terminología técnica, lo que puede comprometer su finalidad, esto es, la capacidad del paciente para tomar decisiones informadas.

A lo largo de los últimos años, varios estudios han evaluado la legibilidad de los consentimientos informados, encontrando que muchos de ellos alcanzan niveles de legibilidad bajos, puntuando como ‘algo difíciles’ o ‘difíciles’, según los estándares establecidos. Algunos incluso apuntan a que solo el 3,5% alcanzan un nivel aceptable de legibilidad (1).

Una solución para mejorar la legibilidad del consentimiento informado podría ser el uso de modelos de lenguaje grandes (LLM) como ChatGPT. Estos modelos de inteligencia artificial tienen la capacidad de ayudar a simplificar y clarificar el lenguaje técnico y complejo utilizado en estos documentos, lo que los hace más accesibles para un sector de la población más amplio. La clave de todo ello estaría en conseguir un consentimiento informado reescrito en un lenguaje más claro y comprensible, pero sin comprometer la precisión de la información proporcionada. Esto no solo beneficiaría a los pacientes al facilitarles la comprensión de su atención sanitaria, sino que también tendría un impacto en la mejora de la comunicación entre los profesionales de salud y los pacientes.

Además, el uso de LLM podría permitir la personalización del consentimiento informado según las necesidades y preferencias individuales de cada paciente. Por ejemplo, podrían adaptarse al nivel educativo, cultural o lingüístico de cada paciente, lo que garantizaría una mejor comprensión y, en última instancia, una toma de decisiones más informada.

En un estudio publicado recientemente en NEJM-AI (2), los investigadores han mostrado una experiencia muy interesante sobre el uso de la inteligencia artificial en la mejora del consentimiento informado en varios hospitales de Estados Unidos. Partiendo de documentos de consentimiento informado con un nivel de legibilidad relativamente alto, equiparable al de un estudiante universitario de primer año, se preguntaron cómo podrían mejorarlos. Para ello, analizaron el uso de GPT-4 con la tarea de transformar el nivel de legibilidad de los textos a través de un prompt específico: ‘Conservando el contenido y significado, convierte este consentimiento para que sea entendible por un estadounidense con un nivel medio de lectura’.

Los resultados fueron sorprendentes: GPT-4 produjo documentos con un nivel de legibilidad mucho más asequible, reduciéndolo casi 6 puntos (de 12,6 a 6,7) y situándolos en un nivel mucho más comprensible para la mayoría de la población.

Además, en el artículo destacan que la complejidad no es exclusiva de una sola institución; de hecho, al replicar el modelo en otras 15 instituciones, se lograron resultados similares. Esto incluyó un descenso significativo del nivel de lectura en hasta 5 grados y una reducción notable del tiempo necesario para leer los consentimientos informados en un 26%.

Conclusiones relevantes del estudio

• La generación y adaptación de texto se integran de manera fluida en el funcionamiento de estos modelos de lenguaje, lo que resulta en una drástica reducción del tiempo necesario para completar esta tarea por parte de los profesionales de la salud.
• La entrega de información previamente elaborada al modelo disminuye. significativamente las posibilidades de errores (alucinaciones) o inexactitudes en el texto final, mitigando así los riesgos de malinterpretación o confusión para el paciente.
• La introducción de profesionales expertos en la revisión de los resultados ofrecidos por el modelo aseguró la calidad y el rigor del texto obtenido, garantizando que la información proporcionada sea precisa, relevante y comprensible para los pacientes.

Algunas consideraciones éticas  

Otro reciente artículo publicado en el JME (3) se pregunta sobre si resulta ético delegar el consentimiento informado a tecnologías de inteligencia artificial, resaltando algunos aspectos importantes:

1. Precisión: existe un riesgo de desinformación debido a la naturaleza de «caja negra» de los sistemas de IA, la posibilidad de «alucinaciones» engañosas y los sesgos en los datos de entrenamiento. Es crucial asegurar la precisión de la información proporcionada por los LLM mediante evaluaciones y mejoras en los modelos neuronales. Entre tanto, estos problemas podrían solucionarse con la implicación de los profesionales en la validación de la información al final del proceso.

2. Confianza: algunos pacientes podrían sentir escepticismo o miedo hacia el uso de IA en un proceso tan humano como el consentimiento médico. Es necesario estudiar la aceptación de esta tecnología por parte de los pacientes y abordar la falta de empatía humana en las interacciones con LLM. Aunque otros estudios apuntan hacia todo lo contrario, señalando que estos agentes pueden mostrar más empatía que los profesionales (4).

3. Delegación de consentimiento: Potencialmente tiene similitudes con la práctica de delegación existente en algunos entornos como el americano dado que, en ambos casos, el agente que pide el consentimiento no es el responsable directo de llevar a cabo el tratamiento.  

4. Privacidad: existen preocupaciones sobre la privacidad de los datos del paciente cuando se comparten con LLM. Es importante asegurar que la información proporcionada a los modelos cumple con los estándares de regulación y protección de datos.

5. Consentimiento a través de un click: las personas a menudo pasan por alto la información en los formularios digitales de consentimiento, lo que puede llevar a una falta de comprensión. Esto es especialmente problemático en los formularios de consentimiento médico, donde la información clave para la toma de decisiones puede ser omitida.

6. Responsabilidad: la delegación del consentimiento a la IA plantea preocupaciones sobre la responsabilidad clínica. Aunque los LLM pueden participar en la obtención del consentimiento, la responsabilidad final sigue recayendo en el médico, por lo que es todavía más importante implementar medidas para garantizar que los LLM operen de manera segura y correcta, y que las organizaciones y profesionales validen el consentimiento delegado a la IA.  

¿Hacia dónde nos llevará la IA?

Las perspectivas y posibilidades que estamos empezando a observar en el uso de estas tecnologías, nos lleva a pensar que en un futuro en el que el uso de estos sistemas vaya todavía más allá de la mera simplificación de textos.

Se vislumbra un potencial aún mayor, que incluya por ejemplo el uso de agentes conversacionales que permitan a los pacientes resolver dudas sobre el texto proporcionado o incluso los cuidados que recibirán alrededor de todo el proceso.

Quizás llevará también hacia la implementación de sistemas de generación de imágenes, vídeos o presentaciones, para facilitar aún más la comprensión de ciertos aspectos complejos de una forma mucho más personalizada para cada tipo de paciente.

Sin embargo, también nos lleva a plantearnos preguntas sobre la confianza, la responsabilidad y la privacidad. ¿Hasta qué punto podemos confiar en que los modelos de IA proporcionen información precisa y relevante para los pacientes? ¿Cómo podemos garantizar que la delegación del consentimiento a la IA no erosionará la relación profesional-paciente basada en valores de humanidad, confianza y empatía?

Es importante tener en cuenta algo en lo que incidía el primer artículo: la implementación de LLM en la redacción de consentimientos informados precisó de la colaboración y supervisión de profesionales sanitarios para garantizar la precisión y relevancia clínica de la información proporcionada. Lo que refuerza la idea de que estos sistemas deben diseñarse para conjugar lo mejor de ambos mundo: tecnológico y humano.

Bibliografía:

1. La legibilidad de los documentos de consentimiento informado en los hospitales de Asturias https://scielo.isciii.es/scielo.php?script=sci_arttext&pid=S0213-91112004000200012

2. Using ChatGPT to Facilitate Truly Informed Medical Consent https://ai.nejm.org/doi/abs/10.1056/AIcs2300145   

3. Consent-GPT: is it ethical to delegate procedural consent to conversational AI? https://jme.bmj.com/content/50/2/77

4.Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum https://jamanetwork.com/journals/jamainternalmedicine/article-abstract/2804309

La entrada El impacto de la IA hacia un consentimiento informado simple y accesible se publicó primero en Salud Conectada.

En los sistemas de Inteligencia Artificial también se cumple el dicho de ‘somos lo que comemos‘, algo que impacta de lleno en sus dos principales vertientes de desarrollo: algoritmos de predicción y modelos de lenguaje.

Por un lado, los algoritmos que trabajan con enormes cantidades de información para, por ejemplo, la predicción de enfermedades o la ayuda al diagnóstico, pueden recibir datos sesgados que no sean representativos de toda la población, lo cual limitaría su uso y produciría predicciones incorrectas cuando se apliquen sobre personas para las que no han sido entrenados (un ejemplo).

Y por otro, los nuevos modelos grandes de lenguaje (como ChatGPT) han sido entrenados a partir de todos los contenidos que están circulando por la red, por lo que podríamos decir que sus resultados actuales son lo más humano que nos vamos a encontrar. Porque se da la circunstancia de que muchos de los contenidos que se están volcando ahora mismo en Internet, están parcial (o incluso totalmente) generados por sistemas de inteligencia artificial, algo que, sin ninguna duda, va a ir aumentando conforme estas herramientas sean masivamente adoptadas.

Y esto nos lleva a un concepto que algunos autores han bautizado como el Aprendizaje incestuoso. Se refiere al resultado de que estos modelos de lenguaje están empezando a aprender a partir de contenidos generados por ellos mismos. Contenidos que son menos originales y humanos, de peor calidad y en algunos casos repletos de fabulaciones y sesgos. Esto sin duda nos llevará hacia unos sistemas degradados, repletos de información falsa y no validada por humanos.

Todo ello nos conduce al último gran problema, que tiene mucho que ver con la confianza que los humanos depositamos en una tecnología que tradicionalmente nos ha solucionado muchas tareas en nuestra vida. Teniendo en cuenta además que estos sistemas son auténticos generadores de empatía (que hace que incluso los pacientes prefieran las respuestas de la IA), será muy difícil que cuestionemos la información emitida por una fuente en la que ya confiamos y que nos trata con aparente respeto y empatía.

En definitiva, los sistemas de IA, con su capacidad para generar empatía y respuestas aparentemente válidas, pueden llevarnos a aceptar sus pronósticos y recomendaciones sin cuestionamiento. Esta confianza excesiva, combinada con la proliferación de información ‘incestuosa’ generada por estos sistemas, podría además perpetuar la propagación de desinformación y sesgos.

Para contrarrestar todos estos problemas, es crucial promover la transparencia y la responsabilidad en el desarrollo y uso de la IA. Los diseñadores y desarrolladores de estos sistemas deben trabajar activamente para mitigar los sesgos en los datos y los algoritmos, garantizando que los sistemas de IA sean éticos y equitativos.

Además, ahora más que nunca es fundamental fomentar la alfabetización digital y la capacidad crítica entre la población, muy especialmente en el ámbito de la salud, para que puedan aprender a discernir entre información confiable y falsa.

La entrada El aprendizaje incestuoso en la era de la Inteligencia Artificial se publicó primero en Salud Conectada.

Microsoft ha publicado un informe sobre el futuro del trabajo tras la irrupción de los modelos de lenguaje LLM de inteligencia artificial y su impacto en determinadas áreas: trabajadores de  la información, pensamiento crítico, colaboración humano-IA, tareas complejas y creativas, colaboración en equipos y gestión del conocimiento.

Comparto algunas ideas que aporta el informe, junto a algunas reflexiones personales:

• Los LLM van a impactar profundamente en la productividad de nuestro trabajo con la información: multiplicando la velocidad en tareas de búsqueda, escritura y gestión del conocimiento. Aunque el informe hable del futuro, es algo que ya está sucediendo.
• Provocan el pensamiento crítico y funcionarán como co-pilotos: respecto al propio pensamiento crítico, estos sistemas se están utilizando como ‘provocadores’ y asistentes de los trabajadores del conocimiento. Resulta curioso el planteamiento de que, al perder valor la búsqueda y creación de contenidos por el uso de estas herramientas, el peso se trasladará hacia otras habilidades tales como la investigación, el análisis crítico de la información y las relaciones interpersonales.
• No son solo buscadores: les pedimos mucho más. Comparado con la búsqueda tradicional, estamos usando estos sistemas para tareas cada vez más complejas.
• La nuevas interfaz de trabajo es el prompt: lo que implica el desarrollo de nuevas habilidades que permitan sacarle todo el valor a estos sistemas. Aunque, por otro lado, los propios sistemas de IA nos ayudarán también en esta tarea, por lo que las habilidades de prompting serán sustituidas por las de interacción.
• Los términos que definen la nueva relación con las IAs son los de ‘complementariedad’ y ‘colaboración’: las IAs se convertirán en nuestros asesores y colaboradores más cercanos, automatizando nuestras tareas de forma personalizada.
• Otro término clave va a ser ‘confianza’: que al principio estará sobreestimada y conforme se vayan desarrollando estos sistemas, se ajustará más la balanza entre nuestras expectativas y los resultados.
• Los LLM van a plantear una gran demanda de nuestra metacognición: la producción de textos completos implica por nuestra parte una mayor exigencia a la hora de evaluar estos resultados. Como usuarios debemos mantener un nivel de confianza bien calibrado, pero al mismo tiempo, la IA tiene la capacidad de apoyar y mejorar nuestra capacidad cognitiva.
• La IA debería hacer replantearnos todo el sistema de formación de los profesionales. Si una IA es capaz de mejorar los resultados en exámenes como el MIR y asistirnos en tareas como el diagnóstico y la organización de los cuidados ¿Tiene sentido seguir manteniendo un sistema de formación que premia las capacidades de memorización frente a las de resolución de problemas complejos?
• El conocimiento digital se está trasladando desde los documentos hacia los diálogos: el contenido que históricamente ha existido en forma de documentos, ahora se captura cada vez más en forma de conversaciones, ya sea mediante interacciones digitales entre personas o entre personas y un LLM. Los hechos de conversaciones anteriores pueden ser directamente utilizados en momentos contextualmente apropiados, y las conversaciones pasadas también pueden ser empleadas para la personalización de las interacciones.
• La IA puede acabar con el conocimiento fragmentado de las organizaciones y los silos de información: si logramos integrar todo el conocimiento que emana de cada una de las fuentes y profesionales. La dificultad para conseguir este objetivo radica en que quizás es un reto cultural más que tecnológico. Aquí el informe es meridianamente claro: la introducción de la IA en cualquier organización es un proceso técnico-social y su adopción dependerá de cómo de bien encaje en nuestros procesos de trabajo.
• Brechas, ética y regulación: finalmente, las brechas digitales van a tener un papel muy importante, así como todas las cuestiones éticas y marcos de regulación. Habrá que abordar cada uno de estos aspectos pero sin perder de vista que la gran mayoría de los trabajos van a ser impactados en mayor o menor medida por el uso de estas tecnologías.

Enlace a la página de descarga del informe: https://www.microsoft.com/en-us/research/publication/microsoft-new-future-of-work-report-2023/

La entrada El futuro del trabajo y la Inteligencia Artificial se publicó primero en Salud Conectada.

A lo largo de la historia, la especie humana ha sido impulsada por la búsqueda de soluciones y herramientas para facilitar nuestra vida cotidiana. Desde los primeros utensilios de piedra hasta las últimas herramientas digitales, nuestra capacidad para crear y utilizar tecnología ha sido un factor distintivo de nuestra especie. Sin embargo, a medida que avanzamos en la creación de dispositivos y sistemas cada vez más sofisticados, también necesitamos medios efectivos para interactuar con ellos. Y aquí es donde entra en juego el concepto de las interfaces.

Una interfaz es en esencia un punto de contacto o comunicación entre dos sistemas o entidades diferentes. En el contexto de la tecnología, una interfaz es el medio que nos permite relacionarnos y controlar dispositivos, sistemas o software de manera efectiva. Podría considerarse como el «puente» que conecta al ser humano con la tecnología.

En todo este tiempo las interfaces han adoptado diferentes formas para adaptarse a una enorme variedad de necesidades y contextos de uso. Pero si hubiera que señalar dos momentos clave en nuestra reciente historia, el primero sería sin duda la invención de las tarjetas perforadas ideado por Joseph-Marie Jacquard en el siglo XIX, con la finalidad de controlar los distintos patrones de tejido que se producían en los telares industriales y la incorporación de estas tarjetas por Babbage como tecnología para introducir todo tipo de programas en su idea máquina analítica, algo que también captó la atención de Ada Lovelace, la cual pensaba que tendría amplias aplicaciones a la hora de representar cualquier símbolo, sentando así las bases de la futura era de la computación.

Efectivamente, hablamos de la protohistoria de la era digital y de cómo esas primeras interfaces se incorporaron en los primeros computadores hasta que, en el seno del MIT en los años 50 y de la mano de los primeros hackers, se incorporaron los primeros teclados, pantallas y cintas que permitieron acelerar el proceso de programación, produciendo la revolución de la era digital. Y poco después llegaron las distintas interfaces gráficas, los sistemas operativos, ratones, pantallas táctiles, los comandos de voz e incluso la idea de que en un futuro las interfaces desaparecerán o estarán totalmente integradas en nuestros cerebros y podremos controlar la tecnología solo con pensarlo (el propio Elon Musk está en ello).

Pero mientras llega ese momento, ya se están dando algunos pasos y parece que el despliegue de las distintas herramientas de inteligencia artificial de estos últimos meses (principalmente gracias al desarrollo de los grandes modelos de lenguaje), podría propiciar otro salto cualitativo en nuestra relación con las máquinas.

Existen diversas señales que apuntan en esa dirección. La primera es que ChatGPT ha estrenado su nueva interfaz de audio y hace que Siri parezca un neandertal a su lado. Este vídeo es una prueba de hacia dónde vamos. Muy pronto tendremos asistentes que nos acompañarán 24/7 para ayudarnos en todo lo que les pidamos. Además, en las últimas semanas han aterrizado los nuevos modelos de voz que permiten que usemos la voz que queramos en el idioma en que queramos, lo que abre la puerta a que podremos personalizar a los asistentes digitales a nuestro antojo y tendremos a nuestra disposición avatares digitales con respuestas emocionales muy realistas con los que interaccionaremos para todo (la película Her está más cerca). Meta ya ha lanzado una idea al respecto que pone los pelos de punta. Otros dispositivos como el Rewind Pendant, un colgante con capacidad de grabar y almacenar todo lo que decimos y escuchamos a lo largo del día para después ser procesado y poder hacer búsquedas por IA, complementan la idea del cambio de interfaces.

Y por último y más importante, el CEO de OpenAI (la compañía que ha eclosionado todo respecto a la IA) se ha unido al ex director de diseño de Apple (quien fue clave en el iPhone, el dispositivo que cambió para la interfaz de los teléfonos) y al CEO de softbank, quien ha puesto 1.000$ millones para desarrollar un nuevo dispositivo de consumo basado en inteligencia artificial que podría sustituir al teléfono móvil.

¿Y cómo afecta todo esto al ámbito de la salud? Pues seguramente habrá muchos cambios y, sobre todo, desde la parte de los usuarios/pacientes que, como es habitual, serán los primeros en adoptar estos cambios tecnológicos en todo aquello que concierne a su salud:

• Las búsquedas de Google se trasladarán hacia estos asistentes personales y la confianza que depositemos en ellos junto a la calidad de los resultados hará el resto (para bien y para mal). Ya escribimos sobre este punto hace unas semanas.
• La cuantificación de datos de salud a través de sensores y wearables hará más transparente la recogida de datos de información en salud, que serán procesados por sistemas de inteligencia artificial y dispararán una serie de alertas o acciones por parte de profesionales o de otras máquinas.
• Los sistemas de triaje que en algunos casos ya son digitales y ofrecen un consejos o incluso un prediagnóstico, evolucionarán hacia formas más complejas integrando otras tecnologías (como por ejemplo los biomarcadores de voz) y harán a la vez más fácil la interacción de los humanos con estos sistemas.
• Los profesionales por su parte contarán con sistemas de ayuda basados en IA que les orientarán en el diagnóstico y prescripción de cuidados, los cuales serán más personalizados.
• Y las tecnologías LLM serán capaces de registrar todas nuestras interacciones humanas (también entre profesionales y pacientes), eliminando la tediosa tarea (y barrera) de introducción de datos en sistemas de información. Y en este sentido y tal y como plantea Julián Isla en el último episodio de Conectando Puntos, las pantallas tenderán a desaparecer.

Parece entonces que el cambio en la forma en que nos relacionamos los humanos con la tecnología es algo inevitable. La cuestión entonces que nos tenemos que plantear es cuándo se producirá, aunque viendo cómo evoluciona todo, parece que este será más pronto que tarde.

La entrada El camino hacia la interfaz de salud del futuro se publicó primero en Salud Conectada.

Llega un momento en la vida en el que te das cuenta que una tecnología está suficientemente asentada cuando no te planteas usarla para algo en concreto, sino que simplemente la usas. Pasó con el fuego, la electricidad, los ordenadores e Internet y ahora está pasando exactamente lo mismo con los grandes modelos de lenguaje y la inteligencia artificial.

Ya lo dijo en su día el científico y divulgador Arthur C. Clarke (de una forma mucho más bonita e inspiradora):

“Cualquier tecnología lo suficientemente avanzada es indistinguible de la magia”.

En mi caso es así, y ya no concibo empezar a escribir un texto o plantear una búsqueda sobre cualquier tema sin tener a mi lado a ChatGPT, BingChat o Perplexity, e ir probando cada una de las herramientas que van saliendo.

Las ventajas que presentan estas herramientas frente a los buscadores tradicionales son indiscutibles: al entender el lenguaje natural pueden interpretar consultas que involucran varios conceptos y relaciones y tienen mucho más contexto a la hora de ofrecer respuestas. Además, son capaces de realizar búsquedas y proporcionar respuestas en varios idiomas, siendo éstas mucho más completas. Sin olvidar su capacidad para generar nuevas ideas, proponer aspectos relacionados con el tema que estás escribiendo o directamente resumir o reescribir textos.

Pero como también en su día le dijeron a Spiderman “Todo gran poder conlleva una gran responsabilidad”, la cara B de estas tecnologías también es importante y debemos tener muy presente sus riesgos y limitaciones. El primero y más importante son las alucinaciones: ChatGPT se inventa cosas con relativa frecuencia y lo hace tan bien que es capaz de engañar al más común de los mortales. Tampoco hay que olvidar los sesgos (depende de los datos con que ha sido alimentado), la falta de privacidad y seguridad de los datos que introducimos en estos sistemas (tampoco es nuevo) y que su uso y cada vez mejores resultados, nos pueden llevar a confiar ciegamente en sus resultados sin verificarlos (algo que tampoco es nuevo pero que en este caso es mucho más potente).

Como ejemplo de ello, le pregunté a ChatGPT sobre la frase atribuida al comic Spiderman y me dijo que la pronunció su tío Ben, aunque indagando en la Wikipedia descubro que proviene de un antiguo adagio que hace alusión a la espada de Damocles, que en el comic no la pronunció su tío sino que fue la moraleja final del primer relato del Hombre Araña y que antes ya había usado esta frase hasta Superman.

Teniendo en cuenta todo lo anterior y a partir de mi propia experiencia, dejo a continuación algunas ideas sobre cómo iniciarse en el uso de estas herramientas o mejorar nuestras búsquedas:

• Formula tus preguntas de forma clara y precisa, usando palabras clave que describan lo que quieres saber. Por ejemplo, si quieres saber cómo usar la inteligencia artificial para buscar información de salud, puedes preguntar: ¿cómo usar la inteligencia artificial para buscar información de salud? Evita preguntas ambiguas, vagas o demasiado generales, como: ¿qué es la inteligencia artificial? o ¿cómo me ayuda la inteligencia artificial?
• ChatGPT es muy bueno para formular preguntas generales acerca de un tema o para pedir ideas, reescribir temas o solicitar correcciones automáticas.  Ejemplo de petición: “Imagina que eres psiquiatra y que vas a dar a profesionales de residencias de mayores una charla sobre el uso y manejo de psicofármacos en ancianos. ¿Qué aspectos incluirías?”
• Usa BingChat cuando necesites pedir fuentes o cotejar la información. A diferencia de ChatGPT cuya información abarca hasta mediados de 2021, Bing está conectado a Internet. Usa prompt para pedir fuentes. Los prompts son frases o palabras que indican lo que quieres obtener de la inteligencia artificial. Por ejemplo, si quieres que te muestre las fuentes de donde ha obtenido la información, puedes usar el prompt: “muestra las fuentes”. También puedes pedirle que acote los resultados a un rango de fechas específico o que te muestre las publicaciones de los últimos X años.
• Para obtener resúmenes o extraer ideas sobre un tema, un truco que te ahorrará mucho tiempo a la hora de documentarte es pedir a estas herramientas que te resuman textos o transcripciones de audios o vídeos. Para ello puedes copiar el texto de transcripción de vídeos de YouTube (o usar alguna otra herramienta que lo haga automáticamente). Hay que tener en cuenta que ChatGPT limita el número de caracteres que le puedes introducir, aunque existen ya otras herramientas (como Perplexity) a las que puedes subir documentos de texto y hacer preguntas sobre el mismo.
• Usa prompts para evitar alucinaciones. Si quieres que el buscador te confirme si la información es verdadera o falsa, puedes usar el prompt: “verifica la información”. Si quieres que te explique cómo ha llegado a la conclusión, puedes usar el prompt: “explica el razonamiento”. Estos prompts te ayudan a evaluar la calidad y la fiabilidad de la información que te proporciona la inteligencia artificial. Además Bing te muestra en el pie de búsqueda las fuentes a las que ha hecho referencia, así que permite comprobar que son correctas.
• Adapta los contenidos al público al que te vas a dirigir. Si necesitas por ejemplo adaptar un documento redactado en jerga médica para usarlo con pacientes, puedes indicarle a ChatGPT que te lo reescriba en un lenguaje que sea más comprensible para pacientes o para una edad determinada. Usando por ejemplo el prompt: “Necesito que adaptes el siguiente texto para que pueda ser entendido por un paciente sin amplios conocimientos en salud” Ejemplo de respuesta.
• Finalmente, ChatGPT puede ser un buen aliado para pulir tus textos, encontrando sinónimos, frases, metáforas que mejoren su comprensión, descripciones e incluso historias completas. Además, el uso de roles te permite emular a un editor de textos y puede ser usado para corregir errores o mejorar la redacción. Por ejemplo “Imagina que eres un corrector de textos científicos. Revisa el siguiente texto y propón cambios y mejoras de redacción: texto_a_revisar”.

Y en tu caso ¿usas algún truco o estrategia diferente para mejorar tus textos o resultados?

La entrada Cómo potenciar las búsquedas de información en salud con el uso de la IA se publicó primero en Salud Conectada.

La historia de la humanidad está marcada por el constante avance en la resolución de problemas, y la llegada de nuevas tecnologías ha sido fundamental en este proceso. Desde la antigua Piedra Rosetta que desbloqueó el misterio de los jeroglíficos egipcios hasta las innovadoras aplicaciones de la inteligencia artificial en la actualidad, el progreso continúa sorprendiéndonos.

Uno de los logros más notables en el campo de la inteligencia artificial es la capacidad de descifrar y comprender textos antiguos, un avance que ha llegado incluso a la arqueología y la historia. La herramienta Fabricius, desarrollada por Google en colaboración con la Universidad de Macquarie, es un ejemplo de cómo el aprendizaje automático puede ayudar a traducir jeroglíficos egipcios, siguiendo el espíritu de la Piedra Rosetta. Esta aplicación utiliza el aprendizaje automático para comparar imágenes de jeroglíficos con miles de otros, permitiendo a los académicos desvelar misterios ancestrales.

Sin embargo, el potencial de la inteligencia artificial va más allá de la traducción de textos antiguos. En el ámbito de la salud, la IA se está convirtiendo en una herramienta crucial para entender y mejorar la «sinfonía de la vida». Esto se refiere a la capacidad de comprender no solo cómo están formadas las estructuras biológicas, como las proteínas, sino también cómo podemos reconfigurarlas para abordar enfermedades y mejorar la salud humana.

El avance más destacado en este campo es la capacidad de predecir la estructura de proteínas con gran precisión a partir de secuencias de aminoácidos. AlphaFold, desarrollado por DeepMind, ha logrado un hito al proporcionar el mapa más completo de proteínas humanas, un recurso inestimable para la investigación médica. Pero lo más emocionante es que esta tecnología está allanando el camino para diseñar proteínas completamente nuevas, construidas específicamente para abordar enfermedades como el cáncer.

El uso de la inteligencia artificial en el plegamiento de proteínas, un problema que ha desconcertado a los científicos durante décadas, ha demostrado ser extremadamente prometedor. Los modelos de lenguaje de proteínas son capaces de aprender patrones complejos y relaciones entre secuencias de aminoácidos, lo que permite comprender cómo cambios específicos pueden afectar la estructura y función de las proteínas.

La capacidad de diseñar proteínas personalizadas para abordar diversas enfermedades es una perspectiva emocionante para el futuro de la medicina. Desde enfermedades autoinmunes hasta trastornos neurodegenerativos, la IA nos brinda la posibilidad de desarrollar terapias precisas y efectivas.

Este avance no solo tiene un impacto en la medicina, sino que también se extiende a otros campos, como la agricultura, la industria y la ciencia de materiales, donde las nuevas clases de proteínas pueden desempeñar un papel transformador.

En definitiva, la inteligencia artificial y los modelos de lenguaje están llevando a cabo una revolución silenciosa en el campo de la salud. Como la humanidad continúa descifrando los secretos del ADN y de las proteínas, nos encontramos en el umbral de una era en la que la ciencia y la tecnología trabajan juntas para mejorar la vida humana de formas inimaginables. La «sinfonía de la vida» está siendo escrita y dirigida por la inteligencia artificial, y el resultado promete ser una melodía de curación y descubrimiento sin precedentes.

Y para muestra un botón. Este artículo ha sido escrito íntegramente por ChatGPT, a partir de las notas que elaboramos para preparar el último episodio del podcast Conectando Puntos.

Ahora parece anecdótico, pero pronto será habitual que los textos que escribamos estén apoyados en el uso de herramientas de inteligencia artificial. ¿Nos hará eso menos originales o más innovadores?

La entrada El impacto transformador de los Modelos de Lenguaje en la salud se publicó primero en Salud Conectada.

Algo que me parece importante hacer de vez en cuando, es alejarse de nuestro ámbito de influencia y trabajo (el sanitario en mi caso), y salir a coger aire y beber en fuentes de otros lares, porque a veces descubres historias que te inspiran y que incluso te puedes llevar e vuelta a casa.

Todo comenzó en Boston, específicamente en el Instituto Tecnológico de Massachusetts (MIT), en el año 1958. Según relata Steven Levy en su excelente libro «Hackers: Heroes of the Computer Revolution», una mañana de otoño de ese año, un joven de diecisiete años llamado Peter Samson, que estaba empezando sus estudios en el MIT, caminaba apresurado por los pasillos del Edificio Nº20 del campus en busca de la impresionante maqueta que el Club Tecnológico de Modelismo Ferroviario había montado.

Finalmente, cuando llegó, se encontró con un grupo de estudiantes contemplando la maqueta. Peter decidió unirse a ellos y pasó un buen rato observando la escena. Sin embargo, a diferencia de los demás estudiantes que admiraban las locomotoras, los rieles y los detalles perfectos de las casas y las montañas, Peter se centró en los cables entrelazados debajo de la mesa que sostenía la maqueta y en los sistemas que controlaban los trenes para evitar colisiones.

Aquella visión dejó a Peter completamente fascinado, tanto que no podía apartarla de su mente. Al día siguiente, corrió al despacho del club de aeromodelismo y tuvo la suerte de descubrir que el club tenía dos departamentos: uno dedicado a construir los modelos de trenes, edificios y paisajes (todo lo visible en la instalación), y otro departamento, el Subcomité de Señales y Energía, que se encargaba del diseño, mantenimiento y mejora de lo que llamaban «El Sistema», es decir, todo lo que se encontraba debajo de los tableros, como los cables, los interruptores y los ingenios que permitían a los trenes obedecer a sus dueños y circular sin chocar ni descarrilarse.

Peter se unió al club de inmediato y junto con sus compañeros dedicó horas y horas al desarrollo de nuevas ideas y funcionalidades para mejorar «El Sistema». Aquel laboratorio se convirtió en su sala de juegos y toda la tecnología que contenía en sus juguetes.

Aquí entra la primera clave de esta historia: mientras trabajaban en todo esto, crearon su propia jerga y términos que resultaban incomprensibles fuera de las cuatro paredes del club. Por ejemplo, cada vez que encontraban una solución ingeniosa a un problema o realizaban una mejora brillante que les proporcionaba una especie de placer extraño, lo llamaban «hack». Pero ojo, no utilizaban ese término a la ligera; para merecer el nombre de «hack», la solución debía ser una combinación de innovación, estilo y virtuosismo tecnológico. En otras palabras, el término «hack» era utilizado por ellos como una forma de respeto hacia una solución virtuosa de un problema. Conseguir «hacks» se convirtió en su leitmotiv y cuando lo lograban, era una pequeña victoria para ellos.

En ese preciso momento, este grupo de «productivos solucionadores ingeniosos de problemas» empezó a llamarse a sí mismos «hackers«, con un gran orgullo.

Pasemos ahora a la segunda clave de esta historia. El club de modelismo ferroviario otorgaba una llave de las instalaciones a aquellos miembros que acumulaban 40 horas de trabajo en el club, como una especie de recompensa por su dedicación (y probablemente para permitir que los miembros más veteranos tuvieran libertad para seguir trabajando). Y parece que Peter se lo tomó muy en serio, ya que obtuvo su llave en tan solo un fin de semana.

Dado su nivel de pasión por lo que hacía, no era raro encontrar a Peter y sus compañeros de club deambulando por el campus a altas horas de la madrugada. Esto, entre otras cosas, les permitió descubrir cómo funcionaba el complejo sistema telefónico del MIT, que llegaron a conocer mejor que quienes lo habían instalado. Fue durante una de esas incursiones nocturnas cuando Peter y sus amigos descubrieron un lugar muy especial: la sala de máquinas ubicada en el sótano del Edificio Nº26. En esa sala se encontraban las Máquinas de Contabilidad Electrónica, que se utilizaban para perforar las tarjetas con las que se introducían programas en un enorme ordenador, el poderoso IBM 704, que ocupaba una habitación justo encima de ellos.

Pero esa es otra historia… a la que quizás lleguemos otro día. Mientras tanto, quedémonos con la idea de que cuando alguien tiene ganas de aprender sobre algo que le apasiona, busca a personas afines y dedica horas y horas a aprender y avanzar en su área de conocimiento, lo que le lleva a dominar ciertos aspectos y a proponer nuevas soluciones a los problemas que surgen en su camino. A veces, estas innovaciones son tan elegantes que merecen el nombre de «hacks» y sus creadores, los hackers, reciben el respeto de sus colegas.

Lo que nos lleva a la pregunta: ¿Cuántos «hacks» se necesitan para que alguien sea considerado un hacker? ¿Cuántos hackers conoces en tu trabajo? ¿Cuál es el verdadero potencial de los hackers en una organización?

Porque no todo es tecnología, ni todo trata de salud… ¿o tal vez sí?

Historia extraída del libro Hackers: Heroes of the Computer Revolution

La entrada Breve historia de los hackers se publicó primero en Salud Conectada.

El famoso test de Turing fue propuesto por Alan Turing en el año 1950, como prueba para medir la capacidad de las máquinas para responder preguntas al mismo nivel de los humanos, es decir, demostrar un comportamiento inteligente. Conforme la tecnología ha ido avanzando y se ha ido superando este test, se han propuesto diferentes adaptaciones para comparar las inteligencias humana y artificial. El propio Turing hacía referencia a lo que llamó la objeción de Lady Lovelace (la auténtica gran pionera de la aplicación práctica de lo que sería la computación), ya que ésta pensaba que una máquina sería realmente inteligente cuando demostrara intención y voluntad, y que mientras tanto, los humanos tan solo seríamos capaces de crear computadoras con capacidad de ejecutar lo que nosotros les pidiéramos.

El resumen es que, aunque en algunos momentos parezca que las nuevas herramientas de inteligencia artificial tengan conciencia propia, puede que hayamos superado el test de Turing pero estamos lejos de hacerlo con la objección de Lovelace, Y es que ese matiz de ‘parezca’ puede tener importantes implicaciones a la hora de interaccionar con estas herramientas y de confiar en ellas para temas tan importantes como nuestra salud.

Del tecno optimismo al catastrofismo

Esta semana tuve la oportunidad de participar en un foro sobre la proyección de la Inteligencia Artificial en la salud, organizado por la Asociación de profesionales de las bibliotecas y centros de documentación de Ciencias de la Salud en la Comunidad de Madrid, en el que estábamos representados perfiles muy diversos del ámbito sanitario. Uno de los temas que allí se abordaron es el hecho de que, aunque herramientas como ChatGPT se comportan solamente como enormes predictores de texto, el hecho es que están consiguiendo escribir mejor de lo que lo hacemos el 99% de los humanos y van a ser tecnologías con un impacto muy elevado en todos los ámbitos, incluido el de la salud.

La reflexión de hoy viene de lejos. Cierto es que cada vez que sale una nueva tecnología tenemos una tendencia natural a polarizar el debate entre los tecnooptimistas, que piensan que la herramienta en cuestión va a ser la solución de todos nuestros problemas, y los tecnocatastrofistas, que auguran el principio del fin de la humanidad. Ya pasó con la aparición de la imprenta, con los primeros ordenadores, con Internet y ahora con el despliegue de los modelos de inteligencia artifical.

Herramientas como ChatGPT y todo lo que está por llegar en los próximos meses tienen un potencial transformador enorme y, en consecuencia, los riesgos de su uso inadecuado están al mismo nivel. El problema viene cuando todavía no hemos conseguido resolver los retos anteriores y ya tenemos otros nuevos (y más grandes) encima de la mesa…

El círculo de confianza y el acceso a información de salud

Decíamos en un post publicado en 2017 que el 60% de la población utilizaba la red como fuente de información en salud y que con las búsquedas en google llegaban algunos problemas, como que la mitad de las personas que buscan pensaba que no se podía confiar en la red para temas de salud y cerca del 45% tenía problemas para entender la información que encontraba. No tenemos nuevos datos desde entonces, pero es muy posible que el primer porcentaje haya crecido y los otros dos al menos se mantengan. Aunque también es verdad que durante este tiempo nuestros ojos se han ido acostumbrando a lo digital y hemos mejorado a la hora de identificar cuándo nos están dando información fiable y cuándo nos están vendiendo la burra (al menos lo hemos logrado con la publicidad).

Hablábamos entonces sobre el proceso de validación de contenidos de salud y que este se basa en establecer un vínculo de confianza. Algo a lo que la evolución humana nos ha hecho expertos en entornos presenciales, pero no tanto en estos nuevos contextos digitales, en los que perdemos mucha información a la hora de establecer esa relación confianza.

No damos por tanto la misma credibilidad a las máquinas que a las personas. Aunque eso puede estar a punto de cambiar.

La intimidad digital y la barrera de la confianza

¿Cuál es la principal diferencia que tienen herramientas como ChatGPT de los actuales buscadores digitales? Pues que las primeras están diseñadas para hablarnos desde la cercanía y la empatía. Si tú le preguntas a ChatGPT sobre cualquier tema de salud, no solo te va dar una respuesta sino que además te va a decir que siente mucho que te encuentres así o tengas tal problema. Y eso podría parecer que no, pero es una diferencia abismal a la hora de establecer el círculo de confianza.

Un reciente estudio publicado en JAMA (y que ha levantado un gran revuelo) comparaba las respuestas dadas a preguntas de pacientes en un foro de salud, entre las ofrecidas por un grupo de médicos y las que daba un chatbot basado en inteligencia artificial (spoiler: sale mal). El resultado apuntaba a que las respuestas emitidas por el chatbot eran superiores a las humanas, tanto en calidad como en nivel de empatía. Y es que parece lógico que prefiramos una respuesta basada en datos que además penetre en nuestra esfera emocional, a otra más técnica y puede que corta, porque quien esté al otro lado no tenga tiempo o ganas de dorarnos la píldora.

Pensémoslo bien. No nos afiliamos a un partido político, una religión o hacemos caso a un profesional sanitario sólo por los datos que nos ofrecen. Lo que compramos es el relato y lo bien que está construido, es decir, aquello que se amolda mejor a nuestros ideales o expectativas. Y alrededor de ello construimos una relación de confianza (parece que el dato solo sirve si es para reforzar al relato).

Yuval Harari apunta a una reflexión importante y es que, gracias a su dominio del lenguaje, la inteligencia artificial va a ser capaz de forjar relaciones íntimas con la gente. Quizás no tanto al nivel de lo que vimos en la película Her (o puede que sí, muy pronto lo sabremos), pero sí lo suficiente para que bajemos la guardia a la hora de confiar en ellas y que demos como verdadero aquello que nos estén respondiendo.

No va a pasar mucho tiempo para que todos consultemos a estos asistentes sobre todo tipo de cosas y los tratemos como si fueran humanos, porque al fin y al cabo emiten respuestas como si ya lo fueran. ¿Qué más nos dará entonces que no tengan voluntad o intención si igualmente vamos a confiar en ellas? Ada, esto no pinta bien.

¿Qué va a pasar entonces cuando cambiemos a Google por un asistente de voz tipo Alexa con ChatGPT integrado y vitaminado, que además irá aprendiendo de nosotros a partir de nuestras conversaciones? Me gustaría ver entonces el porcentaje de personas que piensa que no se puede confiar en estas tecnología para preguntar sobre temas de salud…

No olvidemos que uno de los grandes problemas que presentan estas tecnologías es que cuando no saben algo simplemente se lo inventan y si les pillamos en el engaño nos piden perdón educadamente y a otra cosa, mariposa. Mientras estas confabulaciones no se corrijan y sigamos preguntándoles sobre cualquier cosa, el riesgo de que obtengamos información falsa y de que nos la acabemos creyendo seguirá siendo muy alto.

En definitiva, estamos ante nuevas tecnologías que nos plantean nuevas preguntas y de momento ofrecen muy pocas respuestas. Estoy seguro de que parte de la solución pasará por mejorar las herramientas y hacerlas más precisas, pero sobre todo porque nos eduquemos como sociedad en su uso y potenciemos el desarrollo del pensamiento crítico. Aunque llevamos años pidiendo lo mismo para lidiar con Internet y tengo la sensación de que todavía no lo hemos conseguido.

La entrada La última frontera de la confianza digital en salud se publicó primero en Salud Conectada.

Hace unos días impartí una charla a profesionales del ámbito de la nutrición y el dolor, en la que hablaba sobre cómo los nuevos grandes modelos de lenguaje (LLM) y en general, la inteligencia artificial, están cambiándolo todo.

A veces me gusta empezar preguntando a los asistentes sobre sus conocimientos, para ver en qué punto se encuentran, por lo que lancé la siguiente pregunta:

• ¿Cuántos de vosotros sabe o ha oído hablar de ChatGPT o de alguna de las IA generadoras de imágenes?

Levantaron la mano aproximadamente un 75% de los asistentes, lo cuál me hizo recordar que si hubiera hecho la pregunta en el año 1990 sobre cuántos habían oído hablar de una tecnología llamada Internet, posiblemente hubiera obtenido la misma respuesta.

Un 75% no está nada mal para una tecnología que lleva con nosotros relativamente muy poco tiempo, aunque refleja también el gran interés que está despertando en todos los ámbitos y que reflejan los medios de comunicación.

Pero… ¿qué es exactamente ChatGPT?

Por si perteneces al grupo del 25% o no te acaba de quedar claro cómo funciona esta tecnología, ChatGPT es un modelo de lenguaje grande (LLM en inglés) desarrollado por la empresa OpenAI. Básicamente es un programa de inteligencia artificial que ha sido entrenado con una enorme cantidad de datos textuales, lo que le permite generar respuestas coherentes y contextuales a partir de una entrada de texto. De esa forma, puede entender preguntas, instrucciones y conversaciones en lenguaje natural, y generar respuestas relevantes. Es decir, su objetivo principal es comprender y generar texto en lenguaje natural.

Es importante destacar que los modelos de lenguaje como ChatGPT no poseen una comprensión profunda del mundo o de los conceptos abstractos. No tienen conocimiento previo más allá de lo que se les ha proporcionado durante el entrenamiento. Su capacidad para responder preguntas o generar texto se basa en la probabilidad y en los patrones identificados en los datos de entrenamiento.

Dicho esto, aunque los modelos de lenguaje como ChatGPT son impresionantes en su capacidad para generar respuestas coherentes, también pueden cometer errores y generar información incorrecta o sesgada.

Para entender mejor lo que esta tecnología representa, tengo que confesar que toda la respuesta anterior ha sido generada por el propio ChatGPT a mi pregunta: ‘dime qué es y como funciona un modelo de lenguaje como ChatGPT’.

El nuevo momento ‘imprenta’

¿Adivinas quién dijo la siguiente afirmación?

• Esta tecnología va a propiciar la generación de infinidad de noticias falsas.

Efectivamente has acertado: fue la Iglesia allá por el año 1453, año en el que acababa de aparecer la imprenta de la mano de Johannes Gutenberg. Hasta ese momento el feudalismo otorgaba en exclusiva a la Iglesia el papel de reproducir y difundir el conocimiento, por lo que era ésta la que marcaba la ‘agenda informativa’ sobre aquellos temas de los que se podía hablar y el resto, simplemente quedaban relegados en el olvido. Con la llegada de la imprenta, el trabajo de copista se amplió y entraron en juego otros actores, lo cual produjo un cambio social y cultural muy importante, a pesar de los intentos de censura previa que intentó imponer el sistema feudal de la época. Esto se tradujo en una mayor alfabetización de la población, una mejor difusión del conocimiento y un mayor conocimiento de ‘otras visiones del mundo’, más allá de las ofrecidas por las fuentes oficiales.

Si nos tuviéramos que ir a buscar otro momento en el que la tecnología haya impulsado de forma muy sustancial el conocimiento humano, seguramente viajaríamos 500 años después en el tiempo, momento en el que surgió la computación electrónica y lo digital (de la mano de los primeros hackers) y sobre todo, tecnologías como Internet, la gran red que nos ha conectado a todos y que ha puesto toda la información a un click de distancia.

Y finalmente, si damos un salto en el tiempo significativamente menor (menos de 30 años), nos encontramos delante de lo que algunos dicen que es el nuevo ‘momento imprenta’, por las enormes repercusiones sociales y culturales que puede tener, en cuanto a cómo va cambiar sustancialmente la forma en que accederemos a todo tipo de información y servicios, y que seguramente tendrá también su correspondiente impacto en el ámbito de la salud.

El impacto de ChatGPT en el campo de la salud

Aunque hablemos en genérico de ChatGPT, este es sólo uno más de los modelos de lenguaje que han ido surgiendo en los últimos meses (todas las grandes tecnológicas están implementando los suyos), aunque fue el primer modelo en causar impacto y por eso vamos a seguir hablando de él.

Recurrimos de nuevo a ChatGPT para preguntarle sobre cuál podria ser el impacto de esta tecnología en nuestro ámbito y esto es lo que nos ha contestado:

“En el campo de la salud, ChatGPT tiene varios impactos significativos. Uno de ellos es la capacidad de proporcionar información médica y de salud de manera rápida y accesible. Los profesionales de la salud pueden utilizar ChatGPT como una herramienta para obtener respuestas a preguntas específicas, obtener orientación sobre diagnósticos, tratamientos y protocolos médicos, o incluso para estar al tanto de las últimas investigaciones y avances en el campo de la salud.

Además, ChatGPT puede ser útil en la educación médica y la formación de profesionales de la salud. Puede ser utilizado como una especie de «tutor» virtual que brinde información y retroalimentación a estudiantes de medicina, enfermería u otros campos relacionados. Esto podría ayudar a mejorar el acceso a la educación médica, especialmente en áreas con escasez de recursos educativos.”

Sin duda, una visión prometedora y posiblemente bastante realista de hacia dónde caminamos en el uso de estas herramientas en salud, aunque con sus correspondientes ‘peros’, de los que también hablaremos más adelante. El principal problema de estos modelos es que ‘alucinan’ con relativa frecuencia, es decir, se inventan informacion y aunque están mejorando, ese margen es suficiente como para echar por tierra una respuesta sobre un tema relacionado con la salud.

Posibilidades y usos de ChatGPT en salud

Por todo lo que hemos visto hasta ahora sobre el funcionamiento de estos modelos, podemos diferenciar dos formas de uso en nuestro ámbito. En primer lugar, en todo lo relacionado con la gestión de la información sanitaria. Podemos por ejemplo pedirle a ChatGPT que nos resuma textos sanitarios y los adapte a diferentes niveles de alfabetización en salud, lo que nos ayudaría a prescribir consejos de salud personalizados, como es por ejemplo explicar a un niño recién diagnosticado de diabetes en qué consiste su enfermedad.

Y en la misma línea podríamos pedir la adaptación de un informe de alta o documento técnico en un lenguaje entendible por la mayoría de la población.

La creación de contenidos de salud para pacientes es otro de los campos en los que estos modelos nos pueden ayudar a los profesionales, generando nuevos textos o ayudándonos a mejorar nuestros propios contenidos. Es posible que la prescripción personalizada de contenidos de salud, sea uno de los grandes beneficiados por esta tecnología.

Por otro lado, estos modelos también están a disposición de la población general, lo cual supone un arma de doble filo porque, del mismo modo que ahora consultan al Dr. Google sobre sus problemas de salud, también harán lo mismo con el nuevo Dr. ChatGPT o equivalente. Y no solo recibirán consejos muy elaborados sobre su salud (que puede que en la mayoría de los casos sean acertados), sino que a la vez se encontrarán con algunas de esas ‘alucinaciones’, las cuales pueden poner en riesgo su salud (por mucho que el modelo suela terminar sus respuestas diciendo que no olvidemos consultar con un profesional sanitario). Y aquí tenemos un problema muy importante con el que tendremos que lidiar a corto plazo.

Pero si somos capaces de mejorar estos modelos y maximizar la fiabilidad de las respuestas, a la vez que eliminamos otros problemas como son los sesgos, se podrían convertir en unos grandes aliados a la hora de ofrecer consejos de salud, de forma que como pacientes podamos resolver nuestas dudas en cualquier momento y lugar. Todo ello por supuesto salvando las distancias relacionadas con que estas herramientas carecen de contexto personal, por lo que están limitadas a ofrecer consejos genéricos.

Por ejemplo, le podríamos pedir información acerca de un informe médico y a partir de ahí solucionar algunas dudas:

Y en segundo lugar, hablaremos del uso que más nos puede interesar a los profesionales en este momento, que es el de utilizar estos modelos de lenguaje como ‘copilotos’ que nos ayuden en nuestra formación y actualización de conocimientos. Y aquí el término copiloto ha sido cuidadosamente escogido, porque estas herramientas se pueden convertir en las grandes aliadas a la hora de ayudarnos en nuestra tarea de gestión del conocimiento y búsqueda de evidencias. Porque van mucho más allá de lo que hasta ahora podíamos conseguir con cualquier buscador generalista o científico, y nos ayudan a encontrar evidencias concretas, relacionarlas entre sí o incluso sintetizar información a partir de textos o enlaces que le pidamos a través de nuestras consultas. Para ello, debemos usar versiones que estén conectadas a Internet como es el caso de BingChat (la versión gratuita de ChatGPT de momento no lo está), las cuales además indican las fuentes de las que han obtenido la información, que podremos verificar.

Algunos ejemplos de peticiones podrían ser:

• Indícame cuáles podrían ser los 5 temas más importantes a tratar en un artículo relacionado con el tema XXXX
• Necesito aprender sobre el tema XXX ¿qué aspectos me recomiendas abordar?
• Encuentra los 5 artículos más citados en español sobre el tema XXXX publicados en los últimos 3 años y hazme una tabla comparativa de los resultados de cada uno de ellos.
• Hazme un resumen del siguiente artículo https://doi.org/10.1158/2159-8290.CD-21-0090

Preguntando a BingChat por un artículo a través de su DOI

Sin olvidarnos de que prácticamente todas las herramientas que ya estamos usando para gestionar nuestro conocimiento, van a incorporar de una u otra forma a estos modelos de inteligencia artificial muy pronto. Tanto Microsoft como Google, ya han presentado sus versiones de Teams o Documentos vitaminadas con IA.

Y con este panorama…¿podriamos decir que estamos por tanto ante un nuevo momento imprenta?

En próximas entregas iremos desgranando las distintas aplicaciones y abordaremos los riesgos que plantean estas tecnologías.

Si quieres ampliar esta información te recomiendo escuchar alguno de los episodios del podcast Conectando Puntos, en los que ya hemos abordado este tema:

• Episodio 213: Chateando con GePeTo #ChatGPT https://conectandopuntos.es/episodio-213-chateando-con-gepeto-chatgpt/
• Episodio 219 : Inteligencia práctica ¿Para qué sirve Chat GPT? https://conectandopuntos.es/episodio-219-inteligencia-practica-para-que-sirve-chat-gpt/

Por último, te dejo algunos enlaces interesantes:

• El arte de hacer preguntas https://mailchi.mp/23fb7bffb1a5/el-arte-de-hacer-preguntas
• ¿Cómo puede utilizar la inteligencia artificial un profesional sanitario? Cuatro aplicaciones que puedes empezar a utilizar ya https://www.linkedin.com/pulse/c%25C3%25B3mo-puede-utilizar-la-inteligencia-artificial-un-que-ernesto/
• El uso del ChatGPT en medicina y la jubilación del doctor Google https://www.alimente.elconfidencial.com/bienestar/2023-03-05/uso-chat-gpt-en-medicina_3586060/?utm_source=substack&utm_medium=email
• ChatGPT puede ayudar a los médicos pero perjudicaría a los pacientes si no se usa adecuadamente https://es.wired.com/articulos/chatgpt-ayudaria-a-medicos-pero-perjudicaria-a-pacientes
• ChatGPT: entre la exageración, la controversia y los desafíos éticos https://espanol.medscape.com/verarticulo/5910594?ecd=mkm_ret_230513_mscpmrk-ES_2AngDiscussions&uac=177766CY&impID=5419148&faf=1

La entrada ChatGPT y salud: juntas…¿pero no revueltas? se publicó primero en Salud Conectada.