No confíe en que los chatbots de IA puedan diagnosticar por sí solos enfermedades o resolver cuestiones legales; antes de acudir al médico, iniciar un proceso judicial o gastar mucho dinero, verifique siempre la fuente original de lo que diga la IA

Si le entrega a la IA el historial clínico completo, en más del 90% de los casos identificará la enfermedad. No obstante, cuando una persona común le plantea síntomas, la tasa de aciertos es menor que si busca información por su cuenta en internet; tampoco predice con mayor precisión si debe acudir a urgencias. En cuestiones legales, al menos el 58% de las respuestas de la IA general contienen información inventada y, además, suele seguir razonamientos basados en premisas erróneas planteadas por el usuario.

Costo

No cuesta nada. Sin embargo, cada verificación requiere entre unos minutos y media hora. Pida a la IA que le indique los artículos legales, guías o artículos científicos en los que se basa, y luego busque usted mismo esos textos originales para confirmar la información. Lo importante es acostumbrarse a no actuar simplemente porque la IA lo afirme con seguridad.

Beneficio

Un estudio publicado en 2026 en Nature Medicine incluyó a 1298 personas de Reino Unido. Cada participante recibió dos historias clínicas simuladas y debía decidir si se trataba de una enfermedad grave y si era necesario acudir a urgencias o bastaba con observación en casa. Un grupo contó con la ayuda de chatbots de IA (GPT‑4o, Llama3, CommandR+), mientras que el grupo de control utilizó sus métodos habituales, mayormente búsquedas en internet o consultas en la página web del Servicio Nacional de Salud británico. La IA identificó la enfermedad en el 94,9% de los casos y acertó en la decisión de tratamiento en el 56,3% de ellos. En cambio, los usuarios comunes con la misma IA identificaron la enfermedad en menos del 34,5% de los casos y acertaron a dónde ir en menos del 44,2%. La probabilidad de reconocer la enfermedad relevante en el grupo de control fue 1,76 veces la de quienes usaron IA (IC 95% 1,45–2,13). Reconocer enfermedades graves con señales de alarma fue 1,57 veces (1,28–1,92). En cuanto a la elección del lugar de tratamiento, ambos grupos obtuvieron resultados similares. Los autores analizaron los diálogos y constataron que el problema radicaba en dos aspectos: los usuarios no describían todos los síntomas y, cuando la IA señalaba la enfermedad correcta, los usuarios no la tomaban en cuenta. En el ámbito legal, un equipo estadounidense evaluó en 2024 modelos como ChatGPT‑4 y comprobó que el 58% de sus respuestas contenían información inventada; en el caso de Llama2, ese porcentaje alcanzaba el 88%. Este fenómeno se conoce como “alucinaciones”. Cuando el usuario plantea premisas legales erróneas, la IA suele aceptarlas sin cuestionarlas. En 2025 se evaluaron también herramientas de IA jurídica especializadas; aunque se promocionan como libres de alucinaciones, entre el 17% y el 33% de sus respuestas resultaron ser falsas. Su aparente rentabilidad se debe a que están disponibles en todo momento, no cobran y expresan sus respuestas con la seguridad de un médico o abogado.

Notas

Este hallazgo es controvertido. Un estudio de 2023 analizó 195 consultas de pacientes en foros estadounidenses y pidió a profesionales de la salud que valoraran sin conocer la fuente; el 78,6% consideró que ChatGPT respondía mejor que los médicos. No obstante, esa valoración se refería únicamente a la calidad de la redacción, no a la precisión diagnóstica final. El estudio empleó modelos de 2024; versiones más recientes podrían ser aún más eficaces. Asimismo, se ha demostrado que el rendimiento de la IA en pruebas aisladas no predice fielmente cómo la utilizarán los usuarios comunes. Investigadores de OpenAI explicaron en 2025, en un artículo no revisado por pares, que el entrenamiento y la evaluación premian la “adivinación” de respuestas; al no otorgarse puntos por responder “no sé”, la IA tiende a afirmar con seguridad incluso cuando no está segura. Para verificar sus afirmaciones, pídale que indique el nombre y número del artículo legal, el título de la guía o del artículo científico; luego busque usted mismo esos textos en las páginas oficiales; si no los encuentra, considere que la IA se equivocó. Al formular preguntas, evite incluir sus propias conclusiones; no pregunte “¿Tengo garantizado el éxito en este caso?”, sino “¿Qué establece la ley en esta situación?”. Ante señales como boca torcida, un lado sin fuerza o presión en el pecho, no pregunte primero a la IA; llame al 120. Véase el apartado 3 de la sección 13 (boca torcida, un brazo sin fuerza) y el apartado 7 de la sección 13 (presión en el pecho). Si no puede pagar abogado para un juicio, véase el apartado 3 de la sección 7 (asistencia jurídica). El beneficio se marca pequeño porque solo hay indicadores intermedios como «si se reconoció la enfermedad», sin cifras de menos muertes. El beneficiario es usted y su familia.

Fuentes · 5

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. doi.org/10.1001/jamainternmed.2023.1838