Не рассчитывайте сами ставить диагноз и решать юридические вопросы по чат-боту ИИ; перед визитом к врачу, судом и крупной тратой сверьте его опоры с оригиналом

Если отдать ИИ полный случай, он в более чем 90% узнаёт болезнь. Но когда обычный человек спрашивает по симптомам, он узнаёт болезнь реже, чем тот, кто сам ищет в сети, и направление в неотложную не точнее. По праву у общих ИИ минимум 58% ответов содержат выдуманное, и модель подхватывает ошибочные предпосылки в вашем вопросе.

Стоимость

Денег не нужно. Каждая сверка — лишние минуты до получаса. Пусть ИИ укажет статью закона, руководство или статью; откройте оригинал и найдите фразу. Меняйте привычку не делать по уверенному тону.

Эффект

Сначала медицина. В 2026 году Nature Medicine опубликовала рандомизированное испытание: 1298 обычных жителей Великобритании, протокол заранее зарегистрирован. Каждому — два составленных случая: какая болезнь и идти в неотложную или наблюдать дома. Часть помогала чат-ботом ИИ (GPT-4o, Llama 3, Command R+). Контроль — обычные способы, чаще поиск в сети или сайт NHS. Когда полный случай отдают ИИ напрямую, он в 94,9% узнаёт релевантную болезнь, в 56,3% верно решает, куда идти. Обычные люди с тем же ИИ узнают релевантную болезнь менее чем в 34,5%, верное направление — менее чем в 44,2%. Контроль узнаёт релевантную болезнь в 1,76 раза чаще, чем пользователи ИИ (95% CI 1,45–2,13). Опасные «красные флаги» — в 1,57 раза (1,28–1,92). Куда идти — примерно одинаково. По записям диалогов сбои в двух местах: пользователь не договорил симптомы; ИИ назвал верную болезнь, пользователь не принял. Далее право. Американская группа 2024 года спрашивала открытые модели (в т.ч. ChatGPT 4) о прецедентах федеральных судов США. У ChatGPT 4 в 58% ответов выдумка, у Llama 2 до 88%. Выдумка — содержание, не совпадающее с юридическим фактом; в статье — «галлюцинация». Модель не отличает, какая фраза выдумана. При ошибочной правовой предпосылке в вопросе часто принимает её как есть. Та же группа в 2025 году проверила профессиональные юридические ИИ для адвокатов: заявленное «без выдумок» на деле 17%–33% ответов с выдумкой. Кажется выгодным, потому что ИИ всегда на связи, бесплатен и говорит уверенно, как врач или юрист.

Примечания

Спорно. Исследование 2023 года: 195 вопросов пациентов с американского форума, медики без знания источника ставили оценки; 78,6% оценок сочли ответ ChatGPT лучше врачебного. Сравнивали качество текста ответа, не верность итогового суждения спрашивающего. Испытание 2026 года использовало модели 2024 года; новые могут быть сильнее. Но то же испытание: балл ИИ «на экзамене в одиночку» не предсказывает эффект, когда им пользуется обычный человек. Почему выдумывает — сотрудники OpenAI в 2025 году в ещё не рецензированной статье: обучение и оценка поощряют «угадать ответ», «не знаю» очков не даёт, поэтому при неуверенности тон всё равно уверенный. Способ сверки: попросить название и номер статьи закона, название руководства или статьи, открыть оригинал на официальном сайте; не нашли фразу — считайте, что не говорил. В вопросе не вшивайте свой вывод: «как закон регулирует такую ситуацию», не «я ведь точно выиграю». При внезапном перекосе рта, слабости с одной стороны, давящей боли в груди — не спрашивайте ИИ, звоните 120. Раздел 13, пункты 3 и 7. Нет денег на адвоката — раздел 7, пункт 3 (юридическая помощь). Эффект малый: только промежуточные «узнал ли болезнь», без цифр меньше смертей. Бенефициары — вы и близкие.

Источники · 5

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. doi.org/10.1001/jamainternmed.2023.1838