Đừng trông vào chatbot AI để tự phán đoán bệnh và chuyện pháp luật; trước khi đi khám, kiện tụng, tiêu khoản tiền lớn, hãy tìm văn bản gốc của căn cứ nó đưa ra mà đối chiếu một lượt

Đưa nguyên bệnh án cho AI, hơn chín phần mười trường hợp nó nhận ra là bệnh gì. Nhưng người thường dùng nó để hỏi triệu chứng, số người nhận ra bệnh còn ít hơn người tự lên mạng tìm, phán đoán có nên đi cấp cứu không cũng không chuẩn hơn. Hỏi chuyện pháp luật, ít nhất 58% câu trả lời của AI đa năng có phần bịa, nó còn nói xuôi theo những ý sai có sẵn trong câu hỏi của bạn.

Chi phí

Không tốn tiền. Mỗi lần đối chiếu mất thêm vài phút tới nửa giờ. Bảo AI viết ra điều luật, hướng dẫn hay bài báo nó dựa vào, rồi bạn tự mở văn bản gốc, tìm cho ra câu đó. Thói quen cần đổi là: đừng vì nó nói chắc nịch mà làm theo.

Lợi ích

Trước hết xem chuyện khám bệnh. Năm 2026, Nature Medicine đăng một thử nghiệm ngẫu nhiên với 1.298 người dân thường ở Anh, quy trình đã đăng ký trước. Mỗi người nhận hai ca bệnh dựng sẵn, phải phán đoán là bệnh gì, nên đi cấp cứu hay ở nhà theo dõi. Một phần người dùng chatbot AI hỗ trợ, gồm GPT-4o, Llama 3, Command R+. Nhóm đối chứng dùng cách quen thuộc của mình, phần lớn là tìm trên mạng hoặc xem trang web của Dịch vụ Y tế Quốc gia Anh (NHS). Đưa thẳng nguyên ca bệnh cho AI, 94,9% trường hợp nó nhận ra bệnh liên quan, 56,3% phán đúng nên đi khám ở đâu. Người thường dùng cùng AI đó, nhận ra bệnh liên quan chưa tới 34,5%, phán đúng nơi đi khám chưa tới 44,2%. Khả năng nhóm đối chứng nhận ra bệnh liên quan gấp 1,76 lần người dùng AI (khoảng tin cậy 95% từ 1,45 đến 2,13). Khả năng nhận ra bệnh nặng có dấu hiệu nguy hiểm gấp 1,57 lần (1,28–1,92). Phán đoán nên đi khám ở đâu, hai bên gần như nhau. Tác giả lật lại các đoạn hội thoại, thấy vấn đề nằm ở hai chỗ: người dùng không tả đủ triệu chứng, và AI đã nhắc tới đúng bệnh nhưng người dùng không nghe theo. Tiếp theo xem chuyện pháp luật. Một nhóm nghiên cứu ở Mỹ năm 2024 dùng ChatGPT 4 và các mô hình công khai khác để hỏi về án lệ của toà án liên bang Mỹ. ChatGPT 4 có 58% câu trả lời có phần bịa, Llama 2 lên tới 88%. Bịa nghĩa là nội dung không khớp với sự thật pháp lý, bài báo gọi là "ảo giác". Mô hình không phân biệt được câu nào của mình là bịa. Khi câu hỏi của người dùng có sẵn tiền đề pháp lý sai, nó thường nhận luôn. Năm 2025, cùng nhóm này kiểm tra tiếp các công cụ AI pháp lý chuyên nghiệp cho luật sư. Các công cụ này tự nhận không bịa, thực tế 17% đến 33% câu trả lời có phần bịa. Nó trông có vẻ đáng tiền vì AI gọi lúc nào cũng có, không lấy tiền, nói năng lại chắc chắn như bác sĩ, luật sư.

Ghi chú

Còn tranh cãi. Một nghiên cứu năm 2023 lấy 195 câu hỏi của người bệnh trên một diễn đàn ở Mỹ, cho nhân viên y tế chấm điểm mà không biết câu trả lời của ai. 78,6% lượt chấm cho rằng ChatGPT trả lời tốt hơn bác sĩ. Nhưng nó so câu trả lời viết hay hay dở, không xem người hỏi rốt cuộc có phán đoán đúng không. Thử nghiệm năm 2026 dùng mô hình năm 2024, mô hình mới có thể mạnh hơn. Tuy vậy cũng thử nghiệm đó thấy điểm thi của riêng AI không dự đoán được hiệu quả khi người thường dùng nó. Vì sao AI bịa, năm 2025 các nhà nghiên cứu của OpenAI đã giải thích trong một bài chưa qua bình duyệt. Cách huấn luyện và chấm điểm thưởng cho việc "đoán một đáp án", trả lời "không biết" thì không được điểm, nên lúc không chắc nó vẫn nói rất chắc. Cách đối chiếu là bảo nó viết ra tên điều luật và số điều, tên hướng dẫn hoặc bài báo, bạn vào trang chính thức mở văn bản gốc tìm câu đó; không tìm thấy thì coi như nó chưa nói. Lúc hỏi đừng viết kết luận của mình vào câu hỏi: hỏi "trường hợp này luật quy định thế nào", đừng hỏi "trường hợp này tôi chắc thắng phải không". Dấu hiệu như đột nhiên méo miệng, yếu một bên người, đau như bị đè ngực, đừng hỏi AI trước, gọi thẳng 120. Xem chương 13 mục 3 (méo miệng, yếu một bên tay) và chương 13 mục 7 (đau như bị đè ngực). Kiện tụng mà không có tiền thuê luật sư, xem chương 7 mục 3 (xin trợ giúp pháp lý). Lợi ích xếp nhỏ vì chỉ có chỉ số trung gian kiểu "có nhận ra bệnh không", không có con số về giảm tử vong. Người hưởng lợi là chính bạn và người nhà.

Nguồn · 5

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664 (bản tiền ấn phẩm, nói ở phần Ghi chú). arxiv.org/abs/2509.04664
5. Ý kiến ngược lại: Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. doi.org/10.1001/jamainternmed.2023.1838