Jangan mengandalkan chatbot AI untuk menilai kondisi kesehatan atau masalah hukum. Sebelum berkonsultasi ke dokter, mengajukan gugatan, atau mengeluarkan uang banyak, pastikan dulu sumber yang disebutkan AI dengan mencari teks aslinya

Jika kasus lengkap diserahkan ke AI, lebih dari 90% ia mengenali penyakitnya. Tetapi orang awam yang bertanya gejala, yang mengenali penyakit justru lebih sedikit dibanding yang mencari sendiri di internet, dan keputusan perlu IGD atau tidak juga tidak lebih akurat. Untuk pertanyaan hukum, AI umum setidaknya 58% jawabannya mengandung isi rekaan, dan bisa mengikuti pernyataan salah di pertanyaanmu.

Biaya

Tidak mengeluarkan uang. Tiap kali memeriksa butuh beberapa menit sampai setengah jam ekstra. Minta AI menulis pasal, pedoman, atau makalah yang diacunya; buka sendiri teks aslinya dan temukan kalimat itu. Kebiasaan yang diubah: jangan ikut saja karena AI terdengar yakin.

Manfaat

Sebuah studi acak yang dipublikasikan di Nature Medicine tahun 2026 melibatkan 1298 orang Inggris. Mereka diberikan dua kasus medis untuk dinilai apakah perlu ke UGD atau cukup dirawat di rumah. Sebagian menggunakan chatbot AI (GPT-4o, Llama 3, Command R+), sementara kelompok kontrol mengandalkan cara biasa, seperti mencari di internet atau situs NHS. Hasilnya, AI mampu mengidentifikasi penyakit dengan benar dalam 94.9% kasus, dan menentukan tempat perawatan yang tepat dalam 56.3% kasus. Orang awam yang menggunakan AI yang sama hanya berhasil mengidentifikasi penyakit dalam 34.5% kasus, dan menentukan tempat perawatan yang tepat dalam 44.2% kasus. Kelompok kontrol memiliki kemampuan mengidentifikasi penyakit 1.76 kali lebih baik (95% CI 1.45–2.13). Untuk mengidentifikasi penyakit berbahaya, kelompok kontrol juga lebih unggul 1.57 kali (1.28–1.92). Untuk penentuan tempat perawatan, kedua kelompok hampir sama. Peneliti menemukan bahwa masalah muncul dari dua sisi: pengguna tidak menjelaskan gejala secara lengkap, dan AI menyebutkan penyakit yang tepat namun tidak diikuti pengguna. Dalam bidang hukum, sebuah tim riset AS tahun 2024 menguji ChatGPT 4 dan model lain terhadap putusan pengadilan federal AS. ChatGPT 4 memberikan jawaban fiktif dalam 58% kasus, sedangkan Llama 2 hingga 88%. Hal ini disebut “halusinasi” karena konten tidak sesuai fakta hukum. AI juga cenderung mengikuti asumsi keliru dalam pertanyaan pengguna. Tahun 2025, alat AI hukum khusus untuk pengacara pun masih mengandung informasi fiktif dalam 17%–33% jawaban. Keuntungan AI tampak nyata karena selalu siap sedia, gratis, dan menyampaikan jawaban dengan keyakinan layaknya dokter atau pengacara.

Catatan

Masih kontroversial. Sebuah studi tahun 2023 mengambil 195 pertanyaan pasien dari forum AS, lalu meminta tenaga medis menilai jawaban ChatGPT tanpa melihat sumbernya. Sebanyak 78.6% menilai ChatGPT lebih baik daripada dokter. Namun penilaian ini hanya mengukur kualitas penyampaian jawaban, bukan akurasi akhirnya. Studi tersebut menggunakan model tahun 2024, sehingga model terbaru mungkin lebih baik. Namun studi serupa juga menunjukkan bahwa performa AI dalam ujian terpisah tidak dapat memprediksi efektivitasnya saat digunakan orang awam. Peneliti OpenAI tahun 2025 menjelaskan bahwa sistem pelatihan dan penilaian memberi insentif pada “menebak jawaban”, sehingga AI cenderung menyatakan keyakinan penuh meski tidak yakin. Cara memverifikasi: mintalah AI menyebutkan judul dan nomor pasal, pedoman, atau makalah, lalu cari teks aslinya di situs resmi; jika tidak ditemukan, anggap saja AI tidak pernah mengatakannya. Saat bertanya, jangan menyertakan kesimpulan sendiri; tanyakan “Bagaimana aturan hukumnya dalam kasus ini?” bukan “Apakah saya pasti menang dalam kasus ini?”. Untuk gejala seperti wajah miring, lemas pada satu sisi tubuh, atau nyeri dada hebat, jangan tanya AI dulu — langsung hubungi 120 (lihat bagian 13.3 dan 13.7). Bagi yang tidak mampu membayar pengacara, lihat bagian 7.3 tentang bantuan hukum. Manfaatnya dinilai kecil karena hanya mengukur indikator perantara seperti “apakah penyakit teridentifikasi”, belum ada data penurunan angka kematian. Penerima manfaatnya adalah diri Anda dan keluarga.

Sumber · 5

1. Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. doi.org/10.1038/s41591-025-04074-y
2. Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. doi.org/10.1093/jla/laae003
3. Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. doi.org/10.1111/jels.12413
4. Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. arxiv.org/abs/2509.04664
5. 反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. doi.org/10.1001/jamainternmed.2023.1838