Apa Itu Halusinasi AI? Cara Cek Fakta Jawaban ChatGPT

Halusinasi AI adalah jawaban yang percaya diri dan lancar dari chatbot seperti ChatGPT, Gemini, atau Claude, tetapi salah atau tidak berdasar, misalnya sitasi karangan, link rusak, atau tanggal yang keliru. Hal ini terjadi karena model bahasa menghasilkan teks dengan memprediksi kata yang paling mungkin, bukan dengan mencari fakta. Untuk mengecek fakta jawaban AI, verifikasi setiap sumber, link, angka, dan kutipan ke sumber asli yang independen sebelum Anda mengandalkannya.

Poin penting

Model bahasa memprediksi teks yang masuk akal; tidak ada pemeriksaan bawaan yang memastikan tulisannya benar.
Halusinasi yang paling merugikan adalah referensi palsu: nama penulis, jurnal, DOI, dan URL yang tampak asli tetapi tidak ada.
Detail spesifik seperti angka, tanggal, nama, dan kutipan adalah bagian yang paling mungkin salah dan paling mudah dicek.
Meminta model mengakui ketidakpastian dan memberinya dokumen sumber akan mengurangi halusinasi, tetapi tidak menghilangkannya.
Alat yang berbasis pencarian membantu untuk fakta terbaru, tetapi Anda tetap perlu membuka halaman yang dikutip dan memastikan isinya sesuai dengan klaim jawaban.

Chatbot berguna untuk menyusun draf, merangkum, dan menjelaskan, dan sebagian besar jawabannya tentang topik umum akurat. Masalahnya, jawaban yang salah tampak persis seperti jawaban yang benar. Panduan ini menjelaskan dari mana halusinasi berasal, bentuk-bentuk yang biasa muncul, dan rutinitas praktis untuk memeriksa sebuah jawaban.

Mengapa model bahasa besar berhalusinasi

Mereka memprediksi token berikutnya

Model bahasa besar (LLM) dilatih dengan kumpulan teks yang sangat banyak untuk memprediksi potongan teks kecil berikutnya, yang disebut token, berdasarkan semua yang ada sebelumnya. Saat diberi pertanyaan, model menghasilkan lanjutan yang paling cocok dengan pola yang dipelajarinya. Jika data pelatihan memuat jawabannya berkali-kali, lanjutan yang paling mungkin biasanya benar. Jika tidak, model tetap menghasilkan lanjutan yang tampak paling masuk akal, karena tidak ada dalam mekanisme dasarnya yang berkata "berhenti, saya tidak tahu".

Itulah sebabnya karangan terdengar begitu meyakinkan. Referensi palsu memiliki bentuk yang tepat: nama penulis yang realistis, jurnal yang memang terbit di bidang itu, tahun yang wajar, dan DOI dengan format yang benar. Model jauh lebih paham seperti apa rupa sebuah sitasi daripada menghafal sitasi mana yang benar-benar ada.

Pelatihan menghargai jawaban

Setelah pelatihan awal, model disetel agar membantu, dan baik penilai manusia maupun tolok ukur otomatis cenderung memberi nilai lebih untuk jawaban lengkap daripada "saya tidak yakin". Peneliti di OpenAI berpendapat dalam makalah tahun 2025, Why Language Models Hallucinate, bahwa penilaian yang tidak memberi poin untuk sikap menahan diri mendorong model untuk menebak. Model yang lebih baru lebih pandai menyatakan ketidakpastian, tetapi kecenderungan itu belum hilang.

Batas waktu pelatihan

Pengetahuan model berhenti pada tanggal batas pelatihannya (training cutoff). Jika ditanya tentang peristiwa yang lebih baru, undang-undang baru, harga terkini, atau versi perangkat lunak terbaru, model tanpa akses pencarian dapat menggambarkan situasi lama sebagai situasi saat ini atau mengisi kekosongan dengan tebakan.

Tanpa pengambilan data secara bawaan

Kecuali chatbot terhubung ke pencarian web atau ke dokumen yang Anda berikan, ia menjawab hanya dari ingatan. Ia tidak bisa membuka makalah yang dikutipnya atau memeriksa apakah sebuah URL berfungsi. Bahkan dengan pencarian, ia bisa salah membaca halaman, mencampuradukkan dua sumber, atau menempelkan sitasi yang benar pada klaim yang tidak dibuat oleh sumber tersebut.

Jenis-jenis halusinasi yang umum

Jenis	Tampilannya	Cara mengeceknya
Sitasi palsu	Makalah, buku, atau perkara pengadilan dengan penulis, judul, dan jurnal yang masuk akal tetapi tidak ada, atau makalah asli yang dikreditkan dengan temuan yang tidak dimuatnya	Cari judul persis di katalog perpustakaan atau Google Scholar; baca abstrak atau bagian yang relevan
DOI dan pengenal karangan	DOI, ISBN, atau ID arXiv yang tidak dapat dibuka, atau mengarah ke karya yang tidak berhubungan	Buka `https://doi.org/` diikuti DOI-nya; cari ISBN di katalog perpustakaan; buka ID arXiv-nya
URL karangan	Link di domain asli dengan path yang tampak wajar tetapi menampilkan "404 Not Found"	Buka link-nya; jika gagal, cari kontennya di situs tersebut
Angka dan tanggal yang salah	Statistik, harga, jumlah penduduk, tanggal rilis, atau nomor versi yang meleset sedikit atau salah total	Cari angkanya di sumber resmi atau primer dan periksa tanggalnya
Kutipan yang salah atribusi	Kutipan yang terdengar asli, dikaitkan dengan tokoh terkenal yang tidak pernah mengucapkannya	Cari kata-kata persisnya dalam tanda kutip dan telusuri ke pidato, buku, atau wawancara aslinya
Penalaran salah yang percaya diri	Kesalahan hitung, logika tidak valid, atau kode yang memanggil fungsi yang tidak ada, disajikan langkah demi langkah	Hitung ulang, jalankan kodenya, periksa nama fungsi di dokumentasi resmi

Sitasi palsu pernah berdampak nyata. Dalam perkara Mata v. Avianca di AS pada 2023, pengacara dijatuhi sanksi setelah mengajukan dokumen yang memuat putusan pengadilan yang dikarang oleh ChatGPT. Kejadian serupa sejak itu dilaporkan di pengadilan lain dan dalam makalah akademik yang telah terbit.

Alur kerja langkah demi langkah untuk mengecek fakta jawaban AI

Anda tidak perlu memeriksa setiap kalimat dari setiap jawaban. Sesuaikan usaha dengan taruhannya: saran resep memerlukan pengawasan lebih sedikit daripada klaim medis, hukum, atau keuangan, atau apa pun yang akan Anda publikasikan atas nama Anda.

Pisahkan klaim yang bisa dicek. Daftar semua referensi, link, angka, tanggal, nama, dan kutipan langsung. Di sinilah sebagian besar halusinasi bersembunyi dan di sinilah pengecekan paling cepat.
Cek setiap pengenal. Buka setiap URL, cek setiap DOI di doi.org, cari setiap ISBN dan ID arXiv. Pengenal yang gagal, atau mengarah ke karya lain, adalah tanda bahaya untuk seluruh referensi itu.
Pastikan setiap sumber memang berisi yang diklaim. Makalah yang asli pun mungkin tidak mendukung kalimat yang dikaitkan dengannya. Baca abstrak, bagian yang relevan, atau kutipannya.
Cek angka ke sumber primer. Kunjungi badan statistik, regulator, laporan perusahaan, atau studi aslinya, bukan blog yang mengulang angka tersebut. Catat tanggal angkanya.
Telusuri kutipan sampai asalnya. Cari kata-kata persisnya dalam tanda kutip. Jika satu-satunya sumber adalah kumpulan kutipan tanpa rujukan asli, anggap kutipan itu belum terverifikasi.
Telusuri ulang penalarannya. Hitung ulang, uji kode di lingkungan sungguhan, dan periksa bahwa setiap langkah mengikuti langkah sebelumnya.
Baca secara lateral. Untuk klaim penting, cari dua sumber tepercaya yang independen dan sepakat, jangan bergantung pada satu sumber.
Hapus atau tandai yang tidak bisa diverifikasi. Jika sebuah klaim tidak dapat dikonfirmasi, buang atau tandai dengan jelas sebagai belum terkonfirmasi.

Pemeriksa Halusinasi AI kami mengotomatiskan langkah-langkah awalnya. Tempel jawaban AI dan alat ini memverifikasi DOI ke Crossref, menguji apakah link berfungsi, memeriksa ID arXiv dan ISBN, menelaah baris referensi, serta mendaftar statistik dan klaim faktual yang masih perlu dicek manusia. Alat ini memberi tahu pengenal mana yang asli; membaca sumber untuk memastikan ia mendukung klaim tetap tugas Anda.

Prompt yang mengurangi halusinasi

Cara Anda bertanya memengaruhi seberapa sering model mengarang. Teknik-teknik ini membantu, meski tidak ada satu pun yang membuat jawaban andal dengan sendirinya.

Beri izin untuk tidak tahu. Model lebih mungkin mengakui ketidakpastian jika diberi tahu bahwa hal itu boleh.
Sediakan materi sumber. Tempel dokumen, laporan, atau data, lalu minta model menjawab hanya dari materi itu. Ini perubahan tunggal yang paling efektif.
Minta kutipan. Mewajibkan kutipan kata demi kata yang singkat dari teks yang diberikan untuk setiap klaim membuat pernyataan tanpa dasar lebih mudah dikenali.
Pisahkan fakta dari inferensi. Minta model melabeli mana yang tertulis di sumber dan mana yang merupakan penalarannya sendiri.
Hindari pertanyaan yang menggiring. "Studi mana yang membuktikan X?" mengundang model untuk menghasilkan sebuah studi. "Apakah ada bukti untuk X?" menyisakan ruang untuk jawaban "tidak".
Minta lebih sedikit referensi yang lebih baik. Permintaan daftar bacaan yang panjang menghasilkan lebih banyak entri karangan.

Contoh prompt yang menggabungkan beberapa teknik tersebut:

Jawab hanya dengan laporan yang ditempel di bawah.
Untuk setiap klaim, sertakan kutipan persis yang singkat dari laporan yang mendukungnya.
Jika laporan tidak memuat jawabannya, tulis "Tidak disebutkan dalam laporan".
Jangan menambahkan referensi atau angka yang tidak ada dalam laporan.

[tempel laporan di sini]

Meminta model memeriksa jawabannya sendiri sebelumnya dapat menangkap beberapa kesalahan, tetapi bisa juga malah membenarkan sebuah karangan. Pemeriksaan oleh model itu sendiri bukan pengganti membuka sumbernya.

Kapan alat berbasis pencarian dan pengambilan data membantu

Banyak asisten kini bisa mencari di web atau membaca file yang Anda unggah sebelum menjawab. Pendekatan ini, yang sering disebut retrieval-augmented generation (RAG), memberi model teks relevan untuk dijadikan bahan, bukan hanya mengandalkan ingatan. Pendekatan ini paling membantu untuk:

peristiwa, harga, dan versi terbaru yang dirilis setelah batas waktu pelatihan;
pertanyaan tentang dokumen, kontrak, kebijakan, atau kumpulan data tertentu yang Anda berikan;
topik khusus yang jarang muncul dalam data pelatihan.

Jawaban yang berbasis hasil pencarian lebih jarang memuat sumber karangan karena sitasinya menunjuk ke halaman yang benar-benar diambil. Namun hal itu tidak menjamin akurasi. Pencarian bisa mengembalikan halaman yang buruk atau usang, model bisa salah merangkumnya, atau mengutip halaman asli di samping klaim yang tidak dibuat halaman itu. Perlakukan sitasi dari jawaban berbasis pencarian sebagai daftar bacaan yang harus diverifikasi, bukan sebagai bukti.

Kapan Anda perlu paling berhati-hati

Kesehatan, hukum, dan uang. Kesalahan berbiaya nyata, dan aturannya berbeda di tiap negara serta berubah seiring waktu. Gunakan AI untuk memahami pertanyaannya, lalu konfirmasikan dengan panduan resmi atau profesional yang berkualifikasi.
Apa pun yang akan Anda publikasikan atau serahkan. Yang tercantum adalah nama Anda, bukan nama model. Editor, guru, dan pengadilan menganggap referensi palsu sebagai tanggung jawab penulis.
Topik khusus atau lokal. Semakin sedikit sebuah subjek ditulis di internet, semakin sedikit bahan yang dimiliki model.
Permintaan yang sangat spesifik. Nomor halaman persis, sitasi perkara, pasal undang-undang, dan statistik yang tepat sangat rawan dikarang.

Jika Anda sedang meninjau teks buatan orang lain dan mencurigai teks itu dihasilkan AI, panduan kami tentang cara mengetahui apakah teks ditulis oleh AI membahas pendeteksian beserta batasannya, dan Detektor AI dapat memberi satu sinyal tambahan. Referensi yang tidak bisa diverifikasi sering menjadi bukti yang lebih kuat daripada skor detektor mana pun.

Pertanyaan yang sering diajukan

Mengapa ChatGPT mengarang sumber?

Karena ia menghasilkan teks yang tampak seperti jawaban yang mungkin. Ia sudah sangat paham format sitasi, sehingga ketika tidak punya referensi asli, ia bisa membuat satu dengan penulis, judul, dan pengenal yang masuk akal tetapi tidak sesuai dengan publikasi nyata mana pun.

Bagaimana cara memeriksa apakah referensi dari AI itu asli?

Cari judul persisnya di Google Scholar atau katalog perpustakaan, buka DOI-nya di doi.org, dan pastikan penulis, jurnal, serta tahunnya cocok. Lalu baca sumbernya secukupnya untuk memastikan ia mendukung klaim. Alat seperti pemeriksa halusinasi kami dapat menguji DOI, ISBN, ID arXiv, dan link sekaligus dalam jumlah banyak.

Apakah model AI yang lebih baru masih berhalusinasi?

Ya. Model yang lebih baru umumnya lebih jarang berhalusinasi untuk pertanyaan umum dan lebih pandai menyatakan ketika tidak yakin, tetapi setiap model saat ini masih bisa menghasilkan pernyataan palsu, terutama untuk topik khusus, peristiwa terbaru, dan permintaan detail yang persis.

Apakah pencarian web menghentikan halusinasi AI?

Pencarian web menguranginya, terutama sumber karangan dan fakta usang, tetapi tidak menghentikannya. Model masih bisa salah membaca atau salah menggambarkan halaman yang ditemukannya, jadi buka halaman yang dikutip dan periksa.

Apakah halusinasi sama dengan berbohong?

Tidak. Berbohong mengandaikan niat menipu. Model tidak punya niat; ia menghasilkan teks yang lancar tanpa pemeriksaan internal yang andal apakah teks itu benar. Dampaknya bagi pembaca bisa sama, itulah sebabnya verifikasi penting.

Semua alat