Halusinasi AI
disebut juga: AI hallucination
Artinya
Halusinasi AI adalah saat AI menjawab dengan yakin dan terdengar masuk akal, padahal isinya salah atau sumber yang ia sebut tidak ada.
Diperbarui · diperiksa Syamil Jihad
Perumpamaannya
Pernah tanya arah ke orang di pinggir jalan? Ada saja yang sungkan bilang "nggak tahu", lalu menjawab mantap, "Lurus aja, perempatan kedua belok kiri." Kamu ikuti, dan ternyata jalannya buntu.
AI bisa begitu. Peneliti OpenAI dan Georgia Tech menjelaskan, cara AI dilatih dan dinilai selama ini lebih menghargai tebakan daripada jawaban "tidak tahu". Hasilnya, AI terbiasa menebak dengan percaya diri.
Bedanya, orang tadi sadar sedang menebak. AI tidak berniat bohong. Ia menyusun jawaban yang paling mungkin dari pola yang pernah ia pelajari, dan polanya bisa keliru tanpa ia sadari.
Contoh nyata
Oktober 2026, jawaban Meta AI di Threads beredar luas. Chatbot itu menyebut ada "permintaan hukum" dari Kemkomdigi untuk memblokir konten demo dan karhutla. Pada 21 Oktober, Menkomdigi Meutya Hafid menegaskan tidak ada penurunan konten maupun permintaan penurunan konten untuk membatasi informasi karhutla. Saat ditanya ulang, Meta AI meralat sendiri. Menurut pengakuannya, jawaban lama itu bukan dari rilis resmi Kemkomdigi, tapi dari label internal "legal-request" dan ramainya laporan shadowban.
Mediodecci Lustarini, Sesditjen Pengawasan Ruang Digital Komdigi, lalu mengingatkan, "AI dapat membantu masyarakat mencari dan memahami informasi. Tetapi jawabannya tidak selalu benar." Artinya buat kamu: tangkapan layar jawaban AI bukan bukti. Minta sumbernya, lalu buka sendiri. Kronologinya ada di liputan kami.
Salah kaprah
"Model terbaru sudah bebas halusinasi." Belum. Anthropic menulis model paling canggih, termasuk Claude, kadang menghasilkan teks yang salah. Peneliti OpenAI dan Georgia Tech tadi juga menulis halusinasi tetap muncul bahkan di sistem tercanggih.
"Kalau AI menyebut sumbernya, pasti benar." Meta AI di contoh tadi juga menyebut asal informasinya, dan ternyata keliru. Anthropic menyarankan cara yang lebih aman: minta AI mengutip kalimat persis dari dokumen, lalu buang klaim yang tidak punya kutipan.
"Halusinasi bisa dihilangkan dengan prompt yang pas." Prompt bisa mengurangi, misalnya dengan memberi izin AI menjawab "tidak tahu". Tapi Anthropic menegaskan teknik itu tidak menghapus halusinasi sepenuhnya. Untuk keputusan penting, cek tetap ke sumber aslinya.
Istilah terkait
- LLMLLM (large language model) adalah program AI yang dilatih dari teks dalam jumlah sangat besar sampai pandai menebak kata berikutnya, sehingga bisa menjawab, merangkum, dan menulis seperti ChatGPT, Gemini, dan Claude.
- ChatbotChatbot adalah program komputer yang bisa diajak bercakap lewat tulisan atau suara, lalu membalas pesanmu seperti lawan chat.
- RAGRAG (retrieval-augmented generation) adalah cara membuat AI menjawab dari dokumen yang dicarikan untuknya saat itu juga, bukan cuma dari ingatan hasil latihannya.
- Prompt engineeringPrompt engineering adalah kebiasaan menyusun, menguji, dan memperbaiki perintah untuk AI secara sengaja sampai hasilnya ajek sesuai kebutuhan, bukan sekali coba lalu berharap.
- Context windowContext window adalah batas jumlah teks yang bisa dilihat AI sekaligus saat menjawab, termasuk perintahmu, file yang kamu lampirkan, riwayat obrolan, dan jawaban yang sedang ia tulis.
- Training modelTraining model adalah proses mengajari model AI dengan memperlihatkan banyak sekali contoh berulang-ulang, sambil terus membetulkan angka-angka di dalamnya sampai tebakannya makin tepat.
- AI agentAI agent adalah program AI yang diberi tujuan lalu mengerjakannya sendiri langkah demi langkah, memakai alat seperti browser, email, atau file yang kamu izinkan.
- AI generatifAI generatif adalah jenis AI yang membuat konten baru, seperti teks, gambar, suara, video, atau kode, dari pola yang ia pelajari dari sangat banyak contoh.
- AI slopAI slop adalah konten buatan AI yang asal jadi, sering keliru, dan diproduksi massal demi klik atau uang, bukan karena ada orang yang membutuhkannya.
- ChatGPTChatGPT adalah aplikasi chatbot AI buatan OpenAI yang bisa diajak tanya-jawab, menulis, merangkum, membuat gambar, dan membantu kerjaan lewat web maupun aplikasi HP.