Hallucination adalah istilah untuk saat model AI menghasilkan informasi yang terdengar meyakinkan tapi sebenarnya salah atau tidak berdasar — bukan karena model 'berbohong' secara sadar, tapi karena cara kerjanya memang memprediksi kata paling mungkin, bukan memverifikasi fakta.
Kenapa Ini Terjadi
Model bahasa dilatih untuk melanjutkan teks dengan pola yang paling masuk akal secara statistik, bukan dengan mengecek database fakta secara real-time (kecuali diberi akses eksplisit lewat tools). Saat topik yang ditanya jarang muncul di data latih atau ambigu, model tetap akan menghasilkan jawaban yang terdengar lancar — hanya saja isinya bisa keliru.
Yang membuat hallucination berbahaya bukan frekuensinya, tapi rasa percaya dirinya — model jarang menjawab 'saya tidak tahu' meski seharusnya begitu, karena nada percaya diri juga sekadar pola statistik yang dipelajari.
Cara Menguranginya
Teknik seperti retrieval-augmented generation (RAG), memberi akses pencarian langsung, dan meminta model mengutip sumber terverifikasi terbukti mengurangi hallucination secara signifikan — tapi belum ada cara menghilangkannya seratus persen di arsitektur model bahasa saat ini.