AI Trust & Hallucination

Ada perbedaan besar antara AI salah menyebut warna casing laptop dan AI salah menjelaskan dosis obat, status legal kontrak, atau konsekuensi finansial. Secara teknis, keduanya bisa sama-sama disebut error. Secara risiko, levelnya tidak sebanding. Itulah alasan pembahasan AI Trust untuk kesehatan, keuangan,…

“AI-nya salah lagi. Dia nyampur perusahaan kita sama brand lain.” Kalimat seperti ini sering langsung dimasukkan ke folder hallucination. Padahal belum tentu seluruh problem-nya berada di level generasi model. Bisa jadi masalah awalnya lebih sederhana sekaligus lebih fundamental: entity confusion. Dua organisasi…

Ada satu kalimat yang terdengar sangat masuk akal di ruang meeting: “Kan informasi yang benar sudah ada di website resmi. Kenapa AI masih bisa salah?” Pertanyaan itu valid. Tetapi asumsi di belakangnya perlu dibongkar. Website resmi memang biasanya menjadi primary source paling…

Ada jenis hasil audit AI yang gampang bikin tim terlalu cepat senang. Lima kali ditanya, jawabannya sama. Besok dites lagi, jawabannya masih sama. Minggu berikutnya, masih konsisten. Di dashboard, ini terlihat cantik: stability tinggi. Masalahnya cuma satu. Kalau jawabannya salah, kita baru…

Dua sumber sama-sama terlihat kredibel. Keduanya punya nama besar. Keduanya punya tanggal. Keduanya menulis dengan yakin. Masalahnya: mereka tidak mengatakan hal yang sama. Apa yang dilakukan tim? Sering kali jawabannya terlalu cepat. “Ambil source yang authority-nya lebih tinggi.” Atau: “Pakai yang paling…

“Hallucination rate kita bulan ini 12 persen.” Kalimat itu terdengar sangat data-driven. Pertanyaan berikutnya harus langsung muncul: Dua belas persen dari apa? Dari seluruh jawaban? Dari seluruh klaim? Dari query faktual? Dari satu platform? Dari lima run per query? Apakah stale information…

Tidak semua review adalah evidence. Ada review yang lahir dari pemakaian nyata. Ada yang cuma rewrite product page. Ada yang membandingkan lima produk tanpa pernah menyentuh satu pun. Ada yang terlihat independen tetapi sebenarnya affiliate-heavy. Ada juga review satu bintang dari pengguna…

Sebuah tim menemukan AI salah menyebut alamat cabang. Content manager memperbaiki halaman website. Selesai? Belum tentu. Dua minggu kemudian, error yang sama muncul lagi. Semua orang mulai saling tanya. “Kemarin yang diubah apa?” “Source yang salah yang mana?” “Sudah submit correction ke…

Seorang founder membuka tiga jawaban AI yang berbeda. Topiknya tentang perusahaannya sendiri. Website resmi ada. Press release ada. Halaman About lengkap. Tetapi domain yang terus muncul sebagai sumber justru media industri yang sudah menulis brand itu dua tahun lalu. “Kenapa AI lebih…

Ada halaman yang terakhir diperbarui tiga tahun lalu tetapi masih sepenuhnya valid. Ada halaman yang baru berumur tiga minggu tetapi sudah menyesatkan. Itu sebabnya evidence freshness tidak bisa diukur dengan satu aturan seperti: “Semua sumber di atas 12 bulan dianggap stale.” Terdengar…