Kenapa AI sering salah, dan cara menangkapnya sebelum merugikan Anda

Mekanismenya, tanpa jargon

Saat Anda bertanya ke chatbot AI, ia tidak sedang mencari apa pun. Ia sedang menghasilkan teks, beberapa karakter sekaligus, yang cocok dengan pola bagaimana jawaban benar untuk pertanyaan semacam itu biasanya ditulis. Itu saja tugasnya. Cocok dengan pola dan benar adalah dua sasaran berbeda, dan tidak ada bagian dari prosesnya yang membidik sasaran kedua.

Sebagian besar waktu Anda tidak menyadarinya, karena kedua sasaran itu bertumpang tindih. Teks yang jadi bahan belajar sistem ini kebanyakan ditulis orang yang kebanyakan benar, jadi teks yang berbentuk jawaban biasanya juga teks yang benar. Tumpang tindihnya menipis di bagian tepi: fakta yang langka, baru, sangat spesifik, atau memang tidak ada dalam bacaan model. Di tepi itu, menghasilkan bentuk jawaban yang benar tetap mudah. Menghasilkan isinya tidak. Yang Anda dapat adalah kalimat yang dibangun seperti fakta, dengan angka di tempat yang tepat dan nama yang terdengar kredibel, menggambarkan sesuatu yang tidak pernah terjadi.

Ini juga menjelaskan kenapa pertanyaan lanjutan yang paling naluriah justru gagal. Bertanya "kamu yakin?" terasa seperti audit. Padahal bukan. Menyetujui itu cocok dengan pola balasan yang membantu, jadi tekanan cenderung menghasilkan persetujuan, dan model sering minta maaf lalu mengganti jawaban yang benar dengan yang lebih buruk. Ujilah dalam dua menit: tanyakan sesuatu yang sudah Anda tahu, terima jawaban benarnya, lalu bilang "kok kayaknya salah" dan lihat hasilnya. Yang kembali adalah mesin yang sama menghasilkan teks yang menyenangkan Anda, bukan pendapat kedua. Untuk versi paling dasar soal bagaimana semua ini dibangun, apa itu AI sebenarnya membahasnya tanpa matematika.

Lima titik tempat ia paling sering salah

Kesalahan tidak tersebar merata di semua yang mungkin Anda tanyakan. Ia menumpuk di titik tertentu. Menghafal lima titik itu memberi Anda alarm kecil di kepala yang berbunyi pada saat yang tepat, dan itu jauh lebih berharga daripada rasa waspada umum yang berbunyi terus-menerus lalu berhenti berbunyi sama sekali.

Di mana ia meleset	Bentuknya seperti apa	Contoh satu baris
Fakta dan angka spesifik	Angka presisi tanpa dasar apa pun	Bilang toko itu buka sejak 1987 padahal 1994
Sitasi, kutipan, tautan	Judul terdengar nyata, URL tampak nyata, tak satu pun terbuka	Studi oleh dua peneliti nyata, di jurnal nyata, yang tak pernah ditulis
Apa pun setelah batas pelatihannya	Jawaban yakin soal dunia yang berhenti berbulan lalu	Menyebut harga langganan tahun lalu padahal berubah Maret
Aritmetika dan menghitung	Metodenya benar, totalnya salah	Menjumlah sebelas baris faktur dan meleset 40 dolar AS
Pertanyaan yang sudah membawa jawabannya	Persetujuan yang dikemas jadi analisis	"Kenapa X lebih baik?" membela X dan tak pernah mempertanyakannya

Baris terakhir itu Anda sendiri yang menyebabkannya, dan itu paling sering terjadi dalam pemakaian nyata. Bertanya "kenapa X lebih baik dari Y" hampir pasti menghasilkan pembelaan untuk X, dan pertanyaan yang memuat "pasti" atau "benar kan kalau" biasanya berujung jawaban ya. Tanyakan begini: "Bandingkan X dan Y untuk situasi ini, lalu beri saya argumen terkuat yang menentang pilihanmu tadi." Merumuskan pertanyaan agar tidak menyelundupkan jawabannya adalah setengah dari yang orang sebut prompting, dan cara berbicara dengan AI membahas setengah sisanya. Satu keanehan lagi yang baik diketahui sejak awal. Dalam percakapan yang sangat panjang, atau setelah Anda menempel dokumen yang sangat panjang, detail dari bagian awal bisa keluar dari pandangan model, dan ia akan menambal lubangnya alih-alih memberi tahu Anda bahwa ia kehilangan alurnya. Itu batas kapasitas, bukan soal kebenaran, dan apa itu context window menjelaskan di mana plafonnya.

Nada yakin itu bukan gertakan

Kebanyakan orang datang ke sini dengan asumsi yang masuk akal: mesin ini tahu seberapa yakin dirinya lalu menyembunyikan keraguannya agar tampak kompeten. Asumsi itu salah, dan itu penting, karena ia membuat Anda memburu sinyal keyakinan yang memang tidak pernah ada.

Tidak ada pengukur keyakinan yang sedang disembunyikan dari Anda. Sistemnya tidak sedang memegang angka rahasia yang tertulis 62 persen lalu memilih terdengar seperti 100 persen. Ia menghasilkan jawaban salah lewat proses yang sama, dengan kelancaran yang sama, seperti jawaban benar. Justru itu sebabnya nada bicara tidak berguna sebagai sinyal di sini, berbeda dengan saat Anda berhadapan dengan manusia. Kalimat berhati-hati seperti "saya tidak sepenuhnya yakin, tapi" juga teks yang dihasilkan. Ia muncul karena frasa itu cocok untuk pertanyaan berbentuk begitu, bukan karena ada sesuatu di dalamnya yang menyalakan peringatan. Minta model menilai keyakinannya sendiri dari sepuluh dan Anda akan dapat angka, sering kali angka tinggi, terpampang persis di sebelah sitasi yang ia karang. Nilai itu dihasilkan proses yang sama dengan sitasinya.

Jadi instruksi seperti "jawab hanya kalau kamu yakin" atau "jangan mengarang apa pun" menolong lebih sedikit dari harapan orang. Menambahkan "bilang tidak tahu kalau memang tidak tahu" pada pertanyaan penting tetap layak dilakukan, sebab model yang lebih baru lebih mudah menolak menjawab dibanding dulu, tapi anggap itu dorongan, bukan jaminan. Versi gagasan itu yang benar-benar bisa diandalkan mengarah keluar: buat jawabannya menunjukkan sesuatu yang bisa Anda buka. Saat aplikasi mencari di web dan melampirkan tautan, Anda bisa membaca halamannya sendiri dan berhenti bergantung pada kata-katanya. Saat ia menjawab hanya dari ingatan, kata-katanya itulah satu-satunya yang Anda punya.

Empat pemeriksaan, dari yang paling murah

Anda tidak akan memverifikasi segalanya, dan kalau dipaksakan Anda akan berakhir tidak memverifikasi apa pun. Yang Anda butuhkan adalah pemeriksaan yang biayanya lebih kecil daripada kerugian kesalahannya. Empat cara ini berjajar dari nyaris gratis sampai agak merepotkan, dan untuk kebanyakan pertanyaan, yang pertama sudah cukup.

1. Minta sumber, lalu buka sumbernya. Bukan sekadar ritual "sebutkan sumbermu". Klik. Tautan mati, atau halaman hidup yang ternyata tidak memuat klaim itu, menyelesaikan urusan dalam sekitar sepuluh detik.
2. Tanyakan lagi di obrolan baru. Pertanyaan sama, percakapan baru, tanpa tanya jawab sebelumnya. Kalau angka, nama, atau tanggalnya kembali berbeda, model tadi sedang menambal lubang, bukan mengingat sesuatu. Ini tidak berbiaya dan menangkap cukup banyak detail karangan.
3. Tanyakan ke model lain. Pemeriksaan paling berharga untuk pertanyaan faktual. Tempel pertanyaan yang sama ke penyedia kedua lalu bandingkan detailnya, bukan nadanya.
4. Cari dengan cara biasa. Untuk apa pun yang akan Anda kirim, tanda tangani, terbitkan, atau bayar, beri sembilan puluh detik di mesin pencari. AI itu penyaring pertama yang hebat. Penyaring pertama bukan verifikasi.

Poin ketiga layak mendapat tempatnya. Dua model buatan perusahaan berbeda, dilatih dengan data dan metode berbeda, sama-sama bisa salah pada pertanyaan yang sama. Tapi mereka sangat jarang mengarang detail salah yang identik, karena detail karangan lahir dari lubang khas satu sistem tertentu. Kalau Claude dan ChatGPT secara terpisah memberi Anda angka yang sama, angka itu kemungkinan besar nyata. Kalau keduanya berbeda, Anda sudah menemukan kalimat persis yang perlu dicek, dan itu jauh lebih berguna daripada firasat samar bahwa ada yang janggal. Untuk pengecekan sesekali, paket gratis dua penyedia sudah cukup dan tidak berbiaya. Ia berhenti gratis begitu pemeriksaan silang jadi kebiasaan, sebab akses berbayar berkisar 20 dolar AS per bulan per penyedia, dan celah itulah yang ditutup langganan multimodel seperti Whizi. Memakai beberapa model sekaligus memandu alur kerjanya.

Di mana ini penting, dan di mana sama sekali tidak

Kebiasaan verifikasi yang diterapkan ke segala hal akan runtuh dalam sepekan. Sebagian besar yang Anda tanyakan berisiko rendah dan bisa Anda cek sendiri. Minta versi lebih pendek dari email Anda sendiri, dan Anda langsung tahu apakah hasilnya lebih pendek dan masih menyampaikan maksud Anda. Begitu juga untuk curah gagasan, mencari nama, menyusun kerangka, menulis draf, menerjemahkan pesan yang akan Anda baca sebelum dikirim, atau mengubah catatan berantakan jadi daftar. Andalah pemeriksanya, dan kesalahannya muncul di depan Anda seketika.

Dua pertanyaan bisa memilah tugas apa pun ke keranjang yang tepat, dan menanyakannya ke diri sendiri butuh sekitar tiga detik.

1. Kalau ini salah, siapa yang tahu, dan kapan? Anda, sepuluh detik lagi sambil membacanya, atau klien Anda, tiga bulan lagi?
2. Bisakah saya membatalkannya? Menghapus paragraf buruk itu gratis. Membetulkan laporan pajak, menarik penawaran yang sudah terkirim, atau membalik pembayaran tidak.

Kalau salah satu jawabannya membuat Anda ragu, verifikasi setiap klaim spesifik sebelum bertindak. Isi jelas keranjang itu: nama dan dosis obat, tenggat hukum dan pelaporan, angka pajak, isi kontrak, apa pun yang menyangkut kesehatan atau status keimigrasian seseorang, serta kode yang memindahkan uang atau menangani data pribadi. Salah pilih padanan kata dalam email cuma membuat Anda tampak agak aneh sehari. Salah dosis atau tenggat yang terlewat bukan urusan yang bisa dibereskan AI setelahnya. Apakah AI aman dipakai membahas sisi itu lebih dalam, termasuk apa yang tidak boleh Anda tempel ke sana. Mulai dengan satu kebiasaan: begitu sebuah jawaban memuat angka, nama, tanggal, atau tautan, perlakukan bagian itu saja sebagai belum terverifikasi lalu periksa. Sisanya biasanya aman.