# Artikel Terkait Kalibrasi

Menggugat Gagasan Utama Menangani Halusinasi: Metakognisi, Solusi Baru untuk Menghancurkan Halusinasi Model Besar

Peneliti Google mengusulkan pendekatan baru untuk mengatasi "halusinasi" AI dalam makalahnya, **"Hallucinations Undermine Trust; Metacognition is a Way Forward."** Alih-alih berusaha membuat AI mengetahui segalanya atau menolak menjawab banyak pertanyaan (yang menimbulkan "pajak utilitas"), makalah ini mendefinisikan ulang halusinasi sebagai **AI memberikan informasi yang salah dengan keyakinan tinggi padahal ia tidak yakin.** Solusi intinya adalah **"ketidakpastian yang setia" (faithful uncertainty)** atau **metakognisi** – kemampuan AI untuk merasakan tingkat keyakinan internalnya dan mengekspresikannya dengan jujur dalam bahasa. Misalnya, jika AI ragu, ia harus mengatakan "Saya tidak terlalu yakin." Pendekatan ini lebih realistis karena hanya mengharuskan keselarasan antara sinyal internal dan output AI, bukan kebenaran mutlak yang mustahil. Metakognisi menjadi sangat penting di era **Agent AI** yang menggunakan alat eksternal seperti mesin pencari. Tanpanya, Agent tidak dapat memutuskan kapan harus mencari, kapan harus berhenti, atau bagaimana mengevaluasi informasi yang ditemukan. Namun, implementasinya menghadapi tantangan seperti **"paradoks bootstrap"** (data pelatihan yang statis untuk kemampuan dinamis), **"sinyak perusak keselarasan"** dari pelatihan RLHF yang mendorong AI selalu tampak yakin, dan kesulitan menilai apakah AI benar-benar memiliki metakognisi atau hanya berpura-pura. Makalah ini menyerukan perubahan paradigma: fokus pada pengembangan AI yang jujur tentang batas pengetahuannya, bukan AI yang sempurna tanpa kesalahan. Kepercayaan datang dari kejujuran tentang ketidakpastian, bukan dari klaim kepastian yang salah.

marsbit17j yang lalu