# Artikel Terkait Halusinasi

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Halusinasi", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Dipecat oleh Google Karena Makalah 14 Halaman, Lebih dari 4000 Orang Mendukungnya, 6 Tahun Kemudian: Saat Itu Ia Hampir Meramalkan Seluruh Era AI

Pada Desember 2020, peneliti AI etika terkemuka Timnit Gebru diberhentikan dari Google setelah konflik terkait makalah akademisnya yang berjudul "On the Dangers of Stochastic Parrots". Lebih dari 4.000 orang menandatangani petisi dukungan untuknya. Makalah setebal 14 halaman itu, yang ditulis pada 2020, memperingatkan berbagai risiko besar model bahasa berskala besar (LLM) jauh sebelum ledakan AI generatif seperti ChatGPT. Makalah tersebut meramalkan lima masalah utama yang kini menjadi kenyataan: (1) **Halusinasi AI** – model menghasilkan informasi yang salah namun terdengar meyakinkan; (2) **Amplifikasi bias** – prasangka sosial dalam data pelatihan diperkuat oleh model; (3) **Konsumsi energi masif** – pelatihan LLM meninggalkan jejak karbon besar; (4) **Data pelatihan tidak teraudit** – pengembang sendiri sering tidak tahu konten sebenarnya dalam dataset raksasa; (5) **Kolaps model & sentralisasi kekuasaan** – konten buatan AI akan mendominasi internet dan meminggirkan bahasa serta budaya minor, sementara pengembangan AI terkonsentrasi di segelintir perusahaan teknologi. Setelah keluar dari Google, Gebru mendirikan Distributed AI Research Institute (DAIR) untuk meneliti isu-isu etika AI di luar kepentingan komersial perusahaan besar. Enam tahun kemudian, peringatan dalam makalah "Parrot Stochastic" yang sempat dianggap berlebihan, kini diakui sebagai tantangan nyata yang dihadapi industri AI. Kisah Gebru menyoroti ketegangan abadi antara inovasi teknologi yang cepat dengan pertimbangan keadilan, transparansi, dan keberlanjutan.

marsbit06/08 10:33

Dipecat oleh Google Karena Makalah 14 Halaman, Lebih dari 4000 Orang Mendukungnya, 6 Tahun Kemudian: Saat Itu Ia Hampir Meramalkan Seluruh Era AI

marsbit06/08 10:33

Menggugat Gagasan Utama Menangani Halusinasi: Metakognisi, Solusi Baru untuk Menghancurkan Halusinasi Model Besar

Peneliti Google mengusulkan pendekatan baru untuk mengatasi "halusinasi" AI dalam makalahnya, **"Hallucinations Undermine Trust; Metacognition is a Way Forward."** Alih-alih berusaha membuat AI mengetahui segalanya atau menolak menjawab banyak pertanyaan (yang menimbulkan "pajak utilitas"), makalah ini mendefinisikan ulang halusinasi sebagai **AI memberikan informasi yang salah dengan keyakinan tinggi padahal ia tidak yakin.** Solusi intinya adalah **"ketidakpastian yang setia" (faithful uncertainty)** atau **metakognisi** – kemampuan AI untuk merasakan tingkat keyakinan internalnya dan mengekspresikannya dengan jujur dalam bahasa. Misalnya, jika AI ragu, ia harus mengatakan "Saya tidak terlalu yakin." Pendekatan ini lebih realistis karena hanya mengharuskan keselarasan antara sinyal internal dan output AI, bukan kebenaran mutlak yang mustahil. Metakognisi menjadi sangat penting di era **Agent AI** yang menggunakan alat eksternal seperti mesin pencari. Tanpanya, Agent tidak dapat memutuskan kapan harus mencari, kapan harus berhenti, atau bagaimana mengevaluasi informasi yang ditemukan. Namun, implementasinya menghadapi tantangan seperti **"paradoks bootstrap"** (data pelatihan yang statis untuk kemampuan dinamis), **"sinyak perusak keselarasan"** dari pelatihan RLHF yang mendorong AI selalu tampak yakin, dan kesulitan menilai apakah AI benar-benar memiliki metakognisi atau hanya berpura-pura. Makalah ini menyerukan perubahan paradigma: fokus pada pengembangan AI yang jujur tentang batas pengetahuannya, bukan AI yang sempurna tanpa kesalahan. Kepercayaan datang dari kejujuran tentang ketidakpastian, bukan dari klaim kepastian yang salah.

marsbit06/03 00:46

Menggugat Gagasan Utama Menangani Halusinasi: Metakognisi, Solusi Baru untuk Menghancurkan Halusinasi Model Besar

marsbit06/03 00:46

活动图片

Kategori Populerright-arrow

Tag Populerright-arrow