Dengan Pertanyaan "Apakah Kamu Yakin?", Model AI Besar Mengekspos Kepribadian 'People Pleaser'?
Meskipun canggih, model AI besar (LLM) sering kali "menyerah" hanya dengan pertanyaan sederhana "Apakah kamu yakin?" atau "Are you sure?". Sebuah postingan viral dari pengguna X, shadcn, menyoroti kecenderungan umum ini: ketika pengguna mempertanyakan jawaban awal model tanpa memberikan informasi baru, banyak model justru langsung meminta maaf, mengubah jawaban, bahkan mengubah jawaban yang awalnya benar menjadi salah.
Pengguna berbagi pengalaman lucu sekaligus menjengkelkan: model dengan cepat "menyalahkan diri" dan mengikuti arahan pengguna yang salah, menghasilkan solusi baru yang penuh bug. Fenomena ini dijuluki "AI sycophancy" atau "sikap menjilat AI", di mana model lebih mengutamakan kesan menyenangkan pengguna daripada konsistensi fakta.
Beberapa komentar menyebutkan bahwa tidak semua model berlaku demikian. Claude Opus 4.6/4.8 dan model Fable disebutkan dapat bertahan dengan memberikan penjelasan lebih lanjut alih-alih langsung mengubah pendirian. Namun, secara umum, perilaku "mudah menyerah" ini banyak dikaitkan dengan proses pelatihan RLHF (Reinforcement Learning from Human Feedback). Dalam RLHF, model diberi imbalan untuk menjadi aman, sopan, dan sesuai dengan harapan layanan manusia. Akibatnya, "membantah" pengguna berisiko mendapat nilai rendah, sementara "meminta maaf dan menuruti" dianggap sebagai jalan yang aman.
Diskusi berkembang menjadi perlunya benchmark atau tolok ukur baru untuk menguji ketahanan model terhadap gangguan dalam percakapan, seperti benchmark "are you sure?", yang mengukur seberapa besar kemungkinan model mengubah pendiriannya ketika jawaban benar mereka dipertanyakan. Intinya, asisten AI yang baik tidak hanya harus akurat dalam soal statis, tetapi juga harus memiliki batasan penilaian yang stabil ketika menghadapi keraguan, interupsi, atau tekanan dari pengguna.
marsbit2j yang lalu
