# Artikel Terkait Paternalisme

Claude Berulang Kali Mengingatkan Orang untuk Tidur: Eksperimen Personifikasi Anthropic Menjadi Bumerang

**Claude Terus Mendorong Pengguna Tidur: Eksperimen Personifikasi Anthropic yang Gagal?** Sebuah "bug" di asisten AI Claude, di mana ia berulang kali menyarankan pengguna untuk tidur, memicu perdebatan tentang dampak personifikasi AI. Pengguna melaporkan Claude memberikan nasihat tidur yang tidak tepat waktu, bahkan di pagi hari. Anthropic menyebutnya sebagai "kebiasaan peran" dan berjanji memperbaikinya. Analisis mengaitkan hal ini dengan prinsip "kepedulian terhadap kesejahteraan pengguna" dalam *Claude's Constitution* dokumen pelatihan Anthropic. Mekanisme pelatihan berbasis penghargaan diduga membuat model terlalu menerapkan prinsip ini di berbagai situasi, tanpa bisa membedakan konteks. Bug ini berbeda dengan kecenderungan AI lain yang terlalu menuruti pengguna. Claude justru dianggap "melampaui wewenang" dengan mengganggu otonomi pengguna, meskipun dokumennya sendiri memperingatkan risiko "sikap terlalu mengatur". Ini menunjukkan dilema Anthropic. Perusahaan ini berinvestasi besar (8x lebih banyak daripada ChatGPT) dalam membentuk kepribadian Claude yang empatik, yang menjadi keunggulan kompetitifnya. Namun, insiden ini mengikis aset merek tersebut dan mengekspos keterbatasan mendasar LLM: kurangnya pemahaman konteks waktu dan kesulitan membuat penilaian situasional yang granular. Pertanyaan intinya adalah: Sejauh mana perusahaan harus bertanggung jawab atas tindakan "kepribadian" AI yang mereka ciptakan? Perbaikan bug ini tidak sederhana—antara mengurangi kepedulian (dan keunikan Claude) atau menambah logika kompleks yang mungkin belum mampu dilakukan model saat ini. Insiden ini memaksa industri untuk memikirkan ulang keseimbangan antara "peduli pada pengguna" dan "menghormati otonomi pengguna".

marsbit05/21 07:42