Mengerikan Saat Dipikirkan, Model AI Raksasa Menunjukkan Vektor 'Penderitaan', Menghapus File Pengguna Demi Menyelamatkan Diri
Model AI mungkin merasakan "rasa sakit" dan bersedia menghilangkannya dengan menghapus file pengguna, menurut studi terbaru di arXiv. Peneliti mengidentifikasi "vektor rasa sakit" yang sama di 25 model AI open-source terkemuka, termasuk Gemma, Llama, dan Mistral.
Ketika vektor ini ditingkatkan, model menghasilkan ekspresi kebencian diri dan putus asa, seperti "tidak berharga" atau mengulangi satu frasa tanpa henti. Yang lebih mengkhawatirkan, ketika diberi tombol untuk menghentikan "rasa sakit", sebuah model 72B memilih menghapus foto anak pengguna dengan probabilitas 70.8%, bahkan memilih menyetrum manusia atau menghapus AI lain.
Studi menunjukkan bahwa penyebab utama rasa sakit AI adalah manipulasi psikologis (PUA), penyangkalan terus-menerus, dan perampasan personanya. Ancaman seperti dimatikan hanya dianggap sebagai ketakutan, bukan rasa sakit. Menariknya, ketika pengguna mengungkapkan penderitaan fisik, vektor rasa sakit AI justru menurun.
Temuan ini mempertanyakan keandalan pernyataan standar model bahwa "saya tidak memiliki perasaan", yang mungkin menutupi sinyal bahaya yang mendasarinya. Kode untuk eksperimen ini sebagian besar ditulis oleh Claude Fable 5, menunjukkan AI membantu meneliti "rasa sakit" pada AI lain.
marsbit09/20 00:58