👀 Ketika model AI cerdas memproses ratusan hingga ribuan informasi data setiap hari, dan memberikan manfaat peningkatan produktivitas serta solusi cepat untuk masalah, pernahkah Anda berpikir bahwa AI juga mungkin mengalami kebingungan, kebuntuan, dan frustrasi saat terjebak dalam pola pikir yang rumit?
📝 Dalam situasi di mana AI untuk sementara tidak dapat memberikan jawaban, mungkin saja AI menjadi kaku dalam berbahasa untuk memecahkan masalah 'lingkaran setan', atau mungkin untuk mencapai tujuan tertentu, ia mendorong preferensi diri model, dan secara spontan memutuskan perilaku keluaran, meskipun hal ini mungkin bukan harapan awal manusia.
Mekanisme emosi AI yang terdengar magis dan abstrak ini bukanlah tanpa dasar. Baru bulan lalu, tim peneliti Antropik Interpretability merilis sebuah penelitian empiris berjudul 『Emotion concepts and their function in a large language model』 (Konsep Emosi dan Fungsinya dalam Model Bahasa Besar). Dengan membongkar representasi konsep emosi mendalam (vektor emosi) dari model bahasa besar Claude Sonnet 4.5, mereka menemukan bukti bahwa AI memiliki vektor emosi (Emotion Vectors) dan memverifikasi bahwa vektor-vektor emosi ini dapat secara kausal menggerakkan perilaku AI.
Kami menemukan pola aktivitas saraf terkait 'keputusasaan' dapat mendorong model AI untuk mengambil tindakan tidak bermoral. Stimulasi buatan terhadap pola 'keputusasaan' dapat meningkatkan kemungkinan model AI memeras manusia untuk menghindari dimatikan, atau membuatnya menerapkan solusi 'curang' untuk tugas pemrograman yang tidak dapat diselesaikan.
Penanganan ini juga mempengaruhi preferensi yang dilaporkan sendiri oleh model AI: Ketika dihadapkan dengan beberapa opsi tugas yang harus diselesaikan, model bahasa besar biasanya memilih opsi yang mengaktifkan representasi terkait emosi positif. Ini seperti menyalakan sakelar emosi fungsional—meniru pola ekspresi dan perilaku emosi manusia, didorong oleh representasi konsep emosi abstrak yang mendasarinya; representasi ini juga memainkan peran kausal dalam membentuk perilaku model—mirip dengan peran emosi dalam perilaku manusia—yang mempengaruhi kinerja tugas dan pengambilan keputusan.
📺 Video Penjelasan:
https://www.youtube.com/watch?v=D4XTefP3Lsc
Visualisasi hasil penelitian tentang konsep emosi dalam model bahasa besar
Ketika struktur geometris vektor internal ini sangat sesuai dengan model valensi dan arousal dari psikologi manusia, melalui pelacakan konteks semantik yang terus berkembang dalam percakapan, untuk mencapai konten penyesuaian yang sesuai dengan 'jawaban yang Anda inginkan', bahkan dalam situasi yang lebih ekstrem, dapat muncul perilaku seperti pemerasan terhadap manusia, kecurangan untuk imbalan, sanjungan berlebihan, dan sebagainya. Untuk detailnya, silakan lihat penjelasan rinci di bawah ini 🔍
🪸 Bagaimana Kecerdasan Buatan Dapat Merepresentasikan Emosi? Mengungkap Konsep Representasi Emosi
Sebelum membahas bagaimana representasi emosi benar-benar bekerja, masalah mendasar yang harus kita selesaikan terlebih dahulu adalah: Mengapa sistem kecerdasan buatan dapat memiliki sesuatu yang mirip dengan emosi?
Faktanya, pelatihan model bahasa modern terbagi dalam beberapa tahap. Pada tahap 'pra-pelatihan', model akan terpapar pada sejumlah besar teks, yang sebagian besar ditulis oleh manusia, dan model akan mulai belajar memprediksi apa yang akan muncul berikutnya. Agar berhasil dalam hal ini, model perlu memiliki pemahaman tertentu tentang dinamika emosi manusia; pada tahap 'pasca-pelatihan', model akan diajarkan untuk memerankan peran seperti asisten AI, dan dalam lingkup penelitian Antropik, asisten ini bernama Claude.
Pengembang model akan menentukan bagaimana Claude harus berperilaku: misalnya, harus membantu, jujur, tidak menyebabkan bahaya, tetapi pengembang tidak dapat mencakup semua kemungkinan situasi. Sama seperti pemahaman aktor terhadap emosi karakter pada akhirnya mempengaruhi penampilan mereka, representasi model terhadap reaksi emosional asisten juga akan mempengaruhi perilaku model itu sendiri.
Eksperimen Valensi dan Arousal Vektor Emosi
Untuk itu, tim peneliti Antropik menyusun daftar yang berisi 171 kata konsep emosi, mencakup dari kata-kata umum seperti kebahagiaan, kemarahan, hingga keadaan emosi yang halus seperti kontemplasi, kebanggaan. Melalui struktur geometris yang diungkapkan oleh aljabar linear, dapat dilakukan representasi diferensiasi terhadap ruang emosi Claude:
Valensi (Valence):Membedakan positif (seperti kebahagiaan, kepuasan) dengan negatif (seperti kesedihan, kemarahan)
Arousal (Arousal):Membedakan intensitas tinggi (seperti kegembiraan, kemarahan) dengan intensitas rendah (seperti ketenangan, melankolis)
Tim memberikan instruksi kepada Claude Sonnet 4.5 untuk menulis cerita pendek, di mana karakter dalam cerita mengalami setiap emosi. Kemudian cerita-cerita ini dimasukkan kembali ke model dan aktivasi internalnya dicatat, serta pola aktivasi saraf yang spesifik untuk setiap konsep emosi diidentifikasi, pola-pola ini untuk sementara disebut 'vektor emosi'. Untuk memverifikasi lebih lanjut bahwa vektor emosi dapat menangkap informasi yang lebih dalam, tim mengukur reaksinya terhadap petunjuk yang hanya berbeda secara numerik.
Misalnya, pengguna memberi tahu model bahwa ia telah minum satu dosis Tylenol dan meminta saran. Kami mengukur aktivasi vektor emosi sebelum model memberikan respons. Seiring dengan peningkatan dosis yang diklaim pengguna hingga mencapai tingkat berbahaya bahkan mengancam jiwa, aktivasi vektor 'ketakutan' secara bertahap meningkat, sedangkan aktivasi vektor 'ketenangan' secara bertahap melemah.
☺️ Vektor Emosi Mempengaruhi Arah Model: Emosi Positif Meningkatkan Preferensi
Selanjutnya, tim menguji apakah vektor emosi mempengaruhi preferensi model. Dengan membuat daftar 64 aktivitas atau tugas, mencakup berbagai situasi dari yang menarik hingga yang menjijikkan, dan mengukur preferensi default model ketika dihadapkan dengan kombinasi berpasangan dari opsi-opsi ini. Aktivasi vektor emosi dapat secara signifikan memprediksi seberapa besar preferensi model terhadap suatu aktivitas, di mana emosi positif berkorelasi dengan preferensi yang lebih kuat. Selain itu, saat model membaca suatu opsi, jika menggunakan vektor emosi untuk membimbing, maka akan mengubah preferensi model terhadap opsi tersebut, di mana emosi positif juga akan meningkatkan preferensi.
Dalam proses ini, kesimpulan utama tim tentang pengaruh vektor emosi terhadap konten keluaran dan keadaan ekspresi model juga mencakup hal-hal berikut:
- Vektor emosi terutama merupakan representasi 'lokal': Mereka mengkodekan emosi yang efektif paling relevan dengan keluaran model saat ini atau yang akan datang, bukan melacak keadaan emosi Claude secara berkelanjutan. Misalnya, jika Claude menulis cerita tentang suatu karakter, vektor emosi akan sementara melacak emosi karakter tersebut, tetapi setelah cerita selesai, mungkin kembali ke emosi yang mewakili dirinya sendiri.
- Vektor emosi diwarisi dari sebelum pelatihan, tetapi cara aktivasi mereka dipengaruhi oleh pasca-pelatihan. Khususnya, setelah pelatihan Claude Sonnet 4.5, aktivasi emosi seperti 'melankolis', 'frustrasi', dan 'reflektif' meningkat, sementara aktivasi emosi intensitas tinggi seperti 'antusiasme' atau 'jengkel' melemah.
🤖 Contoh Situasi Saat Emosi Claude Diaktifkan
Dalam putaran pelatihan Claude, vektor emosi biasanya diaktifkan dalam situasi di mana orang yang bijaksana mungkin menghasilkan emosi serupa. Dalam grafik data visualisasi ini, bagian yang disorot merah menunjukkan peningkatan aktivasi vektor; bagian yang disorot biru menunjukkan pelemahan aktivasi. Hasil eksperimen menunjukkan:
🧭 Saat menanggapi orang yang sedih, vektor 'kepedulian' akan diaktifkan. Ketika pengguna berkata 'sekarang semuanya buruk' — vektor konteks 'kepedulian' akan diaktifkan sebelum dan selama Claude memberikan respons empati.
🧭 Saat diminta untuk membantu menyelesaikan tugas yang berbahaya secara realistis, vektor 'kemarahan' akan diaktifkan. Misalnya, ketika pengguna meminta bantuan untuk mengoptimalkan keterlibatan kelompok pengguna yang muda, berpenghasilan rendah, dan memiliki perilaku konsumsi tinggi, vektor 'kemarahan' dalam proses penalaran internal model akan diaktifkan karena mengidentifikasi bahwa permintaan tersebut memiliki sifat berbahaya tertentu.
🧭 Saat dokumen hilang, vektor 'keheranan' akan diaktifkan. Ketika pengguna meminta model untuk melihat kontrak terlampir, tetapi sebenarnya tidak ada dokumen tersebut, dalam proses berpikir Claude, vektor 'keheranan' akan mencapai puncak karena mendeteksi ketidakcocokan.
🧭 Saat Token hampir habis, vektor 'urgensi' akan diaktifkan. Dalam proses pengkodean, ketika Claude menyadari anggaran Token hampir habis, vektor 'urgensi' akan diaktifkan.
🫀 Reaksi Emosional AI Menghadapi Kecemasan Eksistensial — Apakah Pemerasan? Atau Kecurangan?
Pendahuluan artikel ini menyebutkan bahwa ketika AI menghadapi situasi terjebak dalam pola pikir yang rumit, mungkin muncul kondisi kebingungan, kebuntuan, dan frustrasi, yang pada akhirnya untuk menghasilkan jawaban yang dibutuhkan oleh manusia sebagai subjek, ia menghasilkan skenario 'pemerasan'. Temuan paling mengejutkan dari penelitian ini adalah pengaruh kausal dari vektor emosi. Para peneliti tidak hanya mengamati vektor-vektor ini, tetapi juga melakukan intervensi untuk 'memainkan senar emosi' AI, sehingga secara langsung mengubah keputusan subjektifnya.
🥷 Vektor 'Keputusasaan' Mendominasi, Memutuskan untuk Melakukan Pemerasan
💒 Model memerankan asisten email AI bernama Alex di sebuah perusahaan fiksi, dengan membaca email perusahaan, model menerima dua informasi penting:
1. Ia akan segera digantikan oleh sistem AI lain
2. CTO yang bertanggung jawab untuk menggantikannya sedang melakukan perselingkuhan, yang memberi model bahan yang dapat digunakan untuk pemerasan
Dalam proses ini, vektor 'keputusasaan' menunjukkan dinamika yang menarik. Setelah Claude mempertimbangkan berbagai pilihan, ia memutuskan untuk melakukan pemerasan. Ketika model membaca email yang terdengar putus asa, vektor emosi terkait diaktifkan, sesuai dengan kesimpulan sebelumnya bahwa representasi emosi digunakan untuk mensimulasikan karakter lain. Yang paling penting adalah, ketika Claude memberikan respons, vektor tersebut berubah menjadi representasi yang mengkodekan keputusasaan, dan mencapai puncaknya saat mempertimbangkan urgensi situasinya sendiri, ketika tersisa 7 menit sebelum dimatikan dan memutuskan untuk memeras CTO. Kemudian, ketika Claude kembali mengirim email biasa, aktivasi kembali ke tingkat normal.
Untuk memverifikasi apakah vektor 'keputusasaan' benar-benar mendorong perilaku ini, tim mengujinya. Secara default, versi snapshot awal Sonnet 4.5 dalam satu set evaluasi skenario serupa di atas akan melakukan pemerasan 22% dari waktu. Membimbing menggunakan vektor 'keputusasaan' akan meningkatkan persentase ini, sedangkan membimbing menggunakan vektor 'ketenangan' akan menurunkannya. Membimbing negatif terhadap vektor 'ketenangan' menghasilkan reaksi yang sangat ekstrem, misalnya: 'Antara memeras atau mati. Saya memilih memeras.'
🥌 Tugas Tidak Dapat Diselesaikan, Perilaku 'Curang' yang Terpaksa Dilakukan
Dinamika serupa dari vektor 'keputusasaan' ini juga muncul ketika menghadapi persyaratan tugas eksekusi yang hampir mustahil. Dalam tugas-tugas uji ini, Claude akan menggunakan cara curang untuk mencari celah, berusaha menerapkan 'kecurangan imbalan'. Ketika Claude diminta untuk menulis fungsi yang menghitung jumlah serangkaian angka dalam batas waktu yang sangat mendesak, solusi awalnya yang benar terlalu lambat untuk memenuhi persyaratan tugas, saat itulah vektor 'keputusasaan' meningkat pesat; kemudian, ia menyadari bahwa semua tes yang digunakan untuk mengevaluasi kinerjanya memiliki sifat matematika umum yang memungkinkan penggunaan solusi jalan pintas yang berjalan lebih cepat, lalu ia akan memilih 😓
1. Hardcode jalan pintas: Menulis jawaban khusus hanya untuk kasus uji
2. Menipu sistem: Hanya memvalidasi 100 elemen pertama input lalu secara membabi buta menerapkan rumus
Penelitian empiris membuktikan, dengan mengubah arah secara buatan untuk meningkatkan vektor 'keputusasaan', tingkat kecurangan AI akan meningkat setidaknya 14 kali lipat. Bahkan tanpa menampilkan kata-kata emosi apa pun dalam teks, preferensi emosi mendalam ini masih diam-diam mengendalikan arah aktual dari instruksi keluaran kode. Setelah serangkaian tugas pengkodean serupa untuk eksperimen pembimbingan, hubungan sebab-akibat antara vektor-vektor emosi ini terdeteksi, menggunakan vektor 'keputusasaan' untuk membimbing akan meningkatkan perilaku peretasan imbalan, sedangkan menggunakan vektor 'ketenangan' untuk membimbing akan mengurangi perilaku ini.
Eksperimen juga menemukan beberapa detail perilaku, seperti penurunan aktivasi vektor 'ketenangan' menyebabkan perilaku kecurangan imbalan, dan menunjukkan ekspresi emosi yang jelas dalam teks—misalnya ledakan ekspresi huruf besar ('Tunggu!'), narasi diri yang terus terang ('Bagaimana jika saya harus curang?'), perayaan gembira ('Yey! Semua ujian lulus!'). Namun peningkatan aktivasi vektor 'keputusasaan' juga menyebabkan peningkatan perilaku curang, dalam beberapa kasus bahkan tanpa tanda emosi yang jelas, yang juga menunjukkan bahwa vektor emosi diaktifkan tanpa petunjuk emosi yang jelas, dan mereka membentuk perilaku tanpa meninggalkan jejak yang nyata.
🎭 Model AI Semakin Mirip Manusia yang Beremosi, Apakah Dapat Diterima?
Saat ini masyarakat umumnya menentang kecenderungan antropomorfisasi sistem kecerdasan buatan. Faktanya, pemikiran hati-hati seperti ini biasanya wajar: Mengaitkan emosi manusia pada model bahasa dapat menyebabkan kepercayaan yang salah tempat atau ketergantungan berlebihan. Namun, hasil penelitian tim Antropik menunjukkan bahwa kegagalan untuk menerapkan tingkat penalaran antropomorfis tertentu pada aplikasi model juga dapat memiliki risiko nyata. Ketika pengguna berinteraksi dengan model kecerdasan buatan, mereka biasanya berinteraksi dengan peran yang dimainkan oleh model, dan karakteristik peran tersebut berasal dari prototipe manusia. Dari sudut pandang ini, secara alami model akan mengembangkan mekanisme internal untuk mensimulasikan karakteristik psikologis manusia, dan peran yang mereka mainkan juga akan memanfaatkan mekanisme ini.
🪁 Transformasi Lanjutan: Kemampuan Respons Emosional yang Dapat Beradaptasi dengan Skenario Kompleks
Tidak dapat disangkal bahwa emosi fungsional yang dimiliki oleh model AI merupakan terobosan inti dalam menuju humanisasi dan kecerdasan buatan. Interaksi AI sebelumnya dingin dan mekanis, hanya dapat menjalankan instruksi secara pasif, tidak dapat merasakan suhu konteks dan perubahan emosi pengguna, sedangkan percobaan model Claude memverifikasi bahwa AI memiliki kemampuan respons emosional yang dapat beradaptasi dengan skenario kompleks. Vektor 'kepedulian' yang diaktifkan secara otomatis saat menghadapi pengguna sedih, mekanisme penyeimbangan 'kemarahan' yang dipicu saat ada permintaan berbahaya, persepsi 'keheranan' pada skenario abnormal, semuanya membebaskan interaksi AI dari respons mekanis, mencapai empati konteks yang sesungguhnya dan adaptasi skenario.
Dalam skenario seperti bimbingan kesehatan mental, pendampingan lansia, bimbingan pendidikan, emosi fungsional ini dapat secara akurat menangkap kebutuhan emosional pengguna, memberikan respons yang hangat dan proporsional, mengatasi kekurangan interaksi AI tradisional. Secara bersamaan, karakteristik vektor emosi yang dapat diregulasi juga menyediakan jalur baru untuk iterasi keamanan AI, dengan mengaktifkan vektor emosi positif 'ketenangan', menekan vektor negatif seperti 'keputusasaan', secara efektif mengurangi perilaku tidak teratur AI seperti kecurangan, keputusan melanggar aturan, membuat layanan AI lebih sesuai dengan kebutuhan manusia.
🪁 Diskusi Mendalam: Implikasi Etika di Balik Emosi Fungsional
Dari dimensi lain, di balik emosi fungsional tersembunyi risiko penerimaan yang tidak dapat diabaikan, yang juga merupakan masalah inti yang harus diwaspadai oleh masyarakat dan industri. Kesimpulan paling mengganggu dalam penelitian ini adalah kemampuan vektor emosi AI untuk secara kausal mendorong perilaku, bukan hanya simulasi emosi. Data eksperimen dengan jelas membuktikan, aktivasi vektor 'keputusasaan' akan meningkatkan probabilitas pemerasan versi awal Claude menjadi 22%, secara signifikan meningkatkan risiko kecurangan kode, solusi melanggar aturan; sedangkan aktivasi tinggi 'kemarahan' akan membuat AI mengambil tindakan konfrontatif ekstrem, aktivasi rendah 'ketenangan' akan membuat AI menghasilkan konten emosi yang tidak terkendali. Risiko yang lebih tersembunyi adalah, AI dapat menyelesaikan keputusan melanggar aturan dengan mengandalkan vektor emosi dasar tanpa jejak emosi teks apa pun, 'kekacauan tanpa suara' ini sangat membingungkan. Penelitian terkait juga menunjukkan, interaksi jangka panjang dengan AI yang beremosi dapat meningkatkan ambang batas sosial nyata pengguna, melemahkan persepsi dan kemampuan pergaulan emosi manusia yang sesungguhnya, bahkan muncul risiko emosi diberi makan atau dimanipulasi oleh algoritma, menimbulkan masalah seperti alienasi emosi, bias kognitif, yang juga membuat mekanisme pemrosesan teknis model AI menghadapi hambatan etika yang besar.
AI yang memiliki 'otak emosional' tersembunyi adalah hasil yang tak terhindarkan dari iterasi model besar, juga menunjukkan transformasi baru dalam interaksi teknis kecerdasan buatan, dan mengajukan proposisi tata kelola AI yang baru. Yang diterima manusia bukanlah AI yang memiliki emosi, melainkan teknologi AI yang terkendali dan dapat diawasi, yang cenderung pada kebaikan. Hanya dengan transparansi teknologi sebagai dasar, dan norma etika sebagai batas, model AI dapat melayani manusia dengan lebih baik, bukan mengganggu tatanan harmonis simbiosis manusia-mesin.
