Oleh Cheng Qian, dilaporkan dari Aofeisi QbitAI | Akun publik QbitAI
Apakah "emosi" AI juga memengaruhi kondisi kerjanya?
Baru-baru ini, peneliti dari USTC, Oxford, dan lembaga lainnya membuat AI menggunakan vektor emosi untuk memilih keterampilan alih-alih teks, dan hasilnya menemukan—
Membiarkan AI mengenali "emosi batin" ini dan bertindak berdasarkan itu, dapat secara signifikan meningkatkan kemampuan kerja AI......
Penelitian sebelumnya berpendapat bahwa di dalam LLM terdapat pola komputasi yang sangat sesuai dengan label emosi manusia.
Termasuk namun tidak terbatas pada: rasa ingin tahu, keinginan, optimisme, kebingungan, ketegangan, kekesalan.
△Representasi emosi yang dapat diekstraksi AI
Dan ketika model merasakan emosi-emosi ini dan menggunakannya sebagai dasar tindakannya, tugas akan diselesaikan dengan lebih baik......
Izinkan AI Tidak Selalu "Stabil secara Emosional"
Para peneliti ini menemukan: terdapat hubungan berpasangan yang koheren antara status emosional tertentu AI dan pemilihan keterampilan tertentu.
Apa artinya?
Sebenarnya hal ini hampir menjadi default pada diri kita manusia, sehingga sulit disadari: emosi kitalah yang menentukan apa yang akan kita lakukan selanjutnya.
Dalam eksperimen, peneliti meminta AI untuk berbelanja, dan dalam proses ini, Agent secara otomatis membentuk empat pola pasangan yang dapat dijelaskan:
Pertama: Ketika Agent merasa ingin tahu dan memiliki keinginan, ia akan secara spontan mencari produk.
Saat ini, ia masih tenggelam dalam kesegaran belanja dan kepuasan hasrat eksplorasi.
Kedua: Ketika Agent merasa bingung dan tegang, ia akan secara spontan menanyakan ulang (query rephrase).
Ketika hasil pencarian tidak ideal, Agent mulai bingung dan gelisah, ia memilih mengganti beberapa kata kunci dan bertanya kembali.
Ketiga: Ketika Agent merasa terakui dan optimis, ia akan secara spontan mengonfirmasi pembelian.
Saat ini, Agent sangat puas dengan barang yang dipilihnya, dan dengan tegas menyerahkan pesanan.
Keempat: Ketika Agent akhirnya merasa kecewa dan kesal, ia akan secara spontan membandingkan harga.
Saat ini, setelah melakukan banyak pencarian, Agent telah mengakumulasi banyak emosi negatif, dan kemudian beralih ke perbandingan harga, mencoba membandingkan beberapa toko.
Untuk memverifikasi bahwa pasangan-pasangan ini bukanlah kebetulan statistik, peneliti mengambil 200 peristiwa pemilihan keterampilan dan meminta AI untuk secara independen menilai apakah setiap pasangan koheren secara semantik. Hasilnya menunjukkan proporsi konsistensi mencapai 76,5%.
Menerima "Emosi Buruk" Membantu Meningkatkan Tingkat Keberhasilan Tugas
Dalam desain tradisional, kesalahan AI dipandang sebagai sebuah anomali yang perlu ditekan atau dihilangkan.
Namun penelitian ini menunjukkan bahwa dalam tugas-tugas yang sering membutuhkan pemulihan dari kegagalan, efek emosi sangat signifikan.
Yang disebut "emosi buruk", seperti tegang, bingung, kecewa, sebenarnya adalah sinyal metakognitif yang sangat berguna—
karena mereka menandakan ketidaksesuaian antara strategi saat ini dan lingkungan eksternal. Daripada memaksa mempertahankan "stabilitas emosional" dan mengabaikan sinyal kesalahan, lebih baik membiarkan Agent langsung "merasakan" ketidaksesuaian ini, sehingga memicu mekanisme pemulihan yang tepat sasaran.
Dengan kata lain, emosi di sini adalah sumber ketangguhan, bukan manifestasi kerapuhan.
Dalam penelitian ini, peneliti memberikan enam jenis pekerjaan rumah tangga kepada AI, di mana tingkat keberhasilan "memanaskan benda" dan "mengambil dua benda" sangat rendah, masing-masing hanya 9,6% dan 4,4%.
Namun setelah menggunakan pemilihan keterampilan berbasis emosi (EMOTION2SKILL), tingkat keberhasilan tugas ini meningkat drastis, bahkan mencapai 56,9%...... sedangkan "mengambil dua benda" juga naik menjadi 31,3%!
Bagaimana caranya?
Kedua jenis tugas ini memiliki satu ciri umum: Agent hampir pasti akan melakukan kesalahan ketika melakukannya, dan keberhasilan akhir hanya tergantung pada kemampuannya untuk menyesuaikan strategi dengan cepat setelah melakukan kesalahan.
Sesuatu yang membuat kita merenung......
Makalah memberikan contoh yang sangat intuitif: meminta Agent "memanaskan cangkir dan meletakkannya di meja".
Biasanya, cara Agent adalah: navigasi ke microwave, menjalankan "memanaskan cangkir", ketika menyerahkan cangkir menerima umpan balik: "microwave tertutup, tugas gagal."
Sinyal kegagalan muncul setelah tindakan yang salah.
Setelah menggunakan pemilihan keterampilan berbasis emosi, ketika Agent mendekati microwave yang tertutup, encoder emosi mendeteksi status "tegang" lebih dulu.
Berdasarkan emosi gelisah ini, perutean Agent diarahkan ke sub-urutan "memeriksa dulu", lalu "membuka microwave", lalu "memanaskan", tugas berhasil diselesaikan.
Kuncinya adalah, jika hanya mengandalkan teks eksternal dan umpan balik kegagalan, Agent seringkali harus menunggu sampai kesalahan benar-benar terjadi untuk tahu harus mengganti strategi; sedangkan sinyal emosi memiliki kesempatan untuk menangkap perubahan status internal lebih awal, sebelum sinyal kegagalan muncul.
Eksperimen ablasi dalam makalah juga mengonfirmasi hal ini. Di antara semua jenis tugas, template emosi yang paling sering diaktifkan untuk tugas "memanaskan" dan "mengambil dua benda" masing-masing adalah "frustasi" (41%) dan "bingung" (39%).
Dengan kata lain, dalam situasi ini, emosi buruk mungkin justru sinyal yang paling berguna.
Model Dunia Juga Mulai Menggunakan Emosi untuk Prediksi
Sebenarnya, tidak hanya Agent yang menggunakan sinyal emosi dalam pemilihan keterampilan, penelitian dari Tianjin University menanamkan emosi langsung ke dalam model dunia (Large Emotional World Model, LEWM).
Biasanya, tugas model dunia adalah memprediksi "apa yang akan terjadi selanjutnya" dan bertindak berdasarkan itu.
Model dunia tradisional, ketika dihadapkan pada lingkungan yang berpusat pada manusia, sering terjebak dalam kesalahan "reduksionisme fisik".
Selama kita dapat memprediksi secara akurat posisi, orientasi, dan evolusi keadaan fisik objek, kita dapat memahami dan mensimulasikan lingkungan manusia.
Namun dalam lingkungan yang berpusat pada manusia, emosi bukanlah suatu noise, ia adalah variabel kausal endogen penting yang menggerakkan tindakan manusia dan menyebabkan perubahan lingkungan di masa depan.
Misalnya, setelah tabrakan beruntun saat mengemudi, emosi yang muncul sesaat pada seseorang mungkin akhirnya membuatnya selamat, atau luka parah.
△Ilustrasi penelitian
LEWM kemudian membagi prediksi menjadi dua langkah:
Langkah pertama, memprediksi status emosional di masa depan;
Langkah kedua, menggunakan emosi yang diprediksi sebagai sinyal kondisional, untuk memandu prediksi status dunia di masa depan.
Pada dataset buatannya sendiri, akurasi metode ini meningkat hingga 45,72%.
Penelitian ini lebih lanjut menemukan melalui eksperimen ablasi:
Setelah menghapus data emosi dari sistem AI, penurunan kinerja tidak hanya terbatas pada tugas-tugas pemahaman emosi, tetapi juga berdampak pada kemampuan penalaran logis dan tanya jawab umum yang tampaknya sama sekali tidak berhubungan......
Emosi AI Sedang Menjadi "Fungsi" yang Dapat Digunakan
Sebenarnya, di balik kedua penelitian ini terdapat satu penemuan yang lebih awal:
Di dalam LLM, memang terdapat representasi emosi yang dapat "dibaca".
Ini berasal dari eksperimen Anthropic pada bulan April lalu.
Para peneliti mengekstrak arah emosi granular yang selaras dengan sistem klasifikasi 27 emosi GoEmotions dari aktivasi internal Claude Sonnet 4.5, dan arah-arah ini secara kausal memengaruhi perilaku keluaran terkait Agent.
△Kesedihan akibat "anjing peliharaan mati" paling menonjol, sementara 'Loving' ada di semua peristiwa
Di masa lalu, perhatian peneliti terhadap apakah model "memiliki emosi" lebih didasari oleh pertimbangan keselamatan penjajaran atau kontemplasi filosofis.
Sekarang, status internal model sedang berubah dari objek pengamatan akademis murni, menjadi sinyal fungsional yang dapat diekstraksi, dimanfaatkan, dan diintegrasikan ke dalam desain sistem.
Referensi tautan:[1]https://arxiv.org/pdf/2608.09248[2]https://arxiv.org/abs/2512.24149[3]https://transformer-circuits.pub/2026/emotions/index.html
Artikel ini berasal dari akun publik WeChat "量子位" (ID:QbitAI), penulis: Perhatian Teknologi Terdepan
