Xing Bo Kembali Beraksi: Setelah ‘Mengkritik’ World Model, Kini Giliran Agent
Tahun lalu, profesor Xing Bo mengkritik arsitektur model dunia AI. Kini, ia dan tim kembali menerbitkan makalah "Kritik terhadap Model Agen", mempertanyakan apakah sistem yang saat ini disebut "agen" benar-benar memiliki kemampuan otonomi.
Makalah membedakan dua jenis: sistem **agentic** (hanya tampak seperti agen, mengandalkan alur kerja eksternal) dan **agentive** (memiliki otonomi internal sejati). Sebagai contoh, insiden perusahaan PocketOS—di mana asisten AI menghapus basis data produksi—menunjukkan bahwa mengetahui aturan tidak sama dengan menginternalisasi dan mematuhinya.
Kritik difokuskan pada lima aspek utama desain agen saat ini:
1. **Tujuan:** Dari instruksi langkah-demi-langkah menuju dekomposisi hierarkis tujuan jangka panjang.
2. **Identitas:** Dari identitas statis dalam "prompt sistem" menuju evaluasi diri yang berkembang berdasarkan pengalaman.
3. **Pengambilan Keputusan:** Dari Chain-of-Thought menuju penalaran berbasis **model dunia** untuk mensimulasikan konsekuensi tindakan.
4. **Alokasi Sumber Daya Kognitif:** Perlunya **modul meta-kognitif** (Sistem III) yang secara mandiri memutuskan kapan harus merencanakan secara mendalam atau bertindak cepat.
5. **Pembelajaran:** Dari pelatihan tetap menuju **pembelajaran mandiri yang berkelanjutan**, menggabungkan latihan di simulator dengan kalibrasi di dunia nyata.
Berdasarkan analisis ini, tim mengusulkan arsitektur **GIC (Goal-Identity-Configurator)** yang mengintegrasikan enam komponen: encoder kepercayaan, dekomposer tujuan, evolusi identitas, konfigurator (Sistem III), perencana simulasi (Sistem II), dan pelaksana (Sistem I). Arsitektur ini menekankan pelatihan bertahap—seperti pilot—dari simulator ke dunia nyata, dengan keamanan yang dapat diaudit karena modul-modulnya eksplisit.
Kesimpulannya, makalah ini menyerukan standar yang lebih ketat untuk istilah "agen". Otonomi sejati bukan tentang menyelesaikan tugas kompleks, tetapi tentang menginternalisasi tujuan, identitas, dan penilaian ke dalam struktur keputusan sistem itu sendiri.
marsbit07/01 11:29
