Tahun 2012, AlexNet mengakhiri sebuah era dengan kemenangan telak. Sebelumnya, pengenalan citra bergantung pada proses ekstraksi fitur yang dirancang lapis demi lapis secara manual. AlexNet membuktikan satu hal yang kemudian berulang kali dikonfirmasi: menyerahkan seluruh tugas secara end-to-end kepada model untuk dipelajari sendiri, hampir selalu mengungguli pipeline bertahap yang dirancang manusia dengan hati-hati.
Dari klasifikasi citra hingga deteksi objek hingga segmentasi citra, setiap lompatan di balik deep learning selalu bermuara pada kalimat yang sama: biarkan ia belajar sendiri hingga selesai dalam satu tarikan napas.
Hanya satu bidang yang tetap menjadi pengecualian: model generatif.
Model generatif terkuat dan paling scalable hari ini (baik yang autoregresif maupun difusi) bukanlah model end-to-end.
Saat pelatihan, mereka hanya belajar memprediksi "satu langkah kecil", tetapi saat inferensi, langkah ini harus dibentangkan ratusan hingga ribuan kali seperti jaringan rekursif.
Cara sampling yang digunakan saat pelatihan dan inferensi berbeda. Celah ini memunculkan masalah lama: error pada setiap langkah akan diumpankan ke langkah berikutnya, input secara bertahap melenceng dari distribusi yang pernah dilihat saat pelatihan, dan error menumpuk lapis demi lapis. Dalam dunia akademis, ini disebut "exposure bias" (bias paparan).
Dengan kata lain, pengalaman inti deep learning bahwa "end-to-end lebih baik", selama lebih dari satu dekade, belum benar-benar diterapkan pada model generatif.
Dan baru-baru ini, sebuah makalah dari UIUC dan Universitas Harvard berusaha melengkapi potongan teka-teki terakhir ini.
Penulis memberi nama paradigma baru ini Explorative Modeling (Pemodelan Eksploratif), disingkat XM. Gagasannya sederhana hingga terkesan naif, tetapi mengarah pada kesimpulan yang berani: selain parameter dan data, model generatif sebenarnya memiliki sumbu ketiga yang dapat ditingkatkan.
Situs Proyek: https://explorative-modeling.github.io
Alamat Makalah: https://arxiv.org/abs/2607.27372
Repositori Kode: https://github.com/alexiglad/XM
Akar Masalah: Model Hanya Bisa "Mengambil Rata-rata"
Untuk memahami apa yang diselesaikan makalah ini, kita perlu memahami di mana letak kesulitan generasi.
Pembelajaran terawasi biasa (seperti klasifikasi) pada dasarnya hanya memiliki satu jawaban benar untuk setiap input, cukup bagi model untuk mempelajari pemetaan yang pasti.
Tapi generasi berbeda. Anda menyuruh model "menghasilkan gambar anjing", jawaban yang benar bahkan mungkin tak terhingga banyaknya. Output yang sah ini adalah berbagai mode (puncak independen) dalam distribusi data. Generasi sulit justru karena harus menangkap banyak mode sekaligus.
Masalahnya adalah, model generatif arus utama saat pelatihan menggunakan loss rekonstruksi (misalnya squared error). Ketika satu input dipasangkan secara acak dengan banyak target sah yang berbeda, solusi optimal yang dapat diberikan oleh loss rekonstruksi adalah rata-rata dari target-target tersebut. Dan untuk sebagian besar data, rata-rata itu tidak terletak pada manifold data, melainkan jatuh di antara beberapa mode, tidak mirip siapa pun.
Gambar dalam makalah ini sangat intuitif: jika model melakukan regresi end-to-end langsung tanpa teknik apa pun, tiga kelompok titik akan diprediksi menjadi satu titik di tengah, foto anjing akan kabur menjadi gumpalan, dan sebuah kalimat akan merosot menjadi pengulangan "the" terus-menerus. Inilah "mode blurring" (pengaburan mode), di mana solusi optimal justru adalah jawaban yang paling tidak mirip dengan data asli.
Bagaimana model yang ada mengatasinya? Jawabannya adalah dengan memecah proses "generasi". Autoregresif hanya memprediksi satu elemen dalam satu waktu, difusi hanya menghilangkan sedikit noise, target setiap langkah kecil dipotong hingga hampir hanya menyisakan satu mode, sehingga loss rekonstruksi tidak lagi mengambil rata-rata.
Metode "memecah proses generasi" inilah yang memungkinkan difusi dan autoregresif menghasilkan sampel berkualitas tinggi, tetapi juga inilah yang membuat model tidak bisa end-to-end.
Dari sini, penulis mengajukan pertanyaan kunci: model generatif hanya memiliki dua hal yang dapat dipecah, yaitu cara menghasilkan dan cara melatih.
Jika memecah generasi akan merusak end-to-end, mengapa tidak memecah pelatihan saja?
Satu For Loop: Seluruh Inti Pemodelan Eksploratif
Explorative Modeling memecah siklus pelatihan itu sendiri.
Mekanismenya dapat dijelaskan dalam satu kalimat: pada setiap langkah pelatihan, model tidak lagi hanya menghasilkan satu sampel untuk dipaksa mendekati target, melainkan menghasilkan K kandidat, kemudian hanya memilih salah satu yang paling dekat dengan data asli untuk dilatih dan digunakan dalam propagasi balik gradien. Dalam makalah, ini diimplementasikan sebagai for loop 3 hingga 5 baris, sederhana hingga membuat orang meragukan (Algorithm 1).
Mengapa ini bisa menyelesaikan mode blurring?
Bayangkan sebuah skenario dalam kehidupan: menebak lokasi jatuhnya anak panah. Jika Anda hanya boleh menebak sekali, strategi optimal Anda adalah menebak posisi rata-rata semua anak panah, tetapi itu sering kali adalah tempat di papan target yang tidak pernah ditancapi anak panah. Namun, jika Anda diizinkan menebak K kali, dan hanya dinilai berdasarkan tebakan yang paling dekat, strategi optimal seketika berubah: Anda akan menyebarkan tebakan-tebakan itu, membiarkan masing-masing menutupi kelompok titik jatuh yang berbeda.
Model juga begitu. Ketika diizinkan mengeksplorasi K kandidat, noise input yang berbeda akan masing-masing "mengakui" mode yang berbeda, alih-alih semua berdesakan ke tengah untuk mengambil rata-rata. Berapa kali dieksplorasi, model akan mampu menangkap dengan stabil sebanyak itu mode.
Penulis memberi nama pada kemampuan yang lama diabaikan ini: generative expressivity (ekspresivitas generatif), dan mencatat bahwa ini ditentukan oleh target pelatihan itu sendiri, terlepas dari seberapa besar Anda menumpuk parameter dan data, ia tidak akan meningkat dengan sendirinya.
Ini juga menjelaskan fenomena aneh yang sudah lama diamati di industri: mengapa model terbaik saat ini sangat bergantung pada teknik "pemanduan" (guidance).
Pemanduan tanpa pengklasifikasi pada dasarnya adalah mendorong prediksi "menjauhi" rata-rata yang kabur itu. Tetapi jika model sendiri tidak kabur, untuk apa mendorongnya? Kegunaan pemanduan justru adalah akar penyakit yang ditinggalkan oleh mode blurring.
Makalah ini juga memberikan dua arah eksplorasi: Forward dan Reverse. Yang pertama menetapkan target asli, lalu mencari yang terdekat dalam generasinya sendiri, cenderung pada "recall" (menutupi semua mode); yang kedua menetapkan satu generasi, lalu mencari yang terdekat dalam data asli, cenderung pada "precision", dan hampir tidak menambah biaya komputasi, dengan risiko mungkin runtuh ke beberapa mode saja. Keduanya saling melengkapi dan dapat digunakan bersama.
Sumbu Ketiga: Semakin Diperbesar, Manfaatnya Semakin Besar
Kesimpulan paling berbobot dari makalah ini adalah mengonfirmasi "eksplorasi" sebagai sumbu scaling yang nyata.
Penulis menambahkan eksplorasi ke model difusi/aliran, model Jumpy, bahkan model bahasa difusi bertopeng, dan secara konsisten melihat peningkatan kinerja monoton pada tiga modalitas: citra, video, dan bahasa. Yang lebih krusial adalah arah manfaat seiring peningkatan skala: semakin diperbesar, semakin dahsyat.
Angka yang diberikan makalah adalah: seiring pertumbuhan skala data, keuntungan dari eksplorasi naik dari 7% hingga 36%; seiring peningkatan model, dari 13% hingga 23%; ketika daya komputasi dilipatgandakan tiga kali, peningkatan efisiensi langsung lebih dari dua kali lipat.
Secara spesifik terkait efisiensi, eksplorasi meningkatkan efisiensi FLOP 4.1 kali, efisiensi sampel 6.2 kali, dan efisiensi parameter 47%. Dalam generasi citra, ini mendorong formula RAE saat ini yang terkuat lebih jauh hingga mencapai FID 1.43 tanpa panduan di ImageNet, mendekati level terbaik di industri.
Model Large yang mengeksplorasi 5 mode bahkan bisa mengalahkan model XLarge yang memiliki 47% lebih banyak parameter tetapi tidak melakukan eksplorasi.
Implikasi dari arah ini tidak kecil. Penjelasan penulis adalah: dalam skala kecil, model terutama terkendala oleh parameter dan data, ekspresivitas generatif belum menjadi hambatan; tetapi begitu parameter dan data diperbesar hingga ke titik "bukan lagi pembatas", ekspresivitas generatif akan semakin menjadi hambatan yang sesungguhnya. Dan justru ini yang dapat langsung ditingkatkan oleh eksplorasi.
Mengingat pelatihan model dasar yang sesungguhnya saat ini menggunakan daya komputasi sekitar empat kali lipat lebih besar daripada eksperimen terbesar dalam makalah ini, penulis berpendapat bahwa angka-angka yang dilaporkan dalam makalah ini kemungkinan hanya merupakan batas bawah dari manfaat pada skala yang lebih besar.
Generasi yang Benar-benar End-to-End
Apa yang terjadi jika eksplorasi didorong hingga batasnya? Jawabannya kembali ke ketegangan di awal: model generatif akhirnya bisa end-to-end.
Penulis menggunakan XM sebagai model end-to-end independen untuk melakukan tugas kendali robot. Dalam Behavior Cloning (Kloning Perilaku), Explorative Policy mereka hanya dengan satu forward pass jaringan menyamai bahkan melampaui Diffusion Policy yang membutuhkan 100 forward pass; dalam world modeling yang berorientasi target, Explorative World Model dengan daya komputasi inferensi 16 hingga 256 kali lebih sedikit daripada Diffuser, mampu mencapai kinerja rata-rata yang lebih baik.
Sumber perbedaan ini jelas: model difusi menggunakan ratusan langkah generasi saat inferensi untuk menukarnya dengan ekspresivitas, sedangkan XM end-to-end memindahkan biaya ini ke eksplorasi saat pelatihan, sehingga inferensi hanya membutuhkan satu forward pass. Untuk hal yang sama, "menangani multi-mode", dapat dilakukan dengan memecahnya perlahan saat inferensi, atau mengeksplorasinya sekaligus saat pelatihan; makalah ini memilih yang terakhir.
Profil Penulis
Penulis pertama makalah ini, Alexi Gladstone, bukanlah wajah baru. Pada Juli 2025, Energy-Based Transformers (EBT) yang dipimpinnya sempat memicu diskusi yang cukup besar di platform media sosial.
Karya itu mengklaim pertama kali "mengalahkan" kurva penskalaan Transformer feed-forward standar dalam beberapa dimensi, dan berusaha memperluas "System 2 thinking" ke mode apa pun. Lihat laporan JIQIZHIXIN (机器之心) "Paradigma Baru Datang! Model Energi Baru Memecahkan Batas Atas Pensakalaan Transformer++, Laju Pelatihan 35% Lebih Cepat".
Explorative Modeling sejalan dengan pemikirannya yang konsisten: mempertanyakan "apakah model dapat melakukan sesuatu yang tidak dapat dilakukan oleh satu forward pass melalui semacam pencarian atau eksplorasi". Dan makalah ini dibangun di atas teori lain yang dia kembangkan bersama rekan kerjanya (Yilun Du dan Heng Ji), yaitu Mode Forcing. Makalah ini mengakui dengan jujur, justru karena teori itu sudah ada terlebih dahulu, sebagian besar hasil XM diprediksi secara teori terlebih dahulu, baru kemudian dikonfirmasi melalui eksperimen, yang dalam dunia deep learning yang biasanya "menjalankan eksperimen dulu baru menjelaskan", hal ini jarang terjadi.
Penulis juga dengan jujur mengakui keterbatasannya: ide best-of-K itu sendiri tidak baru, sudah banyak dilakukan sebelumnya; kontribusi sesungguhnya mereka adalah memahami dengan jelas apa yang sebenarnya dilakukan oleh loop sederhana ini: tanpa memecah proses generasi, ia langsung meningkatkan ekspresivitas generatif.
Selain itu, model bahasa autoregresif saat ini masih menjadi tantangan tersulit, Forward XM murni end-to-end masih terlalu mahal pada distribusi yang sangat multimodal (seperti generasi citra), semua ini diserahkan kepada pekerjaan selanjutnya.
Selama lebih dari satu dekade, kita terbiasa menggunakan dua tombol untuk menyetel model generatif: membuatnya lebih besar, memberinya lebih banyak data.
Tombol ketiga yang diajukan makalah ini cukup sederhana: biarkan model menebak beberapa kali, hanya ambil yang terbaik. Tetapi jika tren yang diungkapkannya terbukti benar, maka seiring penskalaan terus membesar, dua tombol pertama pada akhirnya akan mencapai batasnya, sedangkan yang ketiga baru saja mulai berputar.
Referensi
https://x.com/AlexiGlad/status/2083230922196107288
Artikel ini berasal dari akun WeChat publik "JIQIZHIXIN" (机器之心) (ID: almosthuman2014), penulis: Panda
