Baru-baru ini kami melaporkan banyak perusahaan rintisan dan hasil penelitian yang menargetkan arah "pembelajaran berkelanjutan", seperti "Mind Lab Rilis Kemajuan Terbaru LoRA, Paradigma Baru 'Pembelajaran Berkelanjutan' untuk Model Besar Muncul", "Ucapkan Selamat Tinggal pada Belenggu KV Cache, Masukkan Konteks Panjang ke Bobot, Apakah Model Besar Pembelajaran Berkelanjutan Punya Harapan?", "ICML 2026 | Terobosan Batas! Universitas Hong Kong Usulkan Arsitektur Pembelajaran Berkelanjutan Pertama yang Cocok untuk 300+ Tugas, Pecahkan Masalah Lupa", "Harness yang Bisa Membuat DeepSeek Berevolusi Sendiri! Penulis LlamaFactory Buka Sumber Alat Baru: 0,2 Yuan Otomatis Buat Agent", "Ketika 'Membesar' Bukan Lagi Satu-satunya Jalan, Lagi-lagi Model Lokal Buka Sumber"......
Ya, cukup padat, "pembelajaran berkelanjutan" juga sedang menjadi salah satu kata kunci yang paling sering kami temui. Dan di balik ini juga menandakan sebuah penilaian yang berulang kali disebut-sebut.
Oktober 2025, Andrej Karpathy dalam podcast Dwarkesh Patel mengatakan: model besar saat ini "tidak punya pembelajaran berkelanjutan. Kamu tidak bisa memberitahunya satu hal, lalu berharap dia mengingatnya". Dia berpendapat melengkapi kekurangan kognitif ini kira-kira masih butuh sepuluh tahun. Dua bulan kemudian, dalam tinjauan tahunannya dia menempatkan kalimat ini ke dalam gambaran yang lebih besar: lompatan kemampuan model tahun 2025 terutama berasal dari Reinforcement Learning dengan Reward yang Dapat Diverifikasi (RLVR), tapi di seluruh tumpukan teknologi LLM, memori, persepsi multimodal, pembelajaran berkelanjutan, kemampuan mengoperasikan komputer tetap merupakan kelemahan yang jelas, "kita punya prototipe, tapi belum ada agen yang bisa digunakan sebagai rekan kerja".
Pembelajaran Berkelanjutan (Continual Learning, juga disebut Pembelajaran Sepanjang Hayat/Lifelong Learning) karenanya menjadi salah satu konsep paling panas dalam setahun terakhir.
Ini mengacu pada kemampuan model untuk, setelah di-deploy, terus menyerap dari tugas baru, pengetahuan baru, pengalaman baru seperti manusia, dan tidak melupakan hal-hal yang sudah dipelajari sebelumnya.
Hal ini terdengar wajar, tapi sangat sulit untuk dilakukan, sulit hingga cukup menjadi tulang terkeras di jalan menuju "rekan kerja AI". Dan serangkaian laporan di atas juga menunjukkan, jalan ini bukan lagi satu arah, tapi beberapa jalur bercabang yang secara bersamaan mendorong maju.
Sekitar bagaimana membuat model "belajar sambil digunakan", dunia akademik dan industri dalam setahun ini telah bercabang menjadi beberapa rute teknis yang berbeda. Ada yang memasang memori di luar model, ada yang terus-menerus menulis ulang bobot, ada yang langsung melakukan pra-pelatihan ulang, dan ada sekelompok pemikiran baru yang mencoba mendefinisikan ulang "belajar" itu sendiri. Artikel ini mencoba membuka satu per satu arah-arah ini, menjelaskan dengan jelas apa yang dipertaruhkan setiap jalur, dan di mana macetnya.
Jelaskan Dulu: Yang Sulit Bukan 'Belajar', Tapi 'Tidak Lupa'
Kendala inti pembelajaran berkelanjutan punya nama khusus: lupa bencana (catastrophic forgetting). Pengetahuan jaringan saraf tersimpan dalam miliaran bobot. Ketika kamu menggunakan data baru untuk menyetel model, memperbarui bobot-bobot ini, saat model mempelajari tugas baru, sering kali akan menimpa bagian parameter yang membawa kemampuan lama, menyebabkan kinerja anjlok drastis pada tugas yang sebelumnya dikuasai.
Ilustrasi lupa bencana. Ketika jaringan saraf dalam buatan dilatih secara berurutan pada dua tugas, ia akan dengan cepat dan sepenuhnya melupakan tugas pertama saat melatih tugas kedua.
Fenomena ini sudah banyak diteliti di era model kecil, tapi di LLM muncul masalah baru. TRACE, tolok ukur khusus yang menilai pembelajaran berkelanjutan LLM, menemukan bahwa melakukan fine-tuning berkelanjutan pada model yang sudah selaras (aligned), tidak hanya membuatnya melupakan tugas lama, tapi juga merusak kemampuan umum dan kemampuan mengikuti instruksi. Dengan kata lain, kamu ingin mengajari model hal baru, harganya mungkin adalah dia menjadi bodoh secara keseluruhan, menjadi tidak patuh.
Karena risiko langsung mengubah bobot begitu besar, "pembelajaran berkelanjutan" pecah menjadi beberapa aliran. Perbedaan mendasarnya sebenarnya adalah pilihan berbeda yang dibuat pada dua pertanyaan: "ubah tidak bobot" dan "di mana menyimpan pengetahuan baru".
Menggantung Memori di Luar Model
Ide yang paling langsung dan cepat diimplementasikan adalah: lebih baik tidak menyentuh bobot model sama sekali, simpan pengetahuan baru ke database eksternal, lalu ambil kembali ke konteks ketika dibutuhkan. Rute ini berkembang dari RAG (Retrieval-Augmented Generation), kini telah tumbuh menjadi bidang khusus: Memori Agen (Agent Memory).
Karya perwakilan adalah MemGPT (perusahaan di baliknya kini berganti nama Letta). Ini mengelola manajemen konteks LLM dianalogikan seperti manajemen memori sistem operasi, membedakan antara "konteks kerja" yang terbatas dan "penyimpanan eksternal" yang lebih besar, membiarkan model seperti sistem operasi menjadwalkan memori, memutuskan sendiri apa yang harus dimasukkan ke konteks, apa yang harus diarsipkan kembali.
Mengikuti ide ini, beberapa sistem punya fokus masing-masing: Mem0 fokus pada akses memori jangka panjang yang siap produksi, dapat diskalakan; Zep menambahkan grafik pengetahuan berurutan (knowledge graph temporal) di atas pengambilan, untuk menangani penalaran waktu lintas sesi; A-MEM meminjam metode catatan kotak kartu (Zettelkasten), memberi label terstruktur pada setiap memori dan secara otomatis mengaitkannya dengan entri lama yang relevan, membuat pengambilan lebih sesuai konteks.
Karpathy sendiri juga bertaruh pada arah ini. Dia berulang kali menekankan, yang dibutuhkan di masa depan bukan memori "hard drive yang lebih besar", tapi sebuah "inti kognitif" (cognitive core, dia perkirakan satu dua B parameter sudah cukup) ditambah set memori eksternal terstruktur yang bisa tumbuh sendiri berbunga majemuk.
Berdasarkan ide ini, dia merilis pola bernama "LLM Wiki" di GitHub: tidak lagi menggunakan RAG untuk mengambil blok teks asli setiap kali query, tapi membiarkan agen secara aktif menyusun materi menjadi basis pengetahuan yang terus diperbarui, saling terhubung, lalu menanyakannya.
Dokumen LLM Wiki Karpathy sudah mendapatkan hampir 45 ribu bintang (star), juga sudah di-fork lebih dari 9 ribu kali.
Letta sendiri mengangkat hal ini menjadi proposisi "pembelajaran berkelanjutan di ruang token". Mereka menunjukkan, praktik default saat ini adalah "tambahkan dulu, lalu rangkum", yaitu menumpuk pengalaman asli sampai konteks meluap, lalu dikompresi menjadi ringkasan, ini punya dua kelemahan: penambahan menunda semua pekerjaan representasi ke waktu inferensi, setiap forward propagation harus memproses ulang log asli; dan rangkuman itu lossy dan mendadak, detail penting bisa hilang tanpa peringatan. Taruhan Letta adalah, memori yang dipelajari di ruang token di masa depan, akan lebih bernilai daripada bobot model itu sendiri.
Keunggulan arah ini adalah aman, terkendali, dapat dijelaskan, jika salah bisa dihapus kapan saja; kekurangannya adalah pada dasarnya tidak benar-benar "menginternalisasi" pengetahuan ke dalam model, setiap kali harus bergantung pada pengambilan dan konteks yang sempit, begitu perpustakaan memori mengembang, akurasi pengambilan dan biaya akan menjadi hambatan.
Biarkan Konteks Sendiri Berevolusi Menjadi 'Buku Panduan'
Selangkah lebih maju dari memori eksternal, adalah sejenis ide yang lebih canggih: tidak mengubah bobot, tapi membiarkan konteks input model itu sendiri berevolusi terus-menerus. Ini disebut rekayasa konteks (Context Engineering).
Oktober 2025, ACE (Agentic Context Engineering) yang diusulkan Stanford, SambaNova, dan UC Berkeley adalah perwakilannya. Ini memperlakukan konteks sebagai "buku panduan" (playbook) yang terus tumbuh, dipelihara melalui tiga peran pembagian kerja: Generator bertanggung jawab menghasilkan jejak penalaran, Reflector menyaring pengalaman spesifik dari keberhasilan dan kegagalan, Curator mengorganisir pengalaman ini menjadi pembaruan bertahap yang terstruktur, menggabungkannya ke dalam buku panduan.
ACE ingin menyelesaikan dua penyakit umum metode serupa. Pertama, "preferensi singkat" (brevity bias): ketika meminta LLM menulis ulang konteks berulang kali, dia cenderung mengompres, membuang detail domain; kedua, "runtuhnya konteks" (context collapse): penulisan ulang berulang menyebabkan detail hilang secara bertahap.
ACE menggunakan perubahan kecil bertahap (delta updates) daripada penulisan ulang seluruh bagian untuk menghindari kedua hal ini. Menurut data makalah, ACE pada tugas agen meningkat 10,6% dibandingkan baseline, penalaran keuangan meningkat 8,6%, sekaligus menurunkan latensi adaptasi sekitar 86,9%; di papan peringkat AppWorld, dengan model sumber terbuka kecil DeepSeek-V3.1 dipasangkan ACE, skor rata-rata bisa menyamai agen produksi IBM CUGA berbasis GPT-4.1.
Perlu dicatat, ACE menekankan dia bisa bekerja tanpa pengawasan berlabel; dia bergantung pada sinyal umpan balik yang secara alami dihasilkan selama eksekusi (misalnya kode berjalan lancar atau error) untuk memandu refleksi dan pengorganisasian. Ini menghubungkannya dengan narasi yang lebih besar "agen belajar dari pengalamannya sendiri".
Pascapelatihan Berkelanjutan: Ubah Bobot, Tapi Ubah dengan Cerdas
Memori eksternal dan rekayasa konteks menghindari risiko mengubah bobot, tapi juga menghindari internalisasi pengetahuan yang sebenarnya. Kelompok peneliti lain berpendapat, jangka panjang, beberapa pengetahuan dan keterampilan akhirnya harus ditulis ke dalam parameter baru cukup berguna. Inilah pascapelatihan berkelanjutan (Continual Post-training), terutama dibagi menjadi tahap-tahap seperti fine-tuning instruksi berkelanjutan, alignment preferensi berkelanjutan.
John Schulman dari Thinking Machines memberikan pandangan berlapis: dia mengibaratkan pembelajaran seperti pembelajaran motorik, memori episodik, dan memori prosedural dalam psikologi, berpendapat pembelajaran dalam konteks akan terus menangani tugas pembelajaran jarak pendek, sementara fine-tuning parameter (termasuk metode seperti LoRA) akan bertumpuk di atasnya, sangat cocok untuk tugas yang memerlukan kapasitas besar, perlu benar-benar menyerap pengetahuan — ketika rentang waktu panjang, pembelajaran dalam konteks tidak cukup, maka fine-tuning parameter yang menang.
Musuh terbesar rute ini masih lupa bencana, dan solusi menarik baru-baru ini datang dari Tinker milik Thinking Machines.
Tinker adalah produk pertama mereka yang dirilis Oktober 2025, sebuah API fine-tuning berbasis LoRA, menyederhanakan kompleksitas pelatihan terdistribusi, hanya mengekspos primitif tingkat rendah seperti forward_backward, optim_step, memungkinkan peneliti fokus pada data dan algoritma.
Pada pembelajaran berkelanjutan, mereka mempromosikan resep yang disebut fine-tuning distilasi diri (SDFT): wawasan intinya adalah, fine-tuning supervisi biasa adalah "off-policy", model dipaksa meniru token yang tidak akan dia hasilkan sendiri, sehingga setiap mempelajari keterampilan baru akan menggerogoti kemampuan lama; SDFT membiarkan model menjadi gurunya sendiri, mempelajari keterampilan baru dari demonstrasi tanpa melupakan yang lama. Sebuah perusahaan rintisan bernama Trajectory telah menggunakan Tinker sebagai infrastruktur inti platform pembelajaran berkelanjutannya.
Ngomong-ngomong, Tinker menggunakan LoRA daripada fine-tuning penuh, ada keuntungan pragmatis: beberapa tugas fine-tuning bisa berbagi kumpulan daya komputasi yang sama, biaya lebih merata. Ini juga menjelaskan mengapa "pembelajaran berkelanjutan sebagai layanan" sedang menjadi bisnis: mengubah pembaruan model yang sering menjadi API yang bisa dipanggil sesuai permintaan, adalah arah percobaan industri saat ini.
Prapelatihan Ulang dan Prapelatihan Berkelanjutan
Jika pascapelatihan adalah memotong "permukaan" model, maka prapelatihan berkelanjutan (Continual Pre-training, CPT) adalah kembali ke lapisan paling bawah, menggunakan korpus baru untuk terus melatih model, membuatnya beradaptasi dengan domain baru, bahasa baru, atau distribusi pengetahuan yang berubah seiring waktu. Dibandingkan mencampur data lama dan baru dan melatih ulang dari awal, CPT dibangun di atas model yang sudah ada, lebih hemat daya komputasi.
Tempat penggunaan tipikalnya ada tiga: pengetahuan yang berubah seiring waktu, perluasan lintas bahasa, adaptasi lintas domain. Tapi biayanya juga jelas: beberapa studi empiris berulang kali menunjukkan, prapelatihan berkelanjutan biaya komputasinya tinggi, dan mudah memicu lupa bencana terhadap pengetahuan yang sudah dipelajari. Karenanya, dunia akademik terus mencari metode prapelatihan berkelanjutan "tanpa pengulangan, tanpa label tugas", mencoba mencapai tidak lupa pada skala LLM.
Bagi sebagian besar perusahaan, biaya melatih ulang model mutakhir dari awal terlalu tinggi dan tidak realistis, ini asal muasal ucapan Karpathy "model besar tidak cocok untuk pelatihan ulang yang sering". Jadi "prapelatihan ulang" dalam arti sebenarnya lebih merupakan opsi internal laboratorium mutakhir, sementara prapelatihan berkelanjutan adalah kompromi yang lebih layak.
Pemikiran Lebih Baru: Biarkan Model Belajar Memodifikasi Dirinya Sendiri
Empat arah sebelumnya, masih dalam kerangka biner "eksternal vs mengubah bobot". Sedangkan sekelompok karya baru yang muncul dalam setahun terakhir, mencoba melompati kerangka ini, mendefinisikan ulang belajar itu sendiri.
Satu ide adalah membiarkan model sendiri menghasilkan data pelatihan, sendiri memutuskan bagaimana memperbarui dirinya sendiri.
SEAL (Self-Adapting Language Models) milik MIT adalah tipikal. Diberikan input baru, model akan menghasilkan "pengeditan diri" (self-edit); ini adalah instruksi bahasa alami, menjelaskan bagaimana merekonstruksi informasi, parameter super apa yang digunakan untuk memperbarui bobot, bahkan memanggil alat apa untuk meningkatkan data; lalu model menyesuaikan dirinya sendiri berdasarkan ini, membentuk pembaruan bobot yang bertahan. Dan hal "pengeditan diri seperti apa yang efektif", dilatih oleh loop pembelajaran penguatan lapisan luar, sinyal hadiah adalah kinerja model setelah diperbarui pada tugas hilir.
Versi NeurIPS 2025 lebih lanjut membuktikan kemampuan adaptif ini akan meningkat seiring model membesar, dan dengan bantuan pembelajaran penguatan meredakan lupa. Penulisnya membayangkan model yang bisa menilai sendiri di tengah penalaran "haruskah saya belajar sekarang", mendistilasi chain of thought sekali pakai menjadi kemampuan permanen.
Ide lain yang lebih radikal berasal dari Pembelajaran Bersarang (Nested Learning) Google, diterbitkan di NeurIPS 2025. Intinya adalah memahami kembali sebuah model sebagai sekumpulan masalah optimasi yang saling bersarang, berlapis-lapis, masing-masing membawa "aliran konteks" berbeda dan frekuensi pembaruan berbeda — arsitektur dan algoritma optimasi dalam perspektif ini disatukan menjadi hal yang sama di level berbeda.
Sebagai bukti konsep, mereka membuat arsitektur modifikasi diri bernama Hope, yang memperluas dua poin berdasarkan arsitektur memori jangka panjang Titans: level pembelajaran bersarang tanpa batas atas, dan set "sistem memori berkelanjutan" (CMS). Singkatnya, bukan lagi pembagian dikotomis memori jangka pendek/panjang, tapi seluruh spektrum modul memori yang diperbarui lintas skala waktu.
Dalam eksperimen, Hope pada tugas pemodelan bahasa, penalaran konteks panjang, dan pembelajaran berkelanjutan mengungguli Transformer standar dan model siklus modern . Menariknya, ada karya lanjutan yang memperkenalkan fase "tidur" ke arsitektur semacam ini — seperti manusia mengonsolidasi memori dalam tidur, membiarkan model menyisihkan daya komputasi antara sesi aktif, mendistilasi abstraksi yang berguna ke dalam memori parameter yang lebih bertahan.
Lebih abstrak lagi, adalah narasi "Era Pengalaman" (Era of Experience) yang diusulkan David Silver dan Richard Sutton.
Penilaian mereka adalah: di bidang kunci seperti matematika, kode, sains, pengetahuan yang bisa diekstrak dari data manusia sedang mendekati batas atas, untuk terus maju, AI harus terus belajar dari pengalaman interaksinya dengan lingkungan, membentuk loop tertutup penyediaan data mandiri. Mereka menganggap AlphaProof DeepMind 2024 (mendapatkan medali IMO melalui "interaksi berkelanjutan dengan sistem pembuktian formal") sebagai awal era ini. Narasi ini mengikat pembelajaran berkelanjutan dengan pembelajaran penguatan, eksplorasi mandiri agen, dan juga menyisakan masalah yang belum terpecahkan: siapa yang merancang fungsi hadiah yang mengubah sinyal mentah menjadi pedoman berguna.
Selain itu ada arah tetangga yang mudah dikacaukan dengan pembelajaran berkelanjutan, tapi tujuan berbeda: Penyuntingan Pengetahuan (Knowledge Editing). Diwakili oleh ROME, MEMIT, melalui melokalisasi dan memodifikasi lapisan MLP yang menyimpan fakta tertentu, mencapai pembaruan fakta tunggal atau batch yang presisi, tanpa perlu pelatihan ulang penuh . Tapi tujuannya sebenarnya berbeda dengan pembelajaran berkelanjutan — penyuntingan pengetahuan mengejar pencakupan tepat suatu fakta, dalam skenario penyuntingan berurutan, seumur hidup, perubahan parameter berulang akan saling mengganggu, secara bertahap mengakumulasi "toksisitas" menyebabkan model runtuh, ini juga melahirkan metode WISE, AlphaEdit, dan lainnya yang khusus menangani penyuntingan berurutan.
Kesimpulan
Meletakkan beberapa arah ini bersama-sama, akan ditemukan bahwa mereka sebenarnya tersusun di sepanjang sumbu "pengetahuan ada di mana".
Paling luar adalah memori eksternal dan rekayasa konteks, pengetahuan sepenuhnya ada di ruang token di luar model, aman terkendali tapi tidak benar-benar terinternalisasi; tengah adalah pascapelatihan berkelanjutan dan prapelatihan berkelanjutan, pengetahuan ditulis ke dalam bobot, batas kemampuan lebih tinggi tapi harus menghadapi lupa bencana; paling dalam, paling mutakhir, adalah pemikiran-pemikiran baru yang membiarkan model memodifikasi diri, berevolusi sendiri, mencoba membuat aksi "belajar" itu sendiri menjadi bagian dari kemampuan model.
Pengamatan pragmatis adalah: arah-arah ini kemungkinan besar tidak saling eksklusif, tapi akan bekerja sama berlapis. Pandangan pembelajaran berlapis Schulman, konsep "inti kognitif + memori eksternal" Karpathy, pada dasarnya mengatakan hal yang sama: pengetahuan jarak pendek, mudah berubah diserahkan ke konteks dan memori eksternal, kemampuan jarak panjang, perlu mengendap diserahkan ke fine-tuning parameter, masing-masing menjalankan tugasnya. ACE bisa berevolusi tanpa pengawasan berdasarkan umpan balik eksekusi, SEAL menggunakan pembelajaran penguatan untuk mengoptimalkan pengeditan diri, keduanya mengisyaratkan tren bersama: pembelajaran berkelanjutan di masa depan, kemungkinan besar adalah membiarkan model sendiri memimpin "apa yang dipelajari, bagaimana belajar".
Lalu kembali ke penilaian Karpathy "masih butuh sepuluh tahun", apakah pembelajaran berkelanjutan sudah diselesaikan? Jawabannya mungkin — belum, tapi sudah tidak lagi kosong sama sekali. Kendala inti lupa bencana hingga kini belum benar-benar ditaklukkan, metode seperti SDFT, pembelajaran bersarang masih hanya "meringankan" bukan "menghilangkan"nya. Murni mengandalkan manajemen konteks yang lebih baik ditambah fine-tuning bisa menyelesaikan pembelajaran berkelanjutan, atau perlu ide baru? Masalah yang lebih mendasar ini bahkan Schulman sendiri mengakui belum ada kesimpulan pasti.
Yang bisa dipastikan adalah, periode 2025 hingga 2026 ini, pembelajaran berkelanjutan dari "kemampuan yang hilang" yang berulang kali disebut-sebut, menjadi medan pertempuran aktif yang benar-benar bercabang beberapa rute, dan mulai ada perusahaan rintisan terjun membuat produk. Jalur mana yang bisa pertama kali mengubah "rekan kerja AI" dari prototipe menjadi kenyataan, pantas untuk terus dipantau.
Tautan Referensi
https://www.lesswrong.com/posts/qBsj6HswdmP6ahaGB/andrej-karpathy-on-llm-cognitive-deficits
https://karpathy.bearblog.dev/year-in-review-2025/
https://www.letta.com/blog/continual-learning/
https://arxiv.org/abs/2510.04618
https://arxiv.org/abs/2402.01364
https://thinkingmachines.ai/tinker/
https://arxiv.org/pdf/2604.05096
https://arxiv.org/pdf/2606.03979
Artikel ini berasal dari akun WeChat "机器之心" (ID:almosthuman2014), penulis: 持续学习的机器之心, editor: Panda
