Karpathy Membuat Heboh di Dalam Panggung: Memaksa Agent Bekerja Adalah Kesalahan Terbesar AI! Ujung Tombak Tidak Ada di OpenAI, Tapi di Tangan Anda.
Satu kalimat, membasahi seluruh komunitas Agent dengan air dingin.
Andrej Karpathy — peneliti inti tim pra-pelatihan Anthropic saat ini, baru-baru ini dalam sebuah presentasi langsung untuk pengembang Agent, melontarkan pernyataan kontroversial yang membuat seluruh ruangan hening:
Kesalahan terbesar di bidang AI saat ini, adalah orang-orang terburu-buru memaksa Agent bekerja, padahal belum memahami model besar di lapisan dasarnya dengan baik.
Video ini dipotong dan dibuang ke X, hanya dalam beberapa hari langsung viral.
Karena yang ditunjukkannya, justru adalah jalur yang paling panas, paling ramai, dan semua orang bergegas masuk ke dalamnya saat ini.
Dan orang yang mengatakan ini, bukan orang awam yang menuangkan air dingin, tapi orang yang pernah jatuh ke dalam lubang sedang merefleksikan pelajaran berdarahnya sendiri.
Pelajaran yang Dibeli dengan Uang Asli
Putar waktu kembali ke tahun 2016.
Saat itu Karpathy sedang mengerjakan sebuah proyek di OpenAI bernama World of Bits, tujuannya terdengar sangat "2026": Membuat Agent belajar menggunakan keyboard dan mouse untuk mengoperasikan komputer, memesan tiket pesawat, memesan makanan online, membantu menyelesaikan pekerjaan Anda.
Tidak asing? Ini hampir persis seperti gambaran di slide pertama PPT semua perusahaan rintisan Agent hari ini.
Hasilnya? Tidak berhasil.
Karpathy berkata dengan sangat blak-blakan: saat itu dia bersama Tianlin Shi, Jim Fan dan beberapa orang lainnya mengerjakannya, mengeklik mouse dengan gila-gilaan di depan beberapa halaman web sederhana, mencoba memesan tiket pesawat, memesan makanan, dan akhirnya benar-benar menerbitkan sebuah makalah di ICML 2017.
Judul makalahnya adalah "World of Bits: An Open-Domain Platform for Web-Based Agents" — sebuah konsep besar tentang "dunia bit", akhirnya terperangkap di beberapa halaman web sederhana.
Teknologi belum siap. Satu-satunya palu yang dimiliki adalah pembelajaran penguatan (reinforcement learning), bagaimana pun dihantam, tidak bisa menghasilkan.
Melihat ke belakang, langkah yang benar saat itu adalah benar-benar melupakan Agent, berbalik dan fokus pada model bahasa.
Lima tahun kemudian, kotak peralatan benar-benar berganti — kalian yang membuat Agent sekarang, hampir tidak ada yang menggunakan pembelajaran penguatan lagi. Ini, pada saat itu, benar-benar tidak terbayangkan.
Yang menarik, Jim Fan yang dulu bersama-sama menulis makalah dengannya, sekarang telah menjadi ilmuwan penelitian senior di NVIDIA, menghasilkan serangkaian proyek yang menggelegar seperti Voyager, MineDojo, dan memenangkan penghargaan Outstanding Paper Award di NeurIPS.
Seorang magang muda dari proyek "gagal" tahun 2016, sepuluh tahun kemudian menjadi pemain top di bidang AI Agent.
Tapi jalur yang ditempuh, bukan jalur tahun 2016 itu.
Demo Mudah, Produk Butuh Waktu Sepuluh Tahun
Mengikuti pelajaran ini, Karpathy memberikan tiga nasihat, setiap kalimatnya berlawanan dengan tren saat ini.
Langkah pertama, berhenti memaksa Agent Anda melakukan segalanya, lakukan model dasarnya dengan benar terlebih dahulu.
Saat dia bergabung dengan tim pra-pelatihan Anthropic pada Mei tahun ini, kalimat pertama yang ditulisnya di X adalah: Saya pikir pekerjaan di garis depan LLM akan sangat kritis dalam beberapa tahun ke depan.
Seorang "penemu" vibe coding, yang membuat kamus Collins memilihnya sebagai kata tahunan, saat ini memilih kembali ke penelitian pra-pelatihan yang paling mendasar — ini sendiri adalah sebuah "suara perilaku" terhadap demam Agent.
Langkah kedua, Demo mudah, menjadikannya produk butuh waktu sepuluh tahun.
Dia mengutip dua contoh yang semua orang kenal: mobil otonom, Demo membuat sebuah mobil berputar di sekitar blok siapa pun bisa melakukannya, tapi benar-benar menjadikannya produk, membutuhkan waktu sepuluh tahun penuh, dia sendiri mengalami maraton ini di Tesla.
VR juga sama, Demo yang menakjubkan bertebaran di mana-mana, implementasi menjadi produk juga butuh waktu sepuluh tahun untuk memulai.
Agent, adalah jenis yang sama.
Sangat mudah dibayangkan, sangat mudah dibuat Demo, tapi sangat sulit dijadikan produk yang sebenarnya.
Jika Anda benar-benar masuk ke bidang ini, Anda harus siap bekerja selama sepuluh tahun, bukan setelah membuat Demo yang keren lalu mengira sudah sampai tujuan.
Langkah ketiga, Agent bukanlah produk, kemampuan dasar adalah produk. Kokohkan fondasinya, Agent akan muncul secara alami.
Tiga kalimat ini, hampir menyangkal habis-habisan cara bermain saat ini yang "pasang cangkang, tumpuk Agent, cepat rilis".
Maksud Karpathy jelas, fondasi tidak kokoh, bangunan dibangun semakin cepat, runtuh semakin keras.
Mobil otonom sudah membuktikannya sekali untuk semua orang dengan sepuluh tahun, Agent tidak punya alasan untuk melewati pelajaran ini.
Mencuri Ilmu dari Otak
Setelah selesai berbicara tentang pelajaran, Karpathy berbalik arah, langsung terjun ke ilmu saraf untuk mencari inspirasi.
Dia melontarkan serangkaian pertanyaan di atas panggung: Dalam Agent, apa yang setara dengan hippocampus, yang bertanggung jawab atas memori, pengindeksan, dan pengambilan?
Apa yang setara dengan ganglia basal, yang mengontrol pemilihan perilaku dan eksekusi tindakan? Apa yang setara dengan thalamus, tempat "beberapa pikiran berebut mikrofon", seperti tempat duduk kesadaran?
Seorang peneliti AI top berkata: Kami menciptakan kehidupan digital, yang paling kurang saat ini bukanlah fungsi yang lebih mewah, tetapi penghormatan terhadap pertanyaan mendasar "apa sebenarnya kecerdasan itu".
Dia bahkan secara khusus membawa sebuah buku ilmu saraf karya David Eagleman "Brain and Behavior: A Cognitive Neuroscience Perspective" untuk direkomendasikan kepada semua orang yang hadir.
Menurutnya, menciptakan Agent hari ini, layak seperti masa awal pembelajaran mendalam — dulu kami mencuri inspirasi jaringan saraf tiruan dari struktur neuron tunggal, sekarang kami sepenuhnya bisa mencuri lagi dari otak.
Yang Benar-Benar Menggelegar, Adalah Kalimat Terakhir Ini
Jika sebelumnya adalah menuangkan air dingin, akhir dari Karpathy, menyalakan api lagi untuk penonton di bawah.
Dia berkata kepada ruangan penuh pengembang independen dan wirausahawan:
Yang benar-benar berada di garis depan kemampuan Agent, adalah kalian. Bukan OpenAI, bukan DeepMind, tapi kalian.
Ini bukan basa-basi di atas panggung. Dia memberikan penjelasan yang sangat menusuk:
Perusahaan besar seperti OpenAI, memang tidak ada yang menandingi dalam melatih model bahasa Transformer skala besar — ketika sebuah makalah pelatihan Transformer baru keluar, reaksi di Slack internal seringkali adalah "oh, ini sudah dicoba dua setengah tahun yang lalu, kenapa tidak berhasil, kami tahu jelas".
Tapi begitu sebuah makalah Agent baru muncul, reaksi semua orang adalah: "Oh, ini keren, benar-benar baru."
Kenapa? Karena dalam hal Agent, tidak ada perusahaan besar yang mengumpulkan pengalaman lima tahun.
Perusahaan besar tidak berada di tepi kemampuan, dan kalian — wirausahawan, peretas — yang berada di tepi itu.
Logikanya sebenarnya tidak sulit dimengerti.
Perusahaan besar sudah berlari di jalur model bahasa selama bertahun-tahun, sudah menginjak setiap lubang, menandai setiap jalan memutar; tapi Agent adalah daratan baru yang baru dibuka, tidak ada yang memiliki keunggulan pengalaman lima tahun, hampir semua orang berdiri di garis start yang sama.
Saat ini, pengembang independen yang lincah, berani mencoba, dan bisa berbelok cepat, justru lebih berpeluang menemukan hal baru dibandingkan raksasa yang kapalnya besar sulit berbelok.
Kembali ke Pernyataan Kontroversial Awal Itu
Air dingin yang ingin dituangkan Karpathy, bukan "jangan buat Agent", tapi "jangan lewati dasar untuk membuat Agent".
Dia sendiri adalah contoh terbaik — orang yang menemukan vibe coding, menggunakan Agent dengan sangat lincah ini, pilihan karir terpentingnya pada tahun 2026 justru adalah: Kembali ke pra-pelatihan, kembali ke laboratorium paling dasar dari model besar.
Api yang ingin dinyalakannya, juga bukan untuk membuat orang cemas, tapi untuk memberitahu setiap orang yang sedang berjuang di garis depan: Pertempuran ini, Anda tidak tertinggal, Anda ada di garis terdepan.
Demam pasti akan reda, Demo juga akhirnya akan memudar.
Tapi orang yang benar-benar memahami model dasar, bersedia menyelami satu hal selama sepuluh tahun, baru pantas berdiri di tepian sepuluh tahun kemudian.
Referensi: https://x.com/0xCodila/status/2073544407643496771
Artikel ini berasal dari akun WeChat publik "Xin Zhi Yuan", penulis: ASI Revelation, editor: Solomon
