Di YC Startup School tahun 2026, suara Jeff Dean terdengar serak.
Di awal wawancara, dia menjelaskan bahwa suaranya sedang tidak enak, jadi hari ini terdengar berbeda dari biasanya. Namun hal ini tidak memengaruhi perhatian pendengar di bawah panggung. Diana Hu, partner YC yang duduk di depannya, menyebutkan serangkaian nama yang cukup untuk dituliskan dalam sejarah komputer: MapReduce, BigTable, TensorFlow, TPU, Gemini.
Satu proyek pun sudah cukup menjadi karya representatif dalam karier seorang insinyur. Namun semuanya terkumpul dalam riwayat hidup Jeff Dean dan sekelompok insinyur Google di sekitarnya.
Diana tidak membuat wawancara ini menjadi kilas balik pencapaian. Dia lebih tertarik pada pertanyaan lain: ketika AI generatif telah menyapu industri perangkat lunak, apa yang sebenarnya dilihat oleh Jeff Dean hari ini, orang yang paling ahli dalam merekonstruksi sistem dari lapisan dasar?
Jawabannya bukanlah model yang lebih besar.
Dalam percakapan hampir satu jam ini, Jeff Dean berulang kali membahas perangkat keras inferensi, energi, pemindahan data, rekayasa konteks, Agent yang berjalan lama, sistem eksperimen otomatis, serta bagaimana startup dapat menghindari tekanan langsung dari model umum. Apa yang dia sampaikan tampaknya tersebar, tetapi di baliknya ada satu garis utama yang sangat jelas: tahap berikutnya AI bukan hanya melatih model menjadi lebih cerdas, tetapi menempatkan model ke dalam sistem yang dapat bekerja jangka panjang, terus mencoba-coba, memverifikasi secara otomatis, dan terus mengakumulasi kemampuan.
Ini juga berarti, persaingan AI sedang bergeser dari "siapa yang memiliki model lebih besar" ke "siapa yang dapat mengorganisir kecerdasan dengan lebih baik".
I. AI Sudah Mirip Insinyur Pemula, Tapi Ini Bukan Perubahan Terpenting
Pada Mei 2025, Jeff Dean pernah membuat penilaian yang memicu diskusi luas: Kemampuan AI telah mendekati seorang insinyur pemula.
Setahun kemudian, Diana bertanya kepadanya, bagaimana prediksi itu terwujud?
Jawaban Jeff Dean sangat langsung. Dia menganggap penilaian itu "cukup akurat". Kemajuan model dalam hal Agent, pengkodean alur panjang, dan tugas kompleks bahkan lebih cepat dari yang dia perkirakan saat itu.
"Kemampuan model dalam menyelesaikan tugas yang semakin kompleks tumbuh lebih cepat dari yang saya perkirakan," katanya.
Yang lebih patut diperhatikan adalah bahwa kemampuan ini tidak lagi terbatas pada menulis kode. Semakin banyak sistem Agent mulai memasuki bidang sains, teknik, dan bidang profesional lainnya. Mereka tidak hanya menjawab pertanyaan, tetapi juga memecah tugas, menggunakan alat, menjalankan eksperimen, membaca hasil, lalu melanjutkan tindakan berdasarkan umpan balik.
Mengibaratkan AI sebagai insinyur pemula mudah membuat orang fokus pada penggantian tenaga kerja. Tetapi Jeff Dean lebih memperhatikan perubahan lain: ketika seorang "insinyur pemula" dapat diduplikasi menjadi puluhan, ratusan, bekerja paralel selama beberapa hari atau bahkan minggu, bagaimana cara organisasi produksi akan berubah?
Dalam tim tradisional, insinyur pemula perlu memahami pekerjaan, perlu memahami alat, perlu terus mendapatkan umpan balik. Agent juga begitu. Hanya saja materi pelatihannya bukan lagi hanya dokumentasi, melainkan prompt, instruksi alat, file keterampilan, sistem pengujian, evaluator, serta seluruh lingkungan konteks.
Ini menciptakan pembagian kerja baru dalam rekayasa AI.
Dulu, insinyur terutama bertanggung jawab menulis kode. Di masa depan, lebih banyak insinyur akan bertanggung jawab mendefinisikan masalah, membangun lingkungan, menulis spesifikasi, merancang loop umpan balik, lalu menjadwalkan sekelompok Agent untuk menyelesaikan tugas.
Prediksi Jeff Dean untuk tahun 2027 memang demikian. Dia berpikir, sistem pembelajaran mesin akan semakin banyak terlibat dalam meningkatkan sistem pembelajaran mesin itu sendiri. Mereka akan memecah tujuan menjadi sub-masalah, menjalankan banyak eksperimen secara otomatis, membandingkan hasil, lalu menggabungkan solusi yang efektif untuk membentuk sistem baru yang lebih kuat.
"Selama sebuah bidang memiliki tujuan yang dapat diukur, ada peluang untuk mencapai kemajuan besar."
Kalimat ini adalah kunci pertama dari seluruh wawancara.
Otomatisasi AI pertama-tama akan memasuki bukan bidang dengan pengetahuan paling banyak, melainkan bidang dengan umpan balik paling jelas. Apakah kode dapat lulus pengujian, apakah tata letak chip dapat mengurangi luas area, apakah struktur model dapat meningkatkan akurasi, apakah sifat material memenuhi persyaratan, semua masalah ini memiliki standar evaluasi yang relatif jelas. Selama evaluator cukup andal, mesin dapat bereksperimen berulang kali dengan frekuensi sangat tinggi.
Jadi, unit yang benar-benar penting di era AI mungkin bukan lagi satu jawaban, melainkan satu siklus lengkap: mengusulkan solusi, melaksanakan solusi, mengukur hasil, memperbaiki arah.
II. Yang Mengubah Pencarian Google Adalah Satu Soal Aritmatika
Banyak karya representatif Jeff Dean berasal dari awal yang sangat sederhana: hitung dulu urutan besarnya.
Tahun 2001, pencarian Google masih sangat bergantung pada hard disk. Kapasitas hard disk besar, tetapi kecepatan akses lambat. Jeff Dean dan Sanjay Ghemawat membuat perkiraan dan menemukan bahwa seluruh indeks pencarian Google saat itu sudah bisa dimasukkan ke dalam memori semua server.
Sekarang kedengarannya, ini hanyalah peningkatan media penyimpanan. Tetapi saat itu, ini berarti desain sistem yang sangat berbeda.
Jika indeks terutama berada di hard disk, kueri perlu menunggu pencarian mekanis. Cukup dengan memasukkan indeks ke memori, latensi akses bisa turun drastis. Keduanya segera menulis versi baru dan dalam beberapa hari menerapkannya ke lingkungan produksi. Pencarian Google menjadi lebih cepat.
Kisah ini paling mudah dibungkus sebagai kilasan jenius. Namun cara penyampaian Jeff Dean lebih seperti seorang insinyur yang menyatakan akal sehat: kondisi sistem berubah, skema yang sebelumnya tidak layak tiba-tiba menjadi layak, maka harus dihitung ulang.
Banyak inovasi industri terjadi pada momen seperti ini.
Sebuah masalah lama sudah lama ada, orang sudah terbiasa menambal di sekitarnya. Kemudian, harga perangkat keras, kapasitas memori, bandwidth jaringan, atau kemampuan model melampaui titik kritis tertentu, batasan lama hilang. Tetapi kebanyakan orang masih menggunakan arsitektur lama, karena arsitektur lama sudah menjadi akal sehat.
Yang Jeff Dean kuasai adalah mengembalikan akal sehat menjadi hipotesis.
Dia akan bertanya: Mengapa harus begini? Apakah urutan besarnya hari ini masih sama dengan kemarin? Jika langkah termahal diganti, apakah seluruh sistem akan memiliki bentuk yang sama sekali berbeda?
Ini juga sarannya untuk para pengusaha. Jangan hanya melihat di mana solusi yang ada kurang baik, tetapi lihat kembali masalah dari prinsip pertama. Bisakah kinerja ditingkatkan satu urutan besarnya? Bisakah biaya diturunkan dua urutan besarnya? Bisakah tidak lagi mengikuti jalur implementasi default industri?
"Kadang-kadang, Anda hanya perlu menyipitkan mata melihat sebuah masalah, jangan terikat pada solusi hari ini, tetapi pikirkan dari prinsip pertama bagaimana seharusnya menyelesaikannya."
Kalimat ini terdengar tidak misterius. Yang sulit sebenarnya adalah, kebanyakan orang setelah memasuki suatu industri akan cepat belajar semua jawaban default industri itu. Pengalaman membantu orang meningkatkan efisiensi, tetapi juga membuat orang kehilangan kemampuan untuk bertanya kembali.
III. Tiga Menit Suara, Mengapa Melahirkan Sebuah TPU
Tahun 2013, pengenalan suara pembelajaran mendalam Google mulai secara signifikan melampaui sistem lama. Tingkat kesalahan turun setengah, setara dengan kemajuan dua puluh tahun pengenalan suara terkonsentrasi dalam beberapa bulan.
Tim produk tentu antusias. Jeff Dean justru menghitung dulu.
Jika pengenalan suara benar-benar membaik, pengguna akan lebih bersedia menggunakannya. Asumsikan setiap pengguna Google hanya menggunakan tiga menit pengenalan suara per hari, berapa banyak server yang dibutuhkan Google untuk mendukungnya?
Hasilnya tidak optimis. Menurut efisiensi CPU saat itu, Google mungkin perlu menggandakan skala server.
Inilah titik awal TPU.
Itu bukan karena tim penelitian tiba-tiba ingin membuat chip, juga bukan untuk membuktikan Google mampu membuat perangkat keras, melainkan karena sebuah model yang sukses akan menciptakan biaya layanan yang tidak tertanggungkan.
Sejarah ini mengungkapkan pola yang sering diabaikan dalam produk AI: peningkatan efektivitas model tidak selalu mengurangi biaya. Justru sebaliknya, semakin baik efektivitasnya, semakin besar penggunaannya, semakin berat tekanan pada sistem.
Saat pengenalan suara tidak berguna, pengguna jarang memanggilnya. Biaya sistem bukan masalah. Ketika tingkat kesalahan turun drastis, permintaan tiba-tiba dilepaskan, dan kendala komputasi yang sebelumnya tersembunyi di latar belakang akan muncul ke permukaan.
Jalur yang dipilih TPU adalah membuat perangkat keras khusus untuk pola komputasi inti pembelajaran mesin. Ia tidak perlu menjalankan browser, juga tidak perlu menangani semua program umum. Ia terutama ahli dalam aljabar linier densitas presisi rendah. Jenis komputasi ini tepat berada di pusat pembelajaran mesin modern.
TPU generasi pertama akhirnya membawa keuntungan satu urutan besarnya. Menurut Jeff Dean, ia 30 hingga 80 kali lebih hemat energi daripada CPU dan GPU saat itu, dan latensi juga 20 hingga 30 kali lebih rendah.
Ada juga skala desain yang mudah diabaikan di sini.
TPU sangat khusus, tetapi tidak khusus sampai hanya dapat menjalankan satu model tetap tertentu. Tim tahu algoritma pembelajaran mesin akan terus berubah cepat, sehingga mendesain chip sebagai sistem aljabar linier yang agak umum. Ia mengorbankan kemampuan menjalankan Chrome atau Word, tetapi mempertahankan ruang untuk mendukung evolusi algoritma di masa depan.
Ini adalah keseimbangan yang sulit dipegang. Jika tidak cukup khusus, keuntungan tidak signifikan. Jika terlalu khusus, begitu algoritma berubah, perangkat keras akan menjadi usang.
Penilaian Jeff Dean tentang perangkat keras inferensi hari ini memiliki kesamaan jelas dengan TPU dulu. Dia berpikir, peluang penting berikutnya masih dalam spesialisasi, tetapi fokus akan lebih bergeser ke inferensi latensi rendah dan hemat energi.
"Bayangkan, jika latensi dapat ditingkatkan 50 kali, apa yang dapat Anda lakukan."
Saat respons model membutuhkan belasan detik, orang akan menganggapnya sebagai alat konsultasi sesekali. Ketika latensi mendekati instan, ia baru benar-benar dapat memasuki antarmuka interaktif, robot, video real-time, sistem operasi, dan proses pengambilan keputusan berkelanjutan.
Menunggu bukanlah masalah pengalaman kecil. Menunggu mengubah bentuk produk.
IV. Pusat Biaya AI Bukan Komputasi, Melainkan Memindahkan Data
Jika ingin memperbarui versi "angka latensi yang harus diketahui setiap insinyur" untuk insinyur AI tahun 2026, Jeff Dean berpikir, fokus harus bergeser dari pencarian hard disk, cache miss, dan latensi jaringan lintas benua, ke aliran data internal chip.
Insinyur perlu tahu: berapa bandwidth dari memori utama ke memori on-chip, berapa bandwidth dari memori on-chip ke unit perkalian, berapa energi yang dibutuhkan untuk satu perkalian, bagaimana chip saling terhubung, bagaimana efisiensi jaringan akan turun saat 500 chip diperluas menjadi 10.000 chip.
Angka-angka ini tampaknya jauh dari produk, tetapi sebenarnya menentukan produk apa yang dapat berdiri.
Jeff Dean memberikan perbandingan yang sangat mencolok. Menyelesaikan satu perkalian matematika hanya membutuhkan sekitar satu picojoule energi. Memindahkan data dari memori bandwidth tinggi ke unit komputasi, biaya energinya mungkin sekitar 1000 kali lebih tinggi.
Dengan kata lain, tindakan mahal dalam sistem AI hari ini seringkali bukan "menghitung", melainkan "memindahkan hal yang akan dihitung".
Ini juga menjelaskan mengapa pemrosesan batch sangat penting.
Sekumpulan bobot model dipindahkan dari memori ke unit komputasi, jika hanya memproses satu token, biaya pemindahan data seluruhnya dibebankan pada token ini. Jika memproses batch yang lebih besar secara bersamaan, bobot yang sama dapat melayani lebih banyak komputasi, biaya energi dan bandwidth pun menjadi lebih tipis.
Tapi pemrosesan batch dan latensi rendah secara alami bertentangan. Untuk mengumpulkan sekumpulan permintaan, sistem seringkali perlu menunggu. Throughput meningkat, tetapi respons pengguna tunggal mungkin melambat.
Oleh karena itu, banyak masalah yang tampaknya termasuk dalam lapisan model sebenarnya adalah masalah perangkat keras dan sistem. Mengapa pelatihan menggunakan batch besar, mengapa inferensi membutuhkan KV Cache, mengapa model mengejar presisi rendah, mengapa sistem membutuhkan kuantisasi, semua tidak terlepas dari kendala pemindahan data dan energi.
Jeff Dean baru-baru ini lebih fokus pada inferensi, juga karena inferensi sangat sensitif terhadap latensi. Tugas pelatihan berjalan sedikit lebih lambat, seringkali hanya berarti eksperimen berakhir lebih lambat. Tugas inferensi menunggu satu detik ekstra akan langsung memengaruhi pengalaman pengguna dan efisiensi kerja Agent.
Jika sebuah Agent perlu memanggil model secara berurutan 1000 kali, penurunan latensi tunggal 50%, waktu penyelesaian seluruh tugas mungkin memiliki perbedaan besar. Belum lagi Agent di masa depan akan berjalan selama beberapa hari atau minggu.
Oleh karena itu, "masalah energi" AI bukanlah isu lingkungan yang jauh. Ini langsung menentukan apakah model dapat melayani lebih banyak orang dengan murah, menentukan apakah Agent dapat terus berjalan, juga menentukan apakah margin laba startup sehat.
V. Model Hanya Satu Komponen, Konteks adalah Tempat Kerja Agent
Beberapa tahun terakhir, industri AI terbiasa menggunakan jumlah parameter, data pelatihan, dan skor benchmark untuk mengukur kemajuan. Tahun 2026, Jeff Dean lebih menekankan semua yang mengelilingi model.
Sistem AI yang benar-benar berguna, selain model, juga membutuhkan pencarian, alat, memori, informasi historis, lingkungan eksekusi, dan mekanisme umpan balik. Model tahu alat apa yang ada, tahu kapan memanggil alat, tahu bagaimana memecah masalah kompleks menjadi serangkaian tindakan, juga harus dapat membandingkan berbagai skema, menilai mana yang lebih mungkin berhasil.
Inilah alasan mengapa "rekayasa konteks" mulai naik ke panggung utama.
Jeff Dean berkata, informasi yang dilihat model pada fase pelatihan akhirnya "diaduk" ke dalam miliaran hingga triliunan parameter. Mereka seperti sup kental, pengetahuan ada, tetapi belum tentu jelas. Informasi yang benar-benar dimasukkan ke dalam konteks saat ini, bagi model lebih langsung, dan lebih mudah digunakan dengan akurat.
Ini memberikan peluang penting bagi tim kecil.
Melatih model dasar membutuhkan modal, data, dan daya komputasi dalam jumlah besar. Tetapi rekayasa konteks dapat dimulai dari satu API. Pengusaha dapat mengelilingi bisnis spesifik, mengorganisir pengetahuan domain, alur kerja alat, data pelanggan, dan standar evaluasi, membuat model umum berkinerja lebih andal dalam skenario sempit.
Jeff Dean memberikan contohnya sendiri.
Dia dan Sanjay Ghemawat sering mengoptimalkan pustaka dasar internal Google. Struktur data ini mungkin berjalan pada jutaan proses, sedikit perbedaan kinerja akan diperbesar oleh skala. Cara tradisionalnya adalah insinyur pertama menulis microbenchmark, mengukur kinerja saat ini, lalu mengubah kode, menjalankan kembali benchmark, mengamati penggunaan cache dan perubahan kinerja, lalu terus beriterasi.
Keduanya menulis metode kerja ini menjadi keterampilan Agent. Model belajar bagaimana menjalankan benchmark, mengubah kode, membandingkan hasil, lalu terus mengoptimalkan berdasarkan pengukuran.
"Kami hanya memberikan metode yang akan digunakan orang, dalam bentuk yang dapat digunakan model."
Kalimat ini hampir dapat dianggap sebagai definisi sederhana dari rekayasa konteks.
Ini bukanlah trik prompt misterius, juga bukan menumpuk lebih banyak materi latar belakang. Ini menjawab tiga pertanyaan: Langkah apa yang akan diambil ahli untuk melakukan sesuatu, alat apa yang andal dalam sistem, bagaimana hasil harus diverifikasi.
Ketika konten ini distrukturkan, model tidak mendapatkan lebih banyak pengetahuan, melainkan satu set metode yang dapat dieksekusi berulang kali.
Ini juga alasan mengapa "keterampilan (skill)" menjadi aset kunci dalam ekosistem Agent. Sebuah file keterampilan yang baik mungkin mengkapsulasi pengalaman implisit tim selama bertahun-tahun. Ini memberi tahu model apa yang harus dilakukan pertama kali saat menghadapi masalah tertentu, kesalahan apa yang paling umum, alat apa yang dapat dipercaya, hasil apa yang dianggap selesai.
Diferensiasi perusahaan di masa depan kemungkinan tidak hanya ada dalam bobot model, tetapi juga dalam pengalaman yang dikodekan ke dalam alur kerja ini.
VI. Mengapa Agent Mulai Kehilangan Kendali di Langkah ke-30
Hampir semua tim yang benar-benar telah membuat Agent pernah melihat skenario yang sama.
Beberapa langkah pertama lancar. Model dapat membaca kebutuhan, memanggil alat, menulis kode. Sampai langkah ke-30 atau ke-50, ia mulai melupakan tujuan, salah memahami status, mengulangi tindakan, atau semakin jauh ke arah yang salah.
Jeff Dean menyalahkan salah satu penyebabnya pada masalah di luar distribusi.
Model melihat banyak tugas umum selama pelatihan. Selama tugas masih berada di "jalan terang" yang dikenalnya, kinerja biasanya baik. Begitu operasi berkelanjutan membawanya ke status yang tidak dikenalnya, kinerja tiba-tiba turun. Semakin menyimpang dari zona nyaman, kesalahan semakin mudah terakumulasi.
Salah satu solusinya adalah menyediakan keterampilan dan prompt, membatasi model sebanyak mungkin pada jalur yang dikenalnya. Cara lain adalah menggunakan sistem multi-Agent.
Beberapa Agent dapat mencoba skema berbeda, lalu model lain bertindak sebagai evaluator, menilai arah mana yang lebih menjanjikan. Cabang yang gagal dibuang, cabang yang berhasil dilanjutkan. Ini pada dasarnya adalah pencarian pada fase inferensi.
Ini tidak asing dengan cara kerja tim manusia. Menghadapi masalah kompleks, satu orang mengusulkan solusi, orang lain meninjau risiko, orang ketiga menjalankan eksperimen. Tim tidak akan mempertaruhkan semua harapan pada ide pertama, melainkan mengurangi kegagalan titik tunggal melalui pembagian kerja dan umpan balik.
Semakin lama Agent berjalan, desain sistem semakin tidak dapat bergantung pada kebenaran sekali saja.
Agent jarak jauh yang benar-benar andal memerlukan checkpoint, manajemen status, rollback, eksplorasi cabang, evaluasi eksternal, kontrol izin, dan pemulihan dari pengecualian. Ini lebih mirip sistem terdistribusi daripada jendela obrolan yang sangat panjang.
Inilah tepatnya di mana latar belakang Jeff Dean mulai tampak penting kembali.
Salah satu masalah inti yang diselesaikan MapReduce adalah bagaimana membuat banyak mesin yang tidak andal menyelesaikan komputasi yang andal. Sistem Agent hari ini menghadapi kontradiksi serupa: satu panggilan model tidak sempurna, alat juga dapat gagal, tetapi seluruh tugas tetap harus diselesaikan semaksimal mungkin dengan stabil.
Platform Agent yang unggul di masa depan mungkin akan mewarisi banyak pemikiran sistem terdistribusi. Tugas dapat dibagi, hasil dapat diverifikasi, kegagalan dapat dicoba ulang, status dapat dipulihkan, kesalahan lokal tidak boleh menghancurkan seluruh alur.
Ketika Jeff Dean mengatakan Agent akan berjalan selama beberapa hari atau bahkan minggu, dia tidak sedang menggambarkan obrolan yang lebih panjang. Dia sedang menggambarkan infrastruktur komputasi baru.
VII. Bagaimana Dua Tiga Orang Dapat Mengalahkan Google: Mencari Masalah dengan Tingkat Keberhasilan Model Hanya 1%
Dalam konteks Startup School, pertanyaan yang paling mendapat perhatian tentu saja adalah peluang berwirausaha.
Google dapat merancang bersama chip, pusat data, model, dan produk. Model umum seperti Gemini masih dengan cepat memperluas batas kemampuan. Sebuah tim dua tiga orang, bagaimana mungkin menang?
Jawaban Jeff Dean tidak romantis.
Peluang tim kecil biasanya ada di bidang spesifik yang tidak mendapat perhatian penuh dari model umum. Pengusaha dapat menggabungkan antarmuka produk, data kepemilikan, alur kerja, dan keterampilan domain untuk memberikan akurasi dan pengalaman yang lebih baik dalam skenario sempit.
Tapi dia segera memberikan peringatan: model umum sedang dengan cepat menjadi lebih kuat. Fungsi produk yang tampaknya independen hari ini, enam atau dua belas bulan kemudian mungkin langsung dicakup oleh model dasar.
Oleh karena itu, pengusaha perlu menilai apakah keunggulan mereka tahan lama.
Jeff Dean memberikan kriteria penyaringan yang sangat spesifik: cari tugas yang tingkat keberhasilan model umum saat ini mendekati 0% atau 1%, bukan yang sudah bisa dilakukan 20%.
"Jika model benar-benar gagal, ini mungkin pertanda baik. Jika sudah bisa melakukan sebagian, hanya tidak terlalu baik, itu justru belum tentu pertanda baik."
Alasannya sederhana. 20% berarti kemampuan sudah mulai muncul. Lebih banyak data, model lebih besar, dan inferensi lebih panjang kemungkinan akan cepat mendorongnya ke arah dapat digunakan. 0% atau 1% menunjukkan bahwa tugas mungkin kekurangan data kunci, alat khusus, umpan balik domain, atau memerlukan kemampuan yang sulit diperoleh model umum dalam waktu singkat.
Ini dapat disebut "Aturan 1%" Jeff Dean.
Ini tidak menyarankan pengusaha untuk memilih masalah tersulit, melainkan mencari masalah dengan titik buta struktural dalam model umum.
Titik buta ini kurang lebih terbagi menjadi tiga kategori.
Kategori pertama adalah data kepemilikan. Model umum dapat mengorganisir informasi dunia, tetapi belum tentu dapat mengakses semua profil pribadi pengguna tertentu, proses internal perusahaan tertentu, data real-time yang dihasilkan perangkat tertentu. Produk startup begitu mendapatkan data ini dapat membentuk pandangan berbeda dari model dasar.
Kategori kedua adalah evaluasi profesional. Banyak industri bukan kekurangan kemampuan menghasilkan, melainkan kekurangan penilaian yang andal. Medis, material, chip, manufaktur, dan penelitian ilmiah memerlukan verifikator berkualitas tinggi. Siapa yang dapat mendefinisikan "apa yang benar", dia dapat membuat Agent terus mengoptimalkan.
Kategori ketiga adalah model sempit tetapi mendalam. AlphaFold bukanlah model obrolan umum, ia membangun kemampuan yang sangat terspesialisasi untuk masalah struktur protein. Ilmu material, desain chip, dan bidang profesional lainnya juga mungkin memiliki peluang serupa.
Penilaian ini tidak mudah bagi pengusaha. Ini memerlukan tim yang memahami batas kemampuan model, juga memahami masalah di kedalaman industri. Hanya memahami AI, mudah membuat fungsi yang cepat diserap platform. Hanya memahami industri, mungkin meremehkan kecepatan kemajuan model.
Peluang sebenarnya berada di persimpangan keduanya.
VIII. Saat Kode Tidak Lagi Langka, Spesifikasi, Selera, dan Pemilihan Masalah Akan Lebih Mahal
Diana mengajukan sebuah hipotesis: Jika di masa depan setiap pendiri dapat mengelola 50, 100 Agent secara bersamaan, semua kode ditulis oleh Agent, kemampuan apa yang akan menjadi langka?
Jawaban Jeff Dean adalah "selera".
Lebih tepatnya, adalah menilai apa yang seharusnya dilakukan Agent.
Dia berpikir, sebagian besar nilai pekerjaan penelitian bukan terletak pada seberapa indah eksperimen dieksekusi, melainkan pada apakah memilih masalah yang layak diteliti. Sebuah tim dapat menggunakan metode terbaik, menyelesaikan penelitian yang tidak penting. Dapat juga menangkap masalah kunci, begitu diselesaikan, mengubah seluruh bidang.
Setelah Agent menurunkan biaya eksekusi, pentingnya pemilihan masalah akan semakin meningkat.
Dulu, ide kabur akan hilang secara alami karena biaya pengembangan terlalu tinggi. Di masa depan, selama cukup banyak Agent dimobilisasi, banyak ide dapat dengan cepat dibuat menjadi prototipe. Dunia tidak akan otomatis memiliki lebih banyak produk baik, hanya akan memiliki lebih banyak produk.
Spesifikasi juga akan menjadi lebih penting.
Jeff Dean berkata, saat berkolaborasi dengan Agent virtual, semakin jelas tujuannya, semakin tinggi tingkat keberhasilannya. Dulu, kebutuhan kabur diberikan kepada seorang insinyur senior, pihak lain dapat bertanya, juga dapat melengkapi maksud dengan mengandalkan latar belakang bersama. Agent meskipun juga dapat bertanya, lebih mudah menebak sendiri ketika kekurangan konteks.
Tugas dengan tingkat keberhasilan tinggi tipikal adalah memigrasi perangkat lunak dari satu bahasa pemrograman ke bahasa lain. Alasannya bukan karena migrasi sederhana, melainkan spesifikasinya sangat lengkap. Kode lama mendefinisikan perilaku, pengujian mendefinisikan batas, Agent dapat memeriksa satu per satu sampai versi baru menunjukkan kinerja yang sama.
"Sekarang Agent dapat menulis perangkat lunak untuk Anda, tetapi menjelaskan apa yang sebenarnya Anda inginkan justru menjadi lebih penting."
Kalimat ini memiliki implikasi langsung pada organisasi yang disebut asli AI.
Manajer masa depan tidak hanya membagi tugas, tetapi harus menulis tujuan dan standar penerimaan yang lebih jelas. Dokumen desain tidak lagi hanya bahan komunikasi tim, tetapi juga akan menjadi input eksekusi mesin. Pengujian, metrik, batasan, dan contoh akan bergeser dari akhir alur pengembangan ke tahap definisi tugas.
Untuk bagaimana melatih "selera", metode yang diberikan Jeff Dean sangat pragmatis.
Tuliskan beberapa hal yang menurut Anda akan menjadi penting dalam 12 bulan ke depan. Anda tidak perlu melakukan semuanya. 12 bulan kemudian periksa kembali, penilaian mana yang terwujud, mana yang dilakukan orang lain, mana yang tidak ada kemajuan. Dengan terus mengakumulasi sampel prediksi, orang akan secara bertahap mengkalibrasi penilaian mereka.
Selera tidak sepenuhnya bakat. Itu juga dapat dilatih melalui tinjauan ulang.
IX. Eksperimen Pikiran yang Baik, Pertama-tama Singkirkan Prasyarat Paling Kuat dalam Industri
Di paruh kedua wawancara, Jeff Dean berbagi eksperimen pikiran yang cukup gila.
60 tahun terakhir, industri chip terus mengejar transistor yang lebih kecil, lebih stabil, dengan tingkat kesalahan lebih rendah. Orang berasumsi, chip yang diproduksi dengan desain yang sama harus sedapat mungkin identik, semakin sedikit bit flip semakin baik.
Tetapi dalam sistem terdistribusi besar, insinyur sudah lama menerima bahwa komponen tunggal akan gagal. Hard disk akan rusak, mesin akan mati, sakelar akan bermasalah. Keandalan sistem tidak berasal dari setiap bagian yang tidak pernah salah, melainkan dari replikasi, pemeriksaan, redundansi, dan pemulihan.
Maka Jeff Dean bertanya: Jika transistor setiap hari akan membuat 20 kesalahan, bukan beberapa juta tahun sekali, bagaimana?
Ini bukan rencana produk nyata. Dia hanya mencoba menyingkirkan prasyarat yang sudah biasa. Mungkin transistor yang sangat tidak andal dapat dibuat dengan cara yang sama sekali berbeda, sementara sistem menjamin hasil melalui multi-jalur dan redundansi tingkat tinggi.
Kebanyakan eksperimen pikiran akhirnya tidak menjadi produk. Banyak praktik industri berlangsung puluhan tahun, memang memiliki alasan yang cukup. Tapi Jeff Dean berpikir, tetap harus secara berkala memeriksa kembali alasan ini.
MapReduce berasal dari proses serupa.
Sistem crawler dan indeks Google awal berisi banyak kode paralel manual, checkpoint, dan logika pemulihan kegagalan. Komputasi bisnis yang sebenarnya seringkali sederhana, seperti membaca semua halaman web, menilai bahasa halaman. Namun banyak kode sistem menenggelamkan maksud sederhana itu.
Jeff Dean dan Sanjay Ghemawat mendapat inspirasi dari pemrograman fungsional. Mereka mengabstraksikan banyak tugas menjadi Map dan Reduce, menurunkan paralelisasi, penjadwalan, toleransi kesalahan, dan percobaan ulang ke dalam kerangka kerja terpadu. Pengembang bisnis hanya perlu mengekspresikan komputasi itu sendiri.
Desain ini tidak membuat mesin menjadi tidak salah. Ini membuat kesalahan dapat diserap oleh sistem.
Rekayasa Agent hari ini mungkin juga berada pada tahap serupa. Banyak tim masih secara manual mengatur prompt, logika percobaan ulang, dan pemanggilan alat untuk setiap tugas. Di masa depan, apakah akan muncul abstraksi yang sesederhana MapReduce, membuat dekomposisi, verifikasi, pemulihan, dan eksplorasi paralel Agent jarak jauh menjadi kemampuan dasar?
Ini mungkin justru peluang perusahaan infrastruktur berikutnya.
X. AI Mulai Membangun AI yang Lebih Baik, Metode Ilmiah Dikompresi Menjadi Siklus Berkecepatan Tinggi
Arah yang paling membuat Jeff Dean bersemangat untuk masa depan adalah mengotomatisasi metode ilmiah itu sendiri.
Alur penelitian ilmiah tradisional adalah mengajukan hipotesis, merancang eksperimen, menjalankan eksperimen, menganalisis hasil, lalu menghasilkan hipotesis berikutnya. Kecepatan siklus ini dalam jangka panjang dibatasi oleh biaya eksperimen dan keterlambatan verifikasi.
AI dapat mengubah dua bagian.
Satu bagian adalah secara otomatis mengajukan dan menjalankan lebih banyak eksperimen. Bagian lain adalah mengubah verifikator mahal menjadi model perkiraan murah.
Jeff Dean memberikan contoh kimia kuantum. Peneliti ingin menilai sifat konfigurasi molekul tertentu, dapat menjalankan simulasi teori fungsional densitas. Satu simulasi mungkin memerlukan semalaman. Peneliti Google menggunakan banyak input dan output simulasi untuk melatih sebuah aproksimator jaringan saraf. Ia mendekati akurasi simulator asli, tetapi sekitar 300.000 kali lebih cepat.
Setelah kecepatan verifikasi berubah, bentuk masalah ilmiah juga akan berubah.
Dulu menyaring 10 juta kandidat skema mungkin merupakan proyek yang membutuhkan daya komputasi berbulan-bulan. Sekarang, peneliti makan siang, sistem sudah dapat menyelesaikan penyaringan awal. Eksperimen tidak lagi menjadi taruhan tunggal yang berharga, melainkan menjadi pencarian frekuensi tinggi.
Ini juga logika umum di balik sistem seperti AlphaEvolve, AlphaChip. Model mengusulkan skema, alat menjalankan skema, evaluator menyaring hasil, hasil terbaik masuk ke babak berikutnya. Selama siklus cukup cepat, sistem dapat terus mengeksplorasi dalam ruang solusi yang sangat besar.
Pembelajaran mesin itu sendiri juga akan menjadi objek ilmu pengetahuan otomatis ini.
Hari ini, tim penelitian besar biasanya terdiri dari orang yang mengusulkan arsitektur atau metode pelatihan baru, pertama menjalankan eksperimen skala kecil, lalu memilih skema yang menjanjikan untuk diperbesar. Jeff Dean berpikir, tidak ada hambatan mendasar yang mencegah model mengambil alih semakin banyak bagian di dalamnya. Orang memberikan arahan tingkat tinggi, sistem secara otomatis mengeksplorasi struktur, resep data, dan strategi pelatihan, lalu menggabungkan eksperimen sukses menjadi model baru.
Indikator efisiensi penelitian di masa depan mungkin bukan hanya operasi floating point per detik, melainkan "berapa banyak penemuan efektif yang dihasilkan per unit daya komputasi".
Daya komputasi tentu penting. Bagaimana mengubah daya komputasi menjadi penemuan, lebih penting.
XI. Makalah Distilasi yang Ditolak NeurIPS, dan Bagaimana Melihat Kegagalan
Tahun 2014, Jeff Dean, Geoff Hinton, dan Oriol Vinyals mengirimkan sebuah makalah tentang distilasi pengetahuan. Hari ini, distilasi pengetahuan sudah menjadi metode dasar dalam kompresi model dan transfer kemampuan. Model besar sebagai guru, mentransfer kemampuan ke model siswa yang lebih kecil, lebih cepat, lebih murah.
Makalah yang kemudian memiliki pengaruh mendalam ini, pada tahun itu ditolak oleh NeurIPS.
Seorang reviewer menganggapnya "tidak mungkin berdampak signifikan". Pembaca yang tertarik dapat mengunjungi "Tertolak ≠ Gagal! Makalah-Makalah Berpengaruh Tinggi Ini Juga Pernah Ditolak Konferensi Top".
Jeff Dean menceritakan pengalaman ini tanpa kemarahan. Dia berkata, reviewer mungkin tidak memahami masalah nyata yang dihadapi layanan AI skala besar. Bagi Google, mengubah model besar yang mahal menjadi model kecil yang dapat melayani ratusan juta pengguna jelas sangat penting. Bagi reviewer yang hanya fokus pada kebaruan teoretis, itu belum tentu tampak cukup "dasar".
Setelah makalah ditolak, tim mempostingnya di arXiv. Industri tetap membacanya, dan tetap mulai menggunakannya.
Hari ini, model Flash Gemini dapat mempertahankan kemampuan kuat dengan ukuran lebih kecil dan latensi lebih rendah, distilasi adalah salah satu metode penting di dalamnya.
Kisah ini bukan hanya bahan motivasi "bertahan akan sukses". Ini menunjukkan sistem evaluasi selalu memiliki titik buta. Nilai sebuah skema terkadang hanya dapat langsung dilihat oleh orang yang benar-benar mengalami kemacetan sistem itu.
Bagi pengusaha, ini juga penting.
Penolakan pasar, investor, dan rekan sejawat mungkin berarti arah salah, mungkin juga hanya karena pihak lain tidak berada di lokasi masalah yang sama. Bedanya adalah, apakah tim memiliki bukti yang cukup spesifik, tahu mengapa masalah ini penting, mengapa sekarang dapat diselesaikan.
Jeff Dean tidak mendorong orang untuk bertahan secara membabi buta. Dia mendorong: pahami masalah, terus verifikasi, lalu jangan jadikan satu penilaian sebagai keputusan akhir dunia.
XII. Jeff Dean Muda Hari Ini Akan Melakukan Apa
Saat wawancara mendekati akhir, Diana mengajukan pertanyaan dengan imajinasi.
Jika Jeff Dean muda tahun 1999 yang bergabung dengan Google dipindahkan ke tahun 2026, apakah dia akan bergabung dengan laboratorium terdepan, atau mendirikan perusahaan dengan dua tiga teman?
Jeff Dean tidak memberikan jawaban standar.
Organisasi besar memiliki struktur, platform, dan banyak kolega hebat. Seseorang di dalamnya dapat mengakses pengetahuan yang tidak dipahaminya, juga dapat memengaruhi pengguna global dengan produk matang. Tim kecil lebih bebas, tetapi juga menanggung risiko lebih besar. Pendiri harus benar-benar percaya pada suatu masalah, bersedia menghadapi ketidakpastian selama beberapa tahun.
Kriteria penilaian yang dia berikan, lebih mendasar daripada "bergabung dengan perusahaan besar atau berwirausaha".
"Jika saya menyelesaikan masalah ini, dan hasil terbaik benar-benar terjadi, apakah dunia akan menjadi lebih baik secara jelas? Atau semua orang hanya akan berkata, wah, keren, lalu begitu saja?"
Jika jawabannya hanya "keren", mungkin tidak layak menginvestasikan waktu paling berharga.
Dia juga menekankan pentingnya teman sejawat. Carilah orang dengan kemampuan saling melengkapi, juga carilah orang dengan ego rendah, mau berkolaborasi, menyenangkan untuk diajak bersama. Masalah yang benar-benar sulit seringkali membutuhkan kerja sama jangka panjang. Anggota tim sebaiknya masing-masing memiliki alat yang tidak dimiliki orang lain, dan dalam kerja sama terus memperluas "sabuk alat" mereka sendiri.
Ucapan ini memiliki kesederhanaan insinyur kuno.
Industri AI suka membicarakan pertumbuhan eksponensial, kecerdasan super, dan pendanaan besar. Jeff Dean akhirnya tetap menempatkan pilihan pada tiga hal kecil: lakukan masalah yang benar-benar dipedulikan, bekerja dengan orang yang disukai, berusaha membuat dunia menjadi lebih baik.
Kesimpulan: Hal Paling Langka di Era AI, Tetap adalah Melihat Masalah dengan Jelas
Dalam karier Jeff Dean, ada banyak legenda yang berulang kali diceritakan.
Dia dan Sanjay Ghemawat dalam beberapa hari menulis ulang sistem pencarian, membuat indeks masuk ke memori. Satu perkiraan tentang tiga menit suara, mendorong Google membuat TPU. MapReduce menyembunyikan paralelisasi skala besar dan toleransi kesalahan ke dalam abstraksi terpadu. Distilasi pengetahuan dari makalah yang ditolak, menjadi teknologi dasar industri.
Kisah-kisah ini mudah membuat orang membayangkannya sebagai jenius yang terus mendapatkan inspirasi.
Tapi dari wawancara ini, metode sebenarnya sangat konsisten.
Hitung dulu urutan besarnya. Kemudian temukan kemacetan sebenarnya. Lalu pertanyakan asumsi default, bangun abstraksi yang lebih sederhana. Terakhir, gunakan pengukuran dan umpan balik untuk mendorong sistem terus beriterasi.
Industri AI hari ini sedang mengalami pergantian serupa.
Model sudah cukup kuat, cukup kuat untuk mengambil alih tugas tingkat insinyur pemula. Selanjutnya, yang menentukan produktivitas nyata bukan hanya kecerdasan model, tetapi biaya inferensi, organisasi konteks, kualitas alat, kecepatan verifikasi, dan keandalan operasi jarak jauh.
Agent akan semakin mirip anggota tim. Tapi mereka memerlukan spesifikasi jelas, memerlukan keterampilan, memerlukan checkpoint, memerlukan evaluator, juga membutuhkan sistem yang dapat menampung kegagalan.
Peluang perusahaan startup juga tidak akan hilang, hanya akan menjadi lebih ketat. Sebaiknya tidak melakukan hal yang sudah dapat diselesaikan model umum 20%, melainkan mencari masalah dengan tingkat keberhasilan masih mendekati 0% atau 1%. Di sana mungkin tersembunyi data kepemilikan, evaluator profesional, model bidang sempit, atau abstraksi sistem yang sama sekali baru.
Saat pembuatan kode semakin murah, yang benar-benar mahal adalah masalah itu sendiri.
Apa yang layak dilakukan? Batasan apa yang sudah usang? Perubahan apa yang baru saja melampaui titik kritis? Sistem apa jika 50 kali lebih cepat, akan menjadi produk yang sama sekali berbeda?
Jeff Dean tidak memberikan daftar peluang untuk 6000 pengusaha. Dia memberikan cara berpikir yang lebih tahan lama.
Jangan terburu-buru mengejar jawaban terpanas.
Hitung dulu masalahnya sekali.
Tautan Referensi
https://x.com/ycombinator/status/2082938685071491219
https://www.ycrootaccess.com/p/jeff-dean-the-1-rule-for-building
Artikel ini berasal dari akun WeChat resmi "Jiqizhixin" (ID: almosthuman2014), penulis: Panda
