"Perlombaan AI bukan hanya perlombaan kekuatan komputasi, tetapi juga perlombaan penyimpanan." Demikian penilaian yang diberikan oleh CEO Micron Technology, Sanjay Mehrotra.
Dalam program podcast A Bit Personal pada 5 Juni, Sanjay menerima wawancara mendalam langka yang direkam di rumahnya. Selain wawasan industri yang biasa, perbincangan yang bernuansa pribadi ini juga membuatnya secara sukarela membahas pengalaman tumbuh kembang, pengaruh keluarga, dan pilihan karir.
AI masih berada pada tahap yang sangat awal, ini adalah salah satu penilaian inti Sanjay.
Menurutnya, dengan model besar, AI Agen, dan aplikasi inferensi yang terus berkembang, AI membutuhkan tidak hanya kekuatan komputasi yang lebih kuat, tetapi juga "kemampuan mengingat" yang lebih kuat.
Jendela konteks yang lebih panjang, skala model yang lebih besar, serta konsumsi Token yang terus bertambah, semua mendorong kebutuhan penyimpanan terus meningkat.
Inti dari AI adalah data, dan data tidak dapat dipisahkan dari penyimpanan, sehingga penyimpanan akan menjadi salah satu infrastruktur terpenting dalam proses peningkatan kemampuan AI.
Sementara itu, sisi pasokan tidak benar-benar siap. Sanjay mencatat, industri penyimpanan saat ini menghadapi bukan ketidakseimbangan pasokan dan permintaan jangka pendek, melainkan kendala pasokan struktural. Produk penyimpanan mutakhir membutuhkan lebih banyak wafer, dan membangun pabrik wafer baru seringkali membutuhkan waktu tiga hingga empat tahun, dengan ramp-up kapasitas selanjutnya yang juga panjang.
Yang lebih penting, seiring kemajuan node teknologi, peningkatan output kapasitas penyimpanan per wafer sedang menurun. Dia menilai, ketatnya pasokan industri diperkirakan akan berlanjut hingga setelah 2026.
Dalam menjelaskan mengapa teknologi penyimpanan lama diabaikan, Sanjay dengan terus terang mengatakan: "Orang sering salah paham tentang memori, tidak tahu betapa sulitnya membuat memori." Dari fisika, kimia, hingga ilmu material, hingga memastikan setiap satu dari triliunan bit berperilaku benar dalam produksi massal, kesulitan teknologi yang terkandung di dalamnya sangat tinggi. Dia percaya, perlombaan AI juga merupakan perlombaan penyimpanan, dan hal ini telah lama diabaikan oleh pasar.
Dan dari perspektif jangka panjang yang lebih luas, Sanjay percaya bahwa logika dasar kesuksesan perusahaan dan individu tidak berubah. Baik dalam mendorong rencana investasi $200 miliar, maupun dalam memimpin Micron melewati siklus industri penyimpanan, kata kunci yang dia tekankan berulang kali adalah ketahanan, disiplin, dan jangka panjang. Investasi harus dibangun di atas data dan fundamental, pemimpin harus dapat melihat tren industri, dan juga memahami detail teknologi secara mendalam.
Seperti yang dia pelajari dari ayahnya, kesuksesan membutuhkan ketahanan untuk bertahan sampai akhir, serta kemampuan untuk menangkap peluang di momen kritis.
Inti pandangan dari wawancara CEO Micron Technology, Sanjay Mehrotra, adalah sebagai berikut:
Penyimpanan adalah hambatan dasar AI yang diremehkan, tingkat kesulitan manufaktur dan nilai strategisnya jauh melampaui pemahaman pasar. AI sedang berkembang dari "perlombaan kekuatan komputasi" menjadi "perlombaan penyimpanan". Meluasnya skala model, memanjangnya jendela konteks, dan meledaknya konsumsi Token, membuat AI tidak hanya bergantung pada kekuatan komputasi yang lebih kuat, tetapi juga pada "kemampuan mengingat" yang lebih kuat. Tanpa kapasitas dan bandwidth penyimpanan yang memadai, kekuatan komputasi sekuat apa pun tidak dapat dilepaskan.
Kendala struktural di sisi pasokan menentukan bahwa kekurangan penyimpanan bukanlah fluktuasi jangka pendek, melainkan kondisi jangka panjang. Produk penyimpanan mutakhir mengkonsumsi lebih banyak wafer, sementara membangun pabrik wafer baru membutuhkan tiga hingga empat tahun, dengan ramp-up kapasitas yang juga panjang. Sementara itu, kemajuan node teknologi menyebabkan peningkatan output per wafer menurun. Dalam ketidakseimbangan pasokan dan permintaan, ketatnya pasokan setidaknya akan berlanjut hingga setelah 2026.
Orang selalu meremehkan kesulitan membuat memori, tetapi inilah justru parit pertahanan terdalam industri. Dari fisika, kimia hingga ilmu material, dari desain hingga memastikan tidak ada satu pun dari triliunan bit yang salah dalam produksi massal, kompleksitas teknikalnya sangat tinggi. Tingkat kesulitan manufaktur chip penyimpanan tidak kalah dengan bidang semikonduktor mana pun, bahkan dalam banyak hal lebih sulit.
Kesuksesan datang dari ketahanan, disiplin, dan jangka panjang, bukan dari penilaian tren jangka pendek. Baik dalam mendorong investasi $200 miliar, maupun melewati fluktuasi siklus industri penyimpanan, seorang pemimpin perlu melihat tren industri, dan juga memahami detail teknologi secara mendalam. Seperti ayahnya yang tidak menyerah meski visa ditolak tiga kali, kesuksesan membutuhkan ketahanan untuk bertahan sampai akhir, serta kemampuan untuk menangkap peluang di momen kritis.
Penyimpanan Sedang Menjadi Tulang Punggung AI
Ketika membicarakan posisi historis industri penyimpanan saat ini, Sanjay dengan terus terang mengatakan: "Saya sudah masuk industri ini lebih dari 45 tahun. Ini adalah momen paling menarik yang pernah saya alami di seluruh industri."
Dia lebih lanjut menjelaskan makna strategis penyimpanan bagi AI:
"Tanpa semikonduktor, tidak ada AI. Dan penyimpanan adalah tulang punggung AI, fondasi kunci yang mendukung evolusi berkelanjutan AI."
Menurutnya, peran penyimpanan tidak lagi hanya sebagai komponen dalam perangkat, melainkan langsung menanggung "kecerdasan" itu sendiri: "Hari ini, penyimpanan tidak hanya membuat perangkat berjalan, ia sedang menopang 'kecerdasan' itu sendiri dalam AI, membantu kecerdasan buatan menjadi lebih pintar."
Dengan meluasnya skala model, ledakan kebutuhan inferensi, dan pesatnya kebangkitan AI Agen (Agent AI), logika pertumbuhan kebutuhan penyimpanan dalam pandangan Sanjay sangat jelas: "Seiring model menjadi semakin besar, seiring kebutuhan inferensi terus tumbuh, AI bergerak dari pelatihan ke inferensi, dari pusat data ke tepi, kebutuhan akan penyimpanan hanya akan semakin tinggi — ia membutuhkan kapasitas yang lebih besar, kinerja yang lebih tinggi, konsumsi daya yang lebih rendah."
Dia juga secara khusus menyebutkan ketergantungan ekonomi token pada penyimpanan: "Ketika Anda melihat ekonomi token, ia juga sangat bergantung pada penyimpanan. Seiring pertumbuhan penggunaan token, jendela konteks menjadi lebih panjang, kebutuhan cache KV meningkat, model itu sendiri juga semakin besar, AI membutuhkan bukan hanya kemampuan komputasi, tetapi juga kemampuan 'mengingat'."
Ketatnya Pasokan Akan Berlanjut Hingga Setelah 2026
Untuk masalah pasokan dan permintaan yang paling menjadi perhatian pasar, Sanjay memberikan penilaian yang jelas: Ketatnya pasokan seluruh industri akan berlanjut hingga setelah 2026, dan akan berlangsung cukup lama.
Dia menjelaskan kendala struktural di sisi pasokan: "Membangun pabrik wafer membutuhkan waktu yang sangat lama. Dari groundbreaking hingga wafer pertama dihasilkan, biasanya membutuhkan tiga hingga empat tahun. Setelah itu masih harus terus ramp-up, secara bertahap meningkatkan output."
Yang lebih krusial, meningkatnya kesulitan teknologi sedang menekan efisiensi output per wafer: "Peningkatan efisiensi produksi yang dibawa oleh setiap generasi teknologi baru, yaitu peningkatan bit yang dapat dibawa oleh setiap wafer, sedang berkurang."
Sanjay mengungkapkan, Micron sudah memprediksi tren ini sejak sekitar tahun 2021.
Saat itu, pangsa High Bandwidth Memory (HBM) dalam industri penyimpanan keseluruhan masih kurang dari 1%, tetapi mereka sudah melihat bahwa beberapa generasi HBM mendatang akan mengkonsumsi banyak wafer silikon, dan akan berdampak besar pada pola pasokan: "Jadi sejak tahun 2021, kami sudah mengatakan, industri membutuhkan pabrik wafer baru yang dibangun dari nol. Hanya saja tidak ada yang benar-benar memprediksi AI akan meledak dengan kecepatan seperti ini."
Untuk kekhawatiran pasar tentang masalah "kelebihan pasokan kembali setelah pasokan menyusul", Sanjay tidak langsung mengesampingkannya, tetapi dia menekankan bahwa AI saat ini masih dalam tahap awal, dan pertumbuhan struktural jangka panjang di sisi permintaan adalah dasar keyakinannya: "Dari sisi permintaan, semua ini masih berada pada tahap yang sangat, sangat awal. Kami percaya, masih ada jalan panjang yang harus ditempuh AI."
Logika Dasar Investasi $200 Miliar: Disiplin
Pengumuman Micron untuk menginvestasikan $200 miliar di dalam negeri AS untuk membangun sistem manufaktur penyimpanan adalah salah satu keputusan modal paling menarik dalam industri semikonduktor dalam beberapa tahun terakhir. Untuk logika dasar keputusan ini, Sanjay berulang kali menekankan kata "disiplin":
"Investasi sama sekali tidak dibuat secara membabi buta, harus disiplin dan dibangun di atas data. Anda harus memahami teknologi, memahami aplikasi, memahami ke mana arah aplikasi ini. Anda juga harus bekerja sama erat dengan pelanggan, memahami ke mana tujuan mereka di masa depan, dan peran apa yang dimainkan Micron di dalamnya."
Dia lebih lanjut menjelaskan kedisiplinan di tingkat eksekusi: "Hari ini, kami sedang menginvestasikan pembangunan sejumlah pabrik wafer baru dari nol. Langkah pertama, adalah membangun gedung dan infrastrukturnya terlebih dahulu. Setelah gedung-gedung ini selesai dibangun, saat kami memasang peralatan dan membentuk kapasitas aktual, kami akan tetap menjaga disiplin — terus mengevaluasi prediksi permintaan, mengevaluasi berapa banyak pertumbuhan yang dapat dibawa oleh kemajuan teknologi, mengevaluasi bagaimana perubahan permintaan produk."
Ketika ditanya apakah pernah ada keraguan diri, jawaban Sanjay singkat:
"Kami tidak ragu. Kami benar-benar percaya pada peluang penyimpanan, hari ini, hal ini sudah sangat jelas. Tentu saja, dalam bisnis kami, yang selalu penting adalah menjaga kemampuan beradaptasi dan kelincahan."
