OpenAI Kehilangan 'Dewa Kernel CUDA'-nya

marsbitDipublikasikan tanggal 2026-08-17Terakhir diperbarui pada 2026-08-17

Abstrak

Scott Gray, insinyur OpenAI yang dijuluki "Dewa Kernel CUDA" dan dikenal sebagai salah satu programmer GPU terhebat, telah meninggalkan perusahaan. Berdasarkan perubahan bio di akun media sosialnya, ia menyatakan sekarang independen dan sedang menjelajahi metode AI yang terinspirasi ilmu saraf. Gray bergabung dengan OpenAI pada Agustus 2016, tepat satu dekade lalu. Selama di sana, kontribusinya sangat besar pada inti kinerja AI. Metodologinya menolak batas performa yang diberikan lapisan abstraksi perangkat lunak. Di Nervana Systems, dia menciptakan maxas untuk menulis kode mesin SASS secara langsung, menghasilkan kernel SGEMM yang mengalahkan cuBLAS resmi NVIDIA. Di OpenAI, karyanya meliputi pengembangan kernel GPU *block-sparse* yang menjadi fondasi untuk perhatian *sparse*, dan kontribusi pada model inti seperti GPT-3, DALL·E, serta laporan teknis OpenAI Five. Kernel perhatiannya yang legendaris, dijuluki "the Bob kernel," dijalankan triliunan kali setiap hari di ratusan ribu GPU. Kepergiannya adalah bagian dari tren eksodus talenta senior dari OpenAI sepanjang 2026. Setidaknya 12 pemimpin senior dari berbagai divisi—operasi, komersial, produk, penelitian, keamanan, etika, dan perangkat keras—telah keluar, termasuk mantan COO Brad Lightcap dan kepala etika Chloé Bakalar. Meski sistem rekayasa yang sudah mapan di OpenAI tidak akan langsung berhenti, kepergian seorang insinyur yang mendorong batas kinerja perangkat keras dan memahami model inti secara mendalam merupakan p...

Hari ini, sebuah postingan X dari dua hari lalu mulai viral, isinya hanya 5 kata: Scott Gray telah meninggalkan OpenAI.

Insinyur terkenal yang dijuluki "Dewa Kernel CUDA, Programmer GPU Terkuat di Dunia" ini menjadi talenta berat lainnya yang hilang dari OpenAI tahun ini. Meski dia sendiri belum mengonfirmasi melalui X, dan halaman LinkedIn-nya juga belum diperbarui, biodata pribadinya di X dan Bluesky telah diubah dari "GPU Geek at @OpenAI" menjadi "Former GPU geek at @OpenAI". Selain itu, dia juga menambahkan kalimat di depannya: "Currently independent, exploring some neuroscience-inspired AI approaches."

Seorang insinyur yang telah bekerja di OpenAI selama sepuluh tahun, mengumumkan kepergiannya hanya dengan satu baris biodata.

Sungguh kebetulan. Tepat sepuluh tahun yang lalu, pada 16 Agustus, OpenAI merilis sebuah blog berjudul "Team update", memperkenalkan lima anggota penuh waktu yang bergabung bulan itu. Daftarnya mencakup Dario Amodei, Filip Wolski, Jack Clark, Scott Gray, dan Zain Shah.

https://openai.com/index/team-update-august/

Sepuluh tahun kemudian hari ini, Dario adalah CEO Anthropic, Jack Clark menangani kebijakan di Anthropic, dan Scott Gray menandai OpenAI sebagai "former".

Hingga saat ini, OpenAI belum mengeluarkan pernyataan apa pun mengenai kepergian Scott Gray, dan Gray sendiri juga belum memposting penjelasan rinci. Sumber umum dari semua laporan saat ini adalah perubahan biodata akun media sosialnya, serta sebuah postingan pengungkapan yang kemudian menyebar di X. Tanggal pasti kepergian, tujuan berikutnya, apakah sudah memiliki perusahaan baru, semuanya belum ada informasi publik.

Patut diperhatikan detail lain di akunnya. Postingan X orisinal terakhir Gray terhenti pada 20 November 2023, isinya hanya satu kalimat: "OpenAI is nothing without its people." Itu adalah tiga hari setelah Sam Altman diberhentikan oleh dewan direksi, lebih dari tujuh ratus karyawan menandatangani petisi meminta dewan mengundurkan diri. Kalimat itu saat itu berulang kali disalin-tempel di dalam OpenAI, bisa dibilang merupakan bentuk kesetiaan kolektif. Setelah itu, meskipun dia membalas beberapa postingan (balasan juga telah berhenti setelah Februari 2025), tetapi tidak pernah memperbarui postingan orisinal lagi.

Profil Scott Gray

Kami sebelumnya memiliki artikel khusus yang memperkenalkan Scott Gray, lihat "Dewa Kernel CUDA, Programmer GPU Terkuat di Dunia? Siapa Sang Master di Balik Layar OpenAI Ini". Di sini kami rangkum kembali secara singkat.

Namanya mulai dikenal sejak masa Nervana Systems. Saat itu, sebagian besar pengembang bergantung pada CUDA C/C++ dan pustaka resmi NVIDIA seperti cuBLAS, cuDNN. Banyak lapisan abstraksi perangkat lunak menyembunyikan detail perangkat keras, sekaligus membentuk plafon kinerja. Penilaian Gray adalah bahwa lapisan abstraksi ini harus dilewati. Maka dia menulis maxas, sebuah assembler untuk arsitektur Maxwell, yang memungkinkan pengembang menulis kode mesin SASS secara langsung, mengalokasikan register secara manual, mengelola latensi memori, mengontrol pipeline instruksi.

Untuk membuktikan bahwa jalur ini dapat ditempuh, dia menulis kernel SGEMM dengan tangan menggunakan maxas. Pada GPU GM204, kernel ini mencapai 98% dari puncak teoretis perangkat keras, dan 4.8% lebih cepat daripada cuBLAS resmi NVIDIA yang juga ditulis tangan oleh para ahli dan tertutup sumbernya. MaxDNN berikutnya memperluas metodologi yang sama ke konvolusi: pada semua lapisan konvolusi AlexNet, efisiensi komputasi stabil mencapai 93% hingga 95%, sementara efisiensi cuDNN pada periode yang sama berfluktuasi besar antara 32% dan 57%.

Ini adalah warna dasar metodologi semua karyanya selanjutnya: tidak menerima batas kinerja yang diberikan oleh lapisan abstraksi.

Dalam pembaruan tim OpenAI pada Agustus 2016 itu, pengenalan resmi tentangnya hanya dua kalimat penilaian teknis, intinya adalah dia sebelumnya di Nervana berfokus pada pengoptimalan kinerja jaringan dalam di GPU, dan pengoptimalan tingkat assembly-nya pada aljabar linear padat dan konvolusi "hingga kini masih yang tercepat". Bagian yang sama juga menyebutkan, saat tidak menulis kode, dia biasanya membaca penelitian terbaru di bidang neurosains dan terkait.

Tampaknya, arah barunya sepuluh tahun kemudian, "metode AI yang terinspirasi neurosains", sebenarnya adalah kembali ke minat yang tidak pernah berubah itu.

Setelah bergabung dengan OpenAI, perannya berubah dari "pengoptimal" menjadi "pemberi kemampuan". Pada 2017, bersama Alec Radford dan Durk Kingma, dia merilis kernel GPU sparse berbasis blok. Berbeda dengan sparse tidak terstruktur yang menghapus bobot individual, sparse berbasis blok memotong matriks bobot menjadi blok ukuran tetap dan mengatur seluruh blok menjadi nol. Kernel khusus sepenuhnya melewati blok nol saat komputasi, kecepatannya bisa beberapa kali lipat lebih cepat daripada cuBLAS yang memproses matriks padat atau cuSPARSE yang memproses matriks sparse umum. Set kernel ini saat itu di-open-source, secara langsung memicu serangkaian pekerjaan perhatian sparse berikutnya.

Diagram skematik kernel sparse berbasis blok OpenAI, https://cdn.openai.com/blocksparse/blocksparsepaper.pdf

Mengikuti jalur ini ke bawah, pada 2019 "Generating Long Sequences with Sparse Transformers" ditulis oleh Rewon Child, Scott Gray, Alec Radford, dan Ilya Sutskever — mengurangi overhead waktu dan memori perhatian dari O(n²) menjadi O(n√n). Makalah tersebut secara eksplisit mencantumkan "kernel pelatihan perhatian cepat" sebagai salah satu dari tiga kontribusi.

Selanjutnya, namanya muncul dalam daftar penulis GPT-3, daftar penulis "Scaling Laws for Neural Language Models", daftar penulis DALL·E, dan laporan teknis OpenAI Five.

Selama periode ini, dia juga mendapatkan julukan "Dewa Kernel CUDA". Itu terjadi pada September 2025, mantan karyawan OpenAI Rohan Pandey memposting di X bahwa di dalam perusahaan hanya ada sekitar satu orang yang bertanggung jawab atas kernel CUDA sisi inferensi, rekan kerjanya menyebut kernel perhatian yang dia tulis sebagai "the Bob kernel". Kernel ini dijalankan triliunan kali setiap hari di ratusan ribu GPU. Setelah postingan itu viral, komentar umumnya menduga "Bob" adalah Scott Gray.

Postingan terkait juga menyebutkan: di seluruh dunia, orang yang dapat menulis kernel CUDA berkinerja tinggi untuk proses pelatihan (terutama backpropagation), mungkin kurang dari seratus orang. Karena keahlian ini membutuhkan penguasaan teori komputasi paralel, arsitektur perangkat keras GPU, dan algoritma pembelajaran mendalam secara bersamaan, sementara sebagian besar praktisi tetap berada di lapisan aplikasi atau lapisan pengoptimalan inferensi.

Dan sekarang, Scott Gray telah pergi.

2026, OpenAI Telah Kehilangan Banyak Orang

OpenAI tahun ini telah kehilangan banyak talenta. Menurut ringkasan blogger X Chubby, OpenAI tahun ini telah kehilangan 12 pemimpin senior, mencakup operasi, bisnis, produk, penelitian, keamanan, etika, dan perangkat keras.

Beberapa hari yang lalu, Brad Lightcap yang bekerja di OpenAI selama delapan tahun dan pernah menjabat sebagai CFO dan COO, mengumumkan pengunduran dirinya di X, mengatakan akan "start something new"; dua hari kemudian, Kepala Pendapatan (Chief Revenue Officer) Denise Dresser yang baru menjabat Desember lalu mengumumkan kepergiannya, digantikan oleh mantan Presiden dan COO Wiz, Dali Rajic.

Di jalur bisnis dan produk, CEO Bisnis Aplikasi Fidji Simo pada April cuti karena alasan kesehatan, pada Juli mengundurkan diri dari penuh waktu menjadi penasihat paruh waktu; mantan CMO Kate Rouch pada April mengundurkan diri karena kebutuhan pengobatan; CTO Bisnis Perusahaan Srinivas Narayanan juga mengumumkan kepergiannya pada April. Di sisi penelitian dan produk, Kevin Weil yang memimpin OpenAI for Science, dan kepala Sora Bill Peebles mengumumkan kepergiannya pada hari yang sama di April, Weil saat ini sedang mengerjakan startup sains AI; Barret Zoph pada Januari tahun ini kembali dari Thinking Machines Lab ke OpenAI untuk memimpin penjualan AI tingkat perusahaan, pada Juni pergi lagi, perusahaan tidak menjelaskan alasannya.

Tiga orang di jalur keamanan dan etika terkonsentrasi pada Juli: Kepala Sistem Keamanan Johannes Heidecke pergi dalam restrukturisasi tim keamanan, tanggung jawabnya digabungkan ke departemen penelitian yang dipimpin Mia Glaese; Chief Futurist Joshua Achiam pergi setelah hampir sembilan tahun, tim penjajaran misi yang sebelumnya dia pimpin telah dibubarkan pada Februari tahun ini; Kepala Etika Chloé Bakalar pergi kurang dari setahun setelah bergabung. Lebih awal pada Maret, Kepala Robotika dan Perangkat Keras Konsumen Caitlin Kalinowski mengundurkan diri karena tidak setuju dengan kerja sama perusahaan dengan Pentagon, dia menyatakan di LinkedIn bahwa masalah terkait harus melalui pertimbangan yang lebih memadai, kemudian menambahkan bahwa keberatannya terutama ditujukan pada proses tata kelola.

Daftar ini juga melewatkan satu orang: pada Januari tahun ini, Wakil Presiden Penelitian yang bertanggung jawab atas model inferensi Jerry Tworek mengundurkan diri setelah hampir tujuh tahun untuk memulai startup, alasannya adalah ingin melakukan beberapa arah penelitian yang "sulit dilakukan di dalam OpenAI".

Kesimpulan

Kepergian Scott Gray mungkin tidak akan segera mengubah ritme rilis model OpenAI. Sistem rekayasa yang terkumpul selama sepuluh tahun tidak akan berhenti karena kepergian satu orang. Tetapi bagi sebuah perusahaan yang semakin bergantung pada skala, efisiensi, dan kontrol biaya, kehilangan seorang insinyur yang dapat mendorong kinerja perangkat keras hingga batas maksimal, dan juga terlibat mendalam dalam banyak model inti generasi-generasi sebelumnya, tetap bukan perubahan yang dapat dianggap sepele.

Titik waktu kepergian ini juga patut diperhatikan: OpenAI sedang bersiap untuk go public, berubah menjadi perusahaan raksasa yang mengejar pendapatan dan berpartisipasi dalam kompetisi infrastruktur global. Sekarang, orang-orang yang pertama kali membentuknya, juga sedang menilai ulang apa yang ingin mereka lakukan selanjutnya.

Pilihan Scott Gray bukan bergabung dengan lab terdepan lain atau mengumumkan startup, hanya mengatakan dalam biodata pribadinya bahwa dia sedang mengeksplorasi secara independen "metode AI yang terinspirasi neurosains". Dari insinyur yang pada 2016 dalam pengenalan resmi membaca makalah neurosains di waktu luang, hingga sepuluh tahun kemudian menuliskan neurosains kembali ke biodata pribadinya, ini lebih seperti sebuah kepulangan setelah berkeliling lama: setelah memeras paradigma komputasi yang ada hingga batas maksimal, dia mulai mencari kemungkinan lain.

Pada 2023, Gray menulis "OpenAI is nothing without its people". Melihat kembali hari ini, kalimat ini baik merupakan pernyataan sikap terhadap krisis perusahaan saat itu, maupun seperti sebuah catatan kaki yang terlambat. OpenAI tidak akan kehilangan segalanya karena kepergian satu orang, tetapi arah sebuah perusahaan, pada akhirnya dibentuk oleh orang-orang yang bertahan, orang-orang yang pergi, serta masalah-masalah yang masing-masing mereka pilih untuk dieksplorasi.

Artikel ini berasal dari akun WeChat "机器之心" (ID:almosthuman2014), penulis: 关注AI的

Pertanyaan Terkait

QSiapakah Scott Gray dan mengapa keberangkatannya dari OpenAI menjadi berita penting?

AScott Gray adalah seorang insinyur terkenal di OpenAI dengan julukan 'Dewa Kernel CUDA' dan 'Programmer GPU Terkuat di Dunia'. Kepergiannya penting karena dia adalah salah satu talenta inti yang sangat berpengaruh dalam mengoptimalkan kinerja GPU untuk model-model AI canggih OpenAI, dan merupakan bagian dari gelombang kepergian banyak pemimpin senior dari perusahaan pada tahun 2026.

QApa kontribusi utama Scott Gray selama di OpenAI?

AKontribusi utamanya termasuk pengembangan kernel GPU 'block sparse' yang mempercepat komputasi matriks jarang, penulisan kernel perhatian yang sangat efisien (disebut 'the Bob kernel'), serta kontribusi pada proyek-proyek inti seperti GPT-3, DALL·E, dan Scaling Laws for Neural Language Models. Metodenya selalu berfokus pada mengoptimalkan kinerja hardware melampaui batas abstraksi perangkat lunak standar.

QArah baru apa yang akan dieksplorasi Scott Gray setelah meninggalkan OpenAI?

ABerdasarkan pembaruan bio di media sosialnya, Scott Gray menyatakan bahwa dia sekarang 'independen' dan sedang 'mengeksplorasi beberapa metode AI yang terinspirasi oleh ilmu saraf (neuroscience)'. Ini mencerminkan minat lamanya yang juga disebutkan dalam profil OpenAI tahun 2016, di mana dia sering membaca penelitian neurosains di waktu luangnya.

QSiapa saja tokoh penting lain dari OpenAI yang disebutkan telah pergi pada tahun 2026?

AArtikel tersebut menyebutkan beberapa nama, termasuk Brad Lightcap (mantan CFO & COO), Denise Dresser (Chief Revenue Officer), Fidji Simo (CEO Aplikasi), Kevin Weil (pimpinan OpenAI for Science), Bill Peebles (pimpinan Sora), dan beberapa pemimpin di bidang keamanan, etika, serta perangkat keras seperti Johannes Heidecke, Joshua Achiam, dan Caitlin Kalinowski.

QBagaimana artikel ini menafsirkan waktu dan konteks kepergian Scott Gray dari OpenAI?

AArtikel menafsirkan kepergiannya terjadi pada saat yang signifikan, yaitu ketika OpenAI bersiap untuk go public dan berubah menjadi perusahaan raksasa yang mengejar pendapatan. Kepergian salah satu anggota awal yang membentuk perusahaan mencerminkan pergeseran arah. Bagi Gray sendiri, ini dilihat sebagai 'kembali' ke minat mendasarnya pada neurosains setelah satu dekade mendorong paradigma komputasi existing hingga batas maksimalnya.

Bacaan Terkait

Prediksi Harga Cardano: ADA Berhenti Menurun Setelah Sembilan Hari, Pembaruan Terbesar Cardano Mencapai 96% Kesiapan

Analisis harga Cardano (ADA) menunjukkan token ini berhasil memantul dari level dukungan Fibonacci 0.382 di $0,1762 setelah mengalami sembilan hari penurunan berturut-turut. Level ini kini menjadi penentu antara pemulihan menuju $0,1998 atau penurunan lebih lanjut ke $0,1617. Indikator teknis seperti EMA 50-hari di $0,1798 dan Parabolic SAR di $0,2021 menjadi level resisten kunci. Di sisi perkembangan, pembaruan besar Cardano, Ouroboros Leios, telah mencapai 96% kesiapan dan ditargetkan untuk mainnet pada November 2026. Rencana peningkatan Dijkstra akan diluncurkan dalam dua fase: Fase 1 (Q4 2026) fokus pada peningkatan throughput, sementara Fase 2 (Q2 2027) menambahkan fitur penyelesaian transaksi yang lebih cepat. Namun, ada tantangan tata kelola: pemungutan suara untuk menunjuk Komite Konstitusional berisiko gagal, yang dapat menangguhkan proposal tata kelola penting jika tidak mencapai kuota sebelum batas waktu 1 September. Konteks pasar secara keseluruhan ditandai dengan volume perdagangan terendah pada tahun 2026, yang dapat memicu volatilitas. Protokol pertemuan FOMC pada 19 Agustus juga menjadi katalis makro yang ditunggu-tunggu. **Kesimpulan:** Momentum ADA bergantung pada kemampuannya mempertahankan level $0,1762. Keberhasilan mempertahankannya, ditambah dengan perkembangan teknis yang positif, dapat membuka jalan menuju $0,1998. Sebaliknya, kegagalan dalam tata kelola atau sinyal makro yang negatif dapat mendorong harga turun menuju support berikutnya di $0,1617.

cryptonews.ru8m yang lalu

Prediksi Harga Cardano: ADA Berhenti Menurun Setelah Sembilan Hari, Pembaruan Terbesar Cardano Mencapai 96% Kesiapan

cryptonews.ru8m yang lalu

Kemandirian Teknologi Tiongkok: Perang dari Mesin Fotolitografi hingga Film ABF

Pada Agustus 2026, produsen ABF film asal Jepang, Ajinomoto, mengumumkan pemotongan pasokan 30% ke klien Tiongkok daratan, menciptakan kekhawatiran akan kenaikan harga dan kelangkaan pasokan di industri semikonduktor. ABF film adalah bahan insulasi inti untuk IC substrate pada chip CPU, GPU, dan AI berkinerja tinggi, dengan Ajinomoto menguasai 95% pangsa pasar global. Di tengah ledakan AI yang meningkatkan permintaan, keputusan Ajinomoto ini dianggap sebagai tamparan bagi industri Tiongkok, yang tingkat produksi domestiknya untuk ABF film masih di bawah 5%. Merespons hal ini, Lotus Holdings, sebuah perusahaan penyedap rasa (MSG), pada April 2026 mengakuisisi 51% saham Shenzhen NewPhase New Material Technology seharga 103 juta RMB, sebagai langkah awal masuk ke pasar ABF film. Kisah Lotus mencerminkan perubahan mendalam dalam perjuangan kemandirian teknologi Tiongkok: perang ini bukan lagi hanya pertempuran para raksasa seperti Huawei atau SMIC, melainkan telah menjadi gerakan kolektif seluruh industri, menyasar titik-titik "cekikan" terkecil sekalipun, dari lithography machine hingga film tipis. Artikel ini menelusuri perjalanan kemandirian teknologi Tiongkok selama enam tahun terakhir di bawah tekanan sanksi. Di bidang desain chip, Huawei meluncurkan kembali chip Kirin. Di manufaktur wafer, SMIC mengembangkan proses canggih "N+1". Di chip memori, Yangtze Memory (YMTC) memproduksi massal 3D NAND 294 lapisan. Setiap terobosan muncul justru setelah titik 'cekikan' itu diperketat. Logikanya jelas: blokade memutus ketergantungan, memaksa perusahaan Tiongkok untuk berkolaborasi dan berinovasi. Keunggulan Tiongkok terletak pada rantai pasokan yang lengkap, pasar aplikasi yang luas, serta kombinasi kebijakan nasional dan dinamika pasar. Pemotongan pasokan Ajinomoto mungkin akan menyakitkan dalam jangka pendek, tetapi dalam jangka panjang, itu bisa menjadi katalis untuk melahirkan pemain domestik baru di bidang ABF film, seperti yang terjadi pada chip Kirin atau memori YMTC. Perjuangan kemandirian teknologi tidak diselesaikan dalam semalam. Namun, ketika bahkan sebuah perusahaan MSG berani melompat ke bidang material chip yang kompleks, itu menunjukkan bahwa perjalanan Tiongkok menuju swasembada teknologi telah berkembang dari upaya heroik segelintir orang menjadi perjalanan bersama seluruh industri.

marsbit38m yang lalu

Kemandirian Teknologi Tiongkok: Perang dari Mesin Fotolitografi hingga Film ABF

marsbit38m yang lalu

Diskusi 'Pemotongan Suku Bunga' Ethereum: Apakah EIP-8363 yang Tidak Biasa Ini Menandakan Jendela Emas untuk Staking Sekarang?

Diskusi "Penurunan Suku Bunga" Ethereum melalui EIP-8363 mengusulkan mekanisme baru yang mengurangi imbalan staking (staking rewards) saat jumlah ETH yang di-stake meningkat. Saat rasio staking mencapai 50%, imbalan penerbitan baru bisa hilang, sehingga imbalan tahunan dari protokol mendekati nol. Ini memicu perdebatan: apakah Ethereum masih perlu memberikan insentif penerbitan tinggi ketika keamanan jaringan sudah tercapai dengan rasio staking saat ini (~35%)? Di sisi lain, peningkatan Pectra (EIP-7251) justru meningkatkan efisiensi dengan memperkenalkan "bunga berbunga" (compound interest) otomatis pada staking native. Kombinasi ini menunjukkan arah Ethereum: membuat mekanisme staking lebih efisien, namun tidak selalu meningkatkan imbalan ekonomi dasarnya. Bagi pemegang ETH jangka panjang, momen ini bisa dianggap sebagai "jendela peluang", bukan untuk mengunci imbalan tetap, tetapi untuk memaksimalkan waktu agar keuntungan dari bunga berbunga dapat terkumpul lebih lama. Jika tren jangka panjang adalah penurunan imbalan staking, memulai lebih awal memberi keuntungan waktu yang berharga. Namun, keputusan untuk staking harus mempertimbangkan kebutuhan likuiditas, toleransi risiko, dan pilihan metode (validator native, layanan staking, atau likuid staking melalui dompet seperti imToken). Intinya, saat staking Ethereum menjadi lebih matang dan efisien, keuntungan terbesar mungkin justru berasal dari memulai lebih awal dan memanfaatkan kekuatan bunga berbunga dalam jangka panjang.

marsbit46m yang lalu

Diskusi 'Pemotongan Suku Bunga' Ethereum: Apakah EIP-8363 yang Tidak Biasa Ini Menandakan Jendela Emas untuk Staking Sekarang?

marsbit46m yang lalu

Trading

Spot
活动图片