9 Agustus, pengguna X ChrisGPT yang lama memantau pergerakan model OpenAI membocorkan bahwa OpenAI sedang mengembangkan model pra-latihan besar baru dengan kode nama Doug.
Menurutnya, Doug akan menjadi proyek pra-latihan terbesar yang pernah dilakukan OpenAI hingga saat ini, dan itu bukan model yang sama dengan GPT-6.
Dalam balasan selanjutnya, ChrisGPT lebih lanjut menyatakan bahwa GPT-6 kemungkinan besar adalah model terkuat OpenAI sendiri, Astra, yang kemarin ditunda rilisnya secara darurat oleh OpenAI karena masalah keamanan.
Adapun Doug, dia memperkirakan kemungkinan besar akan dirilis paling lambat sebelum bulan November.
ChrisGPT bukanlah sumber pertama yang secara terbuka menyebutkan Doug.
7 Agustus, lembaga penelitian industri semikonduktor dan AI, SemiAnalysis, dalam sebuah artikel yang membahas Gemini dan Google Cloud, mempublikasikan cuplikan dari memorandum penelitian yang sebelumnya dikirimkan kepada klien institusi. Memorandum ini bertanggal 9 Juli.
Alamat artikel: https://newsletter.semianalysis.com/p/gemini-is-cooked-but-gcp-is-cooking
Ada satu kalimat kunci di dalamnya: OpenAI telah mengatasi masalah pra-latihan, sebuah model dengan kode nama Doug yang jauh lebih besar sedang dikembangkan dengan cepat.
Jika informasi terkait akurat, Doug mungkin menandakan bahwa setelah hampir dua tahun terakhir ini mengandalkan post-training, pembelajaran penguatan (reinforcement learning), dan inference-time compute untuk mendorong pertumbuhan kemampuan, OpenAI sedang memulai kembali pergantian generasi model dasar skala besar.
Ceritanya dimulai dari GPT-4o.
OpenAI Menyerahkan Lebih Banyak Pertumbuhan kepada RL
13 Mei 2024, OpenAI merilis GPT-4o dan menyebutnya sebagai model andalan baru.
Selama hampir dua tahun setelahnya, meskipun OpenAI telah melatih dan merilis model pra-latihan baru seperti GPT-4.5, mereka tidak pernah menyelesaikan satu putaran pra-latihan skala penuh yang dapat diimplementasikan secara luas sebagai frontier model utama generasi berikutnya.
Sementara itu, pertumbuhan kemampuan model OpenAI semakin banyak berasal dari jalur lain.
12 September 2024, OpenAI merilis o1-preview.
Dibandingkan dengan mengandalkan pra-latihan skala yang lebih besar untuk mendorong pertumbuhan kemampuan di masa lalu, o1 menunjukkan metode scaling lain: melalui pembelajaran penguatan skala besar, membuat model belajar mengalokasikan lebih banyak komputasi untuk reasoning. Setelah itu, post-training, RL, dan inference-time compute menjadi semakin penting dalam sistem model OpenAI.
April 2025, o3 dirilis secara resmi. OpenAI kembali menekankan bahwa kemampuan reasoning seri o berasal dari large-scale reinforcement learning.
Agustus 2025, GPT-5 dirilis. Ia tidak lagi hanya merupakan model tunggal, melainkan satu set arsitektur terpadu yang terdiri dari model cepat, model reasoning mendalam, dan sistem routing.
SemiAnalysis berpendapat bahwa di balik seri o1, o3, bahkan GPT-5, tidak disertai dengan lompatan generasi model dasar yang setara dengan GPT-4o. Model-model terkait sebenarnya masih dibangun di atas sistem model dasar era GPT-4o.
OpenAI tidak pernah mengonfirmasi garis keturunan pelatihan ini, tetapi jika informasi SemiAnalysis benar, rute selama hampir dua tahun terakhir menjadi mudah dipahami: Pondasi tidak mengalami lompatan generasi setara, pertumbuhan kemampuan terutama didorong oleh post-training dan RL yang semakin kuat.
Scaling model juga secara bertahap diperluas dari yang sebelumnya terutama mengandalkan pre-training, menjadi mencakup tiga dimensi: pre-training, RL, dan inference-time compute.
Masalahnya adalah, jika model dasar tidak mengalami pergantian generasi setara dalam jangka panjang, dan hanya mengandalkan post-training dan komputasi reasoning untuk melanjutkan scaling, cepat atau lambat akan menghadapi masalah penurunan hasil marginal.
Dan munculnya Gemini 3 dengan cepat mengubah masalah potensial rute pelatihan ini menjadi tekanan kompetisi nyata.
Garlic: Pre-training Mulai Berjalan Kembali
18 November 2025, Google merilis Gemini 3.
Sepuluh hari kemudian, SemiAnalysis dalam analisis TPUv7 mereka mengeluarkan penilaian yang memicu diskusi luas: Sejak GPT-4o, OpenAI belum menyelesaikan satu putaran pra-latihan skala penuh yang sukses dan dapat diimplementasikan secara luas sebagai frontier model baru.
Ketika Google meluncurkan Gemini 3, perbedaan ini juga berubah dari masalah rute pelatihan menjadi tekanan kompetisi langsung.
1 Desember, beberapa media melaporkan bahwa Sam Altman mengumumkan "Code Red" secara internal di OpenAI, meminta tim untuk memprioritaskan peningkatan ChatGPT, dan mengonfigurasi ulang sebagian sumber daya.
Sehari kemudian, informasi pelatihan yang lebih kritis muncul.
2 Desember 2025, The Information melaporkan bahwa OpenAI sedang mengembangkan model pra-latihan baru dengan kode nama Garlic. Laporan itu mengutip sumber internal yang mengatakan bahwa Garlic menunjukkan kinerja yang baik dalam evaluasi coding dan reasoning, sekaligus menggunakan serangkaian perbaikan bug yang ditemukan OpenAI dalam proses pelatihan sebelumnya.
Yang lebih krusial adalah, Chief Research Officer OpenAI Mark Chen dikabarkan mengatakan kepada tim bahwa perusahaan telah menyelesaikan beberapa masalah kunci dalam pre-training sebelumnya. Laporan itu juga menyebutkan bahwa perbaikan pelatihan ini memungkinkan model yang lebih kecil menampung pengetahuan yang sebelumnya membutuhkan model yang lebih besar.
Dalam laporan yang sama, ada satu kalimat yang kemudian menjadi sangat penting: OpenAI telah mulai mengembangkan model "even bigger and better" berdasarkan pelajaran yang didapat dari Garlic.
Kisah Doug sebenarnya sudah dimulai dari sini.
6 Januari 2026, SemiAnalysis kembali membahas rute model OpenAI. Kali ini, mereka langsung menulis: OpenAI telah menyelesaikan masalah pra-latihan.
Artinya, menurut informasi yang dimiliki SemiAnalysis, masalah pra-latihan skala penuh yang sebelumnya menghantui OpenAI telah teratasi.
Garlic kemungkinan besar memainkan peran untuk memverifikasi apakah perbaikan ini efektif, sedangkan Doug, mungkin adalah hasil setelah metode pelatihan ini benar-benar diperbesar ke skala yang lebih besar.
OpenAI Mungkin Bersiap untuk Memulai Kembali Scaling Pondasi
Jika informasi di atas akurat, maka OpenAI mungkin sedang mengembangkan setidaknya dua proyek model penting secara berurutan: Astra yang sudah memasuki tahap evaluasi lanjutan, dan Doug yang dikabarkan berukuran lebih besar.
Dan Doug mengarah pada hal lain: mendorong kembali scaling pondasi itu sendiri.
Dua tahun terakhir, OpenAI telah membuktikan bahwa pondasi lama masih dapat terus ditingkatkan melalui RL, reasoning, dan inference-time compute.
Doug bertujuan untuk menjawab pertanyaan lain: Ketika pondasi itu sendiri menyelesaikan lagi satu lompatan besar, sejauh mana sistem post-training yang sudah didorong ke titik ekstrem ini dapat membawa kemampuan lebih jauh lagi.
Ini mungkin titik awal sebenarnya dari persaingan model berikutnya OpenAI.
Tautan Referensi:
https://x.com/ChrisGPT/status/2086220662264250764
https://newsletter.semianalysis.com/p/gemini-is-cooked-but-gcp-is-cooking
https://newsletter.semianalysis.com/p/rl-environments-and-rl-for-science
https://www.theinformation.com/newsletters/ai-agenda/openai-developing-garlic-model-counter-googles-recent-gains
Artikel ini berasal dari akun WeChat publik "机器之心" (ID:almosthuman2014), penulis: 关注LLM的机器之心
