Baru saja, sebuah podcast internal dari SemiAnalysis, membocorkan banyak berita mengejutkan.
Diketahui, model baru Anthropic, Mythos 2, telah selesai dilatih, tetapi sayangnya disimpan.
Sekarang, Anthropic sedang menggunakan data yang dihasilkan Mythos 2, untuk melakukan sprint penuh menuju Mythos 3!
AI Terkuat Anthropic Dikebiri, AI Tingkat Mitos Menjadi Barang Terlarang Global
Dalam podcast tersebut, analis terkenal Dylan Patel dan Jordan Nanos bekerja sama membocorkan informasi internal—
Model AI paling kuat dan paling canggih di dunia, sebenarnya sudah lama selesai dilatih, tetapi mereka ditahan mati-matian di laboratorium oleh tongkat regulasi, menjadi barang terlarang internal.
Banyak orang mengira, parit pertahanan OpenAI dan Anthropic sudah runtuh.
SemiAnalysis memberitahu kami: ini semua hanyalah ilusi.
Bukan open source yang berlari terlalu cepat, tetapi model tertutup yang memimpin, dipaksa mengenakan belenggu.
Jordan Nanos menyatakan:
Jelas, kami melihat ini dengan jelas dalam perbandingan antara Mythos dan Fable.
Saya sama sekali tidak bisa menggunakan Mythos, saya hanya bisa menggunakan Fable, dan terkadang saya harus memohon dengan sopan untuk bisa menggunakannya.
Seperti diketahui, Anthropic internal masih menyimpan monster puncak Mythos, yang hanya bisa digunakan oleh perusahaan yang berpartisipasi dalam "Proyek Glass Wing".
Mythos adalah "bentuk sempurna" yang mewakili teknologi terkuat Anthropic. Tetapi dia terlalu kuat, kuat sampai membuat orang panik, bahkan mungkin memiliki kemampuan serangan siber atau evolusi otonom yang mengganggu.
Oleh karena itu, Mythos dibatasi ketat, sama sekali tidak diizinkan dibuka untuk publik!
Akhirnya, Anthropic hanya bisa mundur selangkah, melakukan pengebirian dan penurunan tingkat kemampuan Mythos secara gila-gilaan, menambahkan filter, dan akhirnya merilis versi turunannya—Fable.
"AI mutakhir" yang kita gunakan setiap hari, hanyalah produk cacat yang diluncurkan para raksasa untuk menghadapi regulasi.
Minta Palu Dapat Palu: Anthropic Menelan Buahnya Sendiri
Angin yang mengubah model puncak menjadi "barang terlarang internal" ini, berasal dari mana?
Ini tidak bisa tidak menyebutkan adegan paling ajaib dalam sejarah Silicon Valley.
Dalam siaran langsung, Dylan Patel tanpa ampun mengejek Anthropic:
Saya pikir situasi saat ini sangat menarik, bukan? Selama bertahun-tahun, orang-orang Anthropic itu selalu berteriak-teriak: Ayo awasi kami! Tolong awasi kami! AI terlalu berbahaya!
Hasilnya sekarang, tiba-tiba, mereka benar-benar membuat orang ketakutan. Sekarang baiklah, Anthropic sendiri tidak bisa merilis model. Sejauh yang saya tahu, Mythos 2 telah menyelesaikan semua pelatihan, tetapi mereka tidak bisa merilisnya.
Bisa disebut sebagai bumerang terbesar dalam sejarah AI.
"Fundamentalis keselamatan AI" yang dipimpin Dario Amodei, selama bertahun-tahun selalu memainkan peran "peniup peluit". Mereka berkeliaran di Capitol Hill, menyebarkan berita kiamat AI menghancurkan manusia ke mana-mana, berusaha mendorong undang-undang regulasi yang ketat.
Maksud mereka, mungkin ingin meningkatkan ambang batas regulasi, membangun parit pertahanan, mengusir perusahaan kecil dan komunitas open source yang tidak mampu melakukan penyelarasan keamanan keluar dari persaingan.
Hasilnya, bermain api membakar diri sendiri.
Diketahui, Mythos 2 telah dilatih, menunjukkan kemampuan pembuatan kode, penalaran logika, dan pertahanan-serangan jaringan yang kuat, langsung memicu alarm tertinggi.
Mythos 2 Anthropic yang menghabiskan daya komputasi bernilai ratusan juta dolar, terkunci di internal seperti ini.
Memutus Siklus Umpan Balik: Krisis Paling Mematikan Telah Tiba
Model tidak dirilis, apakah benar hanya sekadar kurang menghasilkan uang, terlambat membuka begitu saja?
Salah! Dylan Patel menunjukkan krisis paling mematikan dan inti di tengah badai ini—siklus iterasi mandiri AI mungkin akan terputus karenanya.
"Sekarang pertanyaan yang benar-benar penting adalah siklus umpan balik internal. Apakah mereka (karena tidak merilis) mencegah diri mereka sendiri memanfaatkan Mythos 2 internal untuk membuat Mythos 3 menjadi lebih kuat? Atau, apakah mereka mencegah diri mereka sendiri menggunakan Astra untuk membangun Astra Plus One generasi berikutnya?"
Dulu, banyak lompatan teknologi bergantung pada roda gila ini: rilis model ➡️ kumpulkan data umpan balik nyata dari pengguna dalam jumlah besar ➡️ gunakan data berkualitas ini untuk melatih model generasi berikutnya.
Tetapi sekarang, Mythos 2 dan Astra dipaksa "dikunci", roda gila berhenti tiba-tiba. Perusahaan AI kehilangan data berharga dari miliaran interaksi nyata global.
Jika tidak bisa melepaskan Mythos 2 ke dunia nyata, Anthropic akan menggunakan apa untuk melatih Mythos 3, makhluk mitos generasi ketiga yang sedang dikembangkan secara rahasia?
Jawabannya ternyata: mereka memulai mode "ular melingkar" internal yang "membuat dewa di balik pintu tertutup".
Menurut bocoran Patel, meskipun Mythos 2 disimpan, langkah Anthropic internal membangun Mythos 3 "tidak berhenti sejenak pun". Fokus strategis perusahaan telah bergeser dari "cepat meluncurkan yang baru", beralih ke "peningkatan sistem internal" yang sangat rahasia.
Mereka sedang menggunakan Mythos 2, untuk menghasilkan data, menulis kode, melakukan sprint penuh menuju Mythos 3.
Sebelumnya, Anthropic pernah mengakui dalam laporan risiko: perusahaan internal menjalankan model yang lebih kuat dari Mythos 5, kode nama Model 2, dan saat ini tidak ada rencana untuk merilis model ini ke publik.
Di AEC: Model 2 mendapat 162.79. Di CoBench, Model 2 mendapat 62.8%.
Roda gila eksternal berhenti berputar, roda gila internal malah dipasang penuh—daya komputasi dari melayani ratusan juta pengguna, dialihkan seluruhnya ke laboratorium.
Yang mengkhawatirkan adalah, rekursi tiga lapis telah mulai bertaut.
Lapisan pertama: rekursi data.
Benar salah diserahkan pada dunia—apakah kode bisa dijalankan, bukti bisa dibuktikan, tidak perlu anotasi manusia. Model kuat membuat soal dan mengerjakan soal, validator memeriksa, data langsung disuplai ke generasi berikutnya. Ini adalah permainan mandiri: AlphaGo Zero tanpa catatan permainan manusia, 40 hari mencapai puncak. Anthropic telah mengakui, Model 2 sedang menghasilkan data dalam jumlah besar.
Lapisan kedua: rekursi tenaga kerja.
Kode produksi Anthropic sebagian besar dibuat oleh Claude, kecepatan penelitian dan pengembangan mendekati garis peringatan 2 kali lipat. Model tidak lagi hanya produk, tetapi pekerja yang membangun penerus; manusia mundur menjadi pengawas.
Lapisan ketiga: rekursi evaluasi.
Yang menilai apakah generasi berikutnya kuat atau tidak, aman atau tidak, tetap AI—tim merah, penilaian bersama, pelatih semua digantikan oleh model kuat. Disimpan, malah lebih cepat.
Yang paling menusuk adalah: evaluasi internal Anthropic sendiri sudah "jenuh", tidak bisa mengukur lagi berapa banyak kemajuan, tetapi "melihat tanda-tanda awal percepatan"—dasbor tidak bisa mengikuti model mereka sendiri. Ukuran kemajuan, juga berubah dari konferensi pers menjadi checkpoint internal.
Tiga lapis rekursi adalah rantai sebab-akibat: penguatan mandiri data → kecepatan pembangunan berbunga majemuk → pengawasan manusia menjadi encer. Pada hari rekursi selesai, umpan balik manusia turun dari "wajib" menjadi "opsional". Peringkat "risiko rendah" berdampingan dengan "keyakinan rendah", lebih menusuk dari peringatan apa pun: visibilitas itu sendiri, sedang menjadi barang langka.
Penipuan 5.6 Sol: "Raksasa Tidur" Bawah Tanah OpenAI
Yang juga terkunci, adalah OpenAI.
Setelah menganalisis Anthropic, Jordan Nanos membocorkan informasi mengejutkan lainnya:
Berbicara tentang 5.6 Sol (kode model internal atau akan datang OpenAI yang diduga orang luar), pandangan internal kami adalah, ini pasti bukan model terbesar yang pernah dilatih OpenAI, skalanya sama sekali tidak mencapai level 4.5T.
Bagi saya, di suatu tempat yang tidak diketahui orang, mereka pasti menyembunyikan model yang jauh lebih besar.
Ini membuktikan rumor OpenAI "memeras sedikit-sedikit" beberapa waktu lalu.
Beberapa bulan terakhir, OpenAI mempromosikan habis-habisan Astra, asisten AI multimodal serba bisa ini, membuat semua orang penasaran.
Hasilnya, senjata pamungkas terbesar OpenAI ini langsung bungkam.
Dylan Patel dalam podcast menggambarkan situasi sulit OpenAI dengan hidup: "OpenAI berteriak-teriak di mana-mana betapa kuatnya Astra, hasilnya sekarang mereka tiba-tiba bingung: Oh, sial, kita tidak bisa merilis model ini."
Karena Astra terlalu pintar, terlalu tidak terkendali.
Hari ini, kepala OpenAI Codex, Thibault Sottiaux, mengisyaratkan, Codex akan terhubung ke Astra.
Sebelumnya, Astra telah menunjukkan kemampuan pemrograman yang kuat.
Evaluasi internal OpenAI baru-baru ini menemukan, kemajuannya dalam pemrograman Agent dan keamanan siber jelas, bahkan sementara tidak bisa mengesampingkan telah mencapai kemampuan keamanan siber "Critical". OpenAI karena itu menghentikan sementara sebagian aktivitas internal Astra yang tidak memenuhi persyaratan keamanan baru.
Dalam beberapa bulan ke depan, setiap organisasi perlu secara signifikan memajukan otomatisasi pekerjaan keamanan, jika tidak akan sulit menghadapi risiko serangan AI yang terus berkembang.
Evaluasi internal OpenAI baru-baru ini menemukan, kemajuannya dalam pemrograman Agent dan keamanan siber jelas, bahkan sementara tidak bisa mengesampingkan telah mencapai kemampuan keamanan siber "Critical". OpenAI karena itu menghentikan sementara sebagian aktivitas internal Astra yang tidak memenuhi persyaratan keamanan baru.
Menghadapi risiko keamanan yang terus meluas, menurut presiden OpenAI Greg Brockman, OpenAI sedang mengembangkan model AI yang bisa menulis "kode keamanan tingkat super manusia", membantu infrastruktur berbagai institusi lebih baik menahan serangan jaringan yang didorong AI.
Tujuan Sebenarnya Anthropic
Informasi mengejutkan yang dibocorkan SemiAnalysis, menarik banyak penonton.
Seseorang mengajukan sebuah pandangan, mendapat banyak likes.
Bukankah kemungkinan yang lebih besar adalah: Anthropic sebenarnya berharap pemerintah mengawasi mereka, sehingga mereka memiliki alasan sah untuk tidak merilis model. Kemudian, mereka bisa menyimpan AI terkuat untuk penggunaan sendiri, bertransformasi menjadi perusahaan aplikasi super, dan bahkan tidak perlu menanggung risiko hubungan masyarakat dan moral negatif yang ditimbulkan oleh rilis model publik?
Meskipun terdengar tidak masuk akal, tapi juga masuk akal.
Jika tujuan sebenarnya Anthropic adalah memonopoli kecerdasan terkuat, menggunakannya sendiri untuk meneliti obat bio, pembuatan kode otomatis penuh, maka mereka sama sekali tidak perlu menghasilkan puluhan dolar langganan pengguna C-end, mereka akan menjadi satu-satunya entitas super global.
Yang mengkhawatirkan adalah, Mythos 2 bentuk sempurna, Astra, Mythos 3, sedang melaju dengan kecepatan yang tidak terbayangkan.
Kecerdasan terdepan sejati ini, orang biasa sulit mengalaminya.
Referensi:
https://x.com/firesidealpha/status/2089391264878002260
https://x.com/firesidealpha/status/2078532739343753400
https://x.com/gdb/status/2089326994714763665
Artikel ini berasal dari akun WeChat publik "新智元", penulis: ASI启示录
