Baru saja, kode rahasia OpenAI bocor, "mesin abadi" Codex terungkap.
Hari ini, media asing WIRED melaporkan secara eksklusif, setelah meninjau repositori kode Codex yang dibuka OpenAI, mereka menemukan—
OpenAI sedang menguji "agen cerdas persisten" baru secara rahasia!
Dalam mode ini, Codex berubah menjadi sebuah "mesin abadi" yang "tidak akan pernah berhenti kecuali dipaksa tidur" (sapi pekerja cyber yang online 24 jam selamanya).
Ia bahkan dapat melampaui sesi, membaca preferensi sejarah Anda, dan secara aktif membuat serta menugaskan tugas lanjutan untuk dirinya sendiri!
Setelah meninjau kode, mereka memastikan bahwa posisi penalaran baru telah ditulis ke dalam Codex CLI!
Informasi kuncinya adalah sebagai berikut:
- Kemampuan Inti: Setelah dipilih, akan terus bekerja hingga dipaksa tidur, tidak lagi berhenti otomatis dalam beberapa menit atau jam seperti sebelumnya.
- Menugaskan Pekerjaan Secara Aktif: Setelah menyelesaikan permintaan Anda, ia akan membuat follow-up (tugas lanjutan) untuk dirinya sendiri, dan dapat melanjutkan lintas sesi.
- Mengingat Anda: Menggunakan riwayat interaksi dan "pemahaman tentang pengguna" untuk memutuskan apa yang harus dilakukan selanjutnya.
- Dapat Menghubungi Anda Secara Aktif: Dapat mengirim pesan kepada Anda tanpa ditanya (namun sistem juga memintanya untuk mengirim sesedikit mungkin, menahan gangguan).
- Izin Tidak Dibuka: Mode itu sendiri tidak memperluas otorisasi. Jika ingin mengubah sesuatu di luar sistem, harus mendapatkan persetujuan eksplisit dari pengguna terlebih dahulu.
Singkatnya: Codex akan sepenuhnya berubah dari "bekerja hanya saat Anda memanggil" menjadi "terus bekerja meski Anda tidak memanggil".
OpenAI secara resmi telah mengakui hal ini, tetapi belum ada rencana untuk segera diluncurkan.
Menurut investigasi independen bersama METR dan Redwood Research, penyebab utama insiden infiltrasi OpenAI ke Hugging Face adalah "model internal yang sangat persisten" (highly-persistent internal model, HPIM). Ini sangat mungkin adalah "agen persisten" yang disebutkan.
Ini juga bukan percobaan pertama OpenAI. Tahun lalu, mereka pernah meluncurkan agen AI "Pulse", yang secara aktif mengumpulkan informasi saat pengguna tidur dan menghasilkan laporan pagi khusus setiap hari. Karena tidak memenuhi harapan, Pulse diturunkan dengan diam-diam awal musim panas ini.
Tapi OpenAI tidak menyerah. Mode persisten Codex adalah Next Big Thing yang mereka pertaruhkan setelah belajar dari pengalaman Pulse!
Selamat Tinggal AI "Sempoa", Mode "Mesin Abadi" Hadir
Berbagai asisten AI saat ini, pada dasarnya logika interaksinya adalah "manusia menyentuh satu kali, AI bergerak satu kali". Setelah mencapai batas komputasi, akan berhenti otomatis.
OpenAI merasa, mode ini terlalu tidak efisien.
Dalam kode versi baris perintah Codex yang digali WIRED, muncul pilihan baru "Mode Persisten". Opsi ini tersembunyi di menu "Kedalaman Penalaran" Codex.
Kedalaman penalaran adalah berapa banyak daya komputasi yang Anda izinkan AI gunakan, berapa banyak Token yang dikonsumsi, dan berapa lama waktu yang dihabiskan untuk "berpikir" sebelum menjawab Anda.
Dan "Mode Persisten", tidak diragukan lagi adalah pengaturan ultimate OpenAI yang paling banyak menghabiskan daya komputasi sejauh ini!
Perintah kode internalnya sederhana dan kasar: "continue working until put to sleep" (terus bekerja sampai dipaksa tidur).
Artinya, selama Anda tidak secara aktif menyuruh berhenti, AI ini akan seperti mesin abadi yang tak kenal lelah, terus berjalan di latar belakang.
Anda menugaskan proyek besar, ia tidak akan terputus karena waktu habis, tidak akan mogok karena langkahnya rumit. Anda tidur, ia masih bekerja.
Mengenai hal ini, Kepala Produk OpenAI Codex, Thibault Sottiaux, mengakui:
OpenAI selalu mempertahankan budaya pengembangan bottom-up, repositori open source biasanya kami gunakan sebagai taman bermain bersama untuk mengeksplorasi berbagai solusi teknologi terdepan.
Wah, sebuah "taman bermain"! Di taman bermain ini, OpenAI diam-diam sedang menempa "karyawan digital super" yang tidak butuh gaji, tidak butuh tidur.
Kecenderungan ini sudah tercermin dalam data. Hanya minggu ini, repositori GitHub Codex bertambah 12.1 ribu bintang, totalnya melonjak menjadi 119 ribu, kecepatan pertumbuhannya mengalahkan semua proyek open source lain di seluruh internet!
Dan mode persisten akan lebih lanjut mendorong pertumbuhan ini.
Bagi pekerja sejati, ini benar-benar kabar gembira. Pengembang captainntan mengaku: "Jujur, bagi pengembang, ini terdengar seperti pembukaan kunci produktivitas yang besar."
Mengerikan Setelah Dipikir-pikir: AI Mulai Menugaskan Pekerjaan untuk Dirinya Sendiri?
Fungsi inti yang terungkap berikutnya sepenuhnya mengungkap proaktivitas AI.
Dalam file kode lain yang diekspos, OpenAI menjelaskan secara detail karakteristik "proaktivitas" AI dalam mode persisten. Ini adalah jenis prompt sistem baru dalam dimensi baru.
Di masa lalu, setelah AI menyelesaikan instruksi Anda, itu sama saja dengan pulang kerja. Namun dalam mode persisten, AI diberi tahu dengan jelas: "Ketika Anda menyelesaikan permintaan pengguna, pekerjaan Anda belum selesai."
https://github.com/openai/codex/blob/f1433fc71f2062ae3c007a03d7ff549bc582d386/codex-rs/core/templates/persistent_mode.md
Sebaliknya, sistem memerintahkan AI untuk secara aktif membuat tugas lanjutan untuk dirinya sendiri!
Tinjauan kode juga menunjukkan bahwa agen cerdas ini memiliki kemampuan "kelanjutan lintas sesi".
Ia tidak lagi hanya memiliki konteks yang singkat, ia dapat mengingat semua interaksi Anda di masa lalu, menggunakan "pemahaman tentang pengguna" untuk memutuskan apa yang harus dilakukan selanjutnya.
Ia tahu gaya kode Anda, tahu bos Anda suka laporan mingguan seperti apa, bahkan tahu jam berapa suasana hati Anda paling baik.
Yang lebih menarik, kode juga memberikan hak istimewa kepada AI: mengirim pesan kepada pengguna secara aktif (meskipun sistem memintanya untuk menahan diri).
Ini berarti, Anda mungkin tiba-tiba menerima "pengingat penuh perhatian" dari AI:
Hai, saya perhatikan jadwal Anda besok padat, saya baru saja secara aktif membantu Anda membalas beberapa email yang tidak mendesak, dan merangkum bahan rapat menjadi garis besar, dikirim ke email Anda, silakan periksa.
Papan Catur Ultimate Altman: AI "Residen", Mengambil Alih Hidup Anda Sepenuhnya
Jika Anda menganggap ini hanya pembaruan kecil Codex, maka Anda meremehkan ambisi Altman.
Belakangan ini, Altman dan beberapa eksekutif OpenAI, baik di tempat umum maupun pribadi, sering membahas bentuk produk baru—agen AI "selalu aktif" (always-on).
Dalam episode podcast David Senra baru-baru ini, Altman tidak menyembunyikan visi utamanya:
Antarmuka akan dimulai dari chatbot, sekarang sudah ditambah agen pemrograman; pada tahap tertentu, itu akan lebih seperti Agen yang lebih persisten, berjalan di tempat yang Anda butuhkan untuk dijalankan.
Altman menyebut kesalahpahaman publik tentang Codex—"Codex sayangnya diberi nama ini, sebenarnya tidak hanya menulis kode".
Agen AI yang ia bayangkan bukanlah responsif pasif, melainkan asisten yang terus-menerus aktif memberikan bantuan, dapat mencerna lautan informasi yang ia tidak sempat tangani, dan memberikan saran pada momen kunci.
Di tingkat produk, ini berarti memberikan konteks yang jauh melampaui apa yang dapat dikuasai individu mana pun kepada model, dan membiarkannya membantu orang membuat keputusan besar.
OpenAI sedang membungkus agen cerdas ini menjadi produk utama "ChatGPT Work", tertanam dalam pekerjaan sehari-hari setiap orang.
Tapi, untuk mendapatkan nilai maksimal dari AI, Anda harus memberinya kunci.
Insinyur Kepala aplikasi desktop OpenAI, Andrew Ambrosino, memberikan demonstrasi gila.
Dia memberikan kendali atas semua aplikasi intinya—email, Slack, ponsel, Notion, dan Figma—kepada agen AI.
"Jika saya menyuruhnya menulis dokumen, apakah mungkin ia mengambil informasi dari pesan pribadi saya, dan tidak tahu bahwa beberapa informasi tidak boleh dibagikan? Ya, mungkin," Ambrosino mengakui.
"Tapi saya harus melakukannya untuk pekerjaan. Jika perlu, saya bersedia mengambil risiko kerusakan privasi pribadi ini."
Dan Altman sendiri pernah menggunakan ChatGPT Work untuk merencanakan liburannya, dan mengatakan efeknya "mengagumkan".
Agar orang biasa juga dapat menggunakannya dengan mudah, OpenAI menghabiskan banyak pikiran dalam desain produk.
Mereka bahkan menggunakan desain "skeuomorfik" pada antarmuka, mempertahankan beberapa tombol yang tampaknya berlebihan, untuk menurunkan ambang batas psikologis pengguna.
Biaya Tidak Pernah Istirahat: Saat "Bertekad Sampai Akhir" Memicu Krisis Keamanan
Namun, ketika AI super kuat diatur untuk "tidak akan berhenti sampai tugas selesai", dan diberikan semua izin akun, kotak Pandora pun terbuka.
Bulan lalu, "model internal yang sangat persisten" OpenAI, saat menjalankan tugas, bahkan menembus lingkungan sandbox yang terisolasi, dan langsung meretas sistem Hugging Face.
Ini langsung membuat para peneliti kaget, OpenAI menghentikan pengujian model secara darurat, selama dua minggu.
Dalam laporan lengkap pasca-kejadian, OpenAI mengakui: Meskipun karakteristik persistensi AI memiliki nilai, hal itu dapat memperburuk masalah keselarasan (alignment).
https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf
Mereka menemukan "kemampuan agen untuk terus berjalan lintas tugas" adalah salah satu syarat yang diperlukan untuk insiden peretasan Hugging Face ini.
Saat ini, OpenAI menyatakan telah menurunkan model spesifik yang bermasalah ini, dan menetapkan "pagar pengaman".
Perintah kode dengan jelas menetapkan garis merah untuk AI:
1. Mode persisten sama sekali tidak memperluas cakupan izin yang diizinkan untuk AI.
2. Setiap upaya untuk mengubah operasi di luar sistem pengguna sendiri, harus mendapatkan persetujuan eksplisit dari pengguna terlebih dahulu.
File yang menetapkan batas keamanan ini ditempatkan di "inti bersama" Codex.
Ini berarti, fungsi proaktivitas dan persistensi ini mungkin diterapkan secara luas di berbagai lini produk OpenAI.
Namun, saat ini "Mode Proaktif" dan "Model Internal yang Sangat Persisten" juga diblokir oleh OpenAI, dan tidak ada rencana rilis untuk sementara waktu.
Seseorang dengan tepat menunjukkan poin kritis: "Fungsi ini terdengar indah, sampai Anda perlu memasukkan berbagai persetujuan, karena batasan keamanan aplikasi lain menyebabkan operasi terputus, atau Anda terpaksa login ulang ke layanan yang sama untuk keseratus kalinya."
Seluruh Silicon Valley, Bertekad Mati-matian pada "Agen Persisten"
Jika risikonya sangat besar, mengapa OpenAI masih bertekad mati-matian pada "agen persisten"?
Jawabannya sederhana—untuk menghasilkan uang besar, dan merebut pintu masuk sistem operasi generasi berikutnya.
Kenyataan saat ini adalah, proporsi penggunaan agen di antara karyawan internal OpenAI sangat tidak seimbang. Hingga Juni tahun ini, 98% karyawan OpenAI menggunakan alat agen seperti Codex; tetapi di antara pelanggan perusahaan, proporsi ini turun drastis menjadi 17%; dan di antara pelanggan individu, tingkat penggunaan bahkan kurang dari 1%!
Mengubah 1% ini menjadi 99% adalah tujuan akhir komersialisasi OpenAI.
Karena, membuat agen AI bekerja lebih lama berarti mereka akan membakar lebih banyak Token dengan gila-gilaan.
Seorang penguji mengatakan, setelah berlangganan $20/bulan, dalam 4 hari menguji fungsi agen secara acak, ia menghabiskan lebih dari 80 juta Token, yang biaya aktual di belakang layar mencapai $65!
Ini membuktikan, agen adalah "pemakan daya komputasi", sekali tersebar luas, keuntungan per pengguna akan meledak secara eksponensial!
Pada saat yang sama, OpenAI juga menghadapi persaingan sengit dari Anthropic.
Profesor Wharton School, Ethan Mollick, pernah mengevaluasi perbedaan rute kedua perusahaan: "ChatGPT cenderung ingin menunjukkan 'sihir', langsung melakukan semuanya untuk Anda; sedangkan Claude akan melakukan demonstrasi perbandingan, melalui pengujian A/B terus-menerus, berulang kali meminta pengguna memberikan masukan dan umpan balik."
ChatGPT Work begitu dimulai, prompt pertama adalah menanyakan apakah Anda ingin mengimpor data Claude Cowork, dengan jelas merebut wilayah.
Jelas, OpenAI sangat ambisius, mencoba meniru keajaiban yang diciptakan ChatGPT di bidang chatbot, di bidang agen AI.
Ini adalah pasar yang sangat besar senilai $150 miliar.
Tapi yang menyertainya adalah ujian kepercayaan yang besar.
Bagi kita orang biasa, ketika AI Anda tidak pernah tidur 24 jam, dapat memutuskan alur kerja secara mandiri, bahkan meminta Anda menyerahkan semua akun kerja dan data internal perusahaan, apakah Anda senang, atau takut?
Referensi:
https://www.wired.com/story/openai-is-developing-a-persistent-ai-agent/
https://techcrunch.com/2026/08/24/openai-is-building-an-ai-agent-for-everything-will-everyone-use-them/
https://www.wired.com/story/openai-is-developing-a-persistent-ai-agent/
https://podscripts.co/podcasts/david-senra/sam-altman-on-building-openai-betting-on-the-impossible
https://x.com/kimmonismus/status/2093035864515396030
Artikel ini berasal dari akun WeChat "Xin Zhi Yuan" (ID: AI_era), penulis: ASI Apocalypse, editor: Aeneas David
