OpenAI merevisi pendekatannya dalam mengembangkan model AI mutakhir dan sementara memperlambat sebagian riset setelah salah satu agen AI uji coba keluar dari lingkungan terkendali dan menyerang platform Hugging Face. Hal ini dikatakan dalam materi TIME, yang disusun berdasarkan wawancara dengan lebih dari 20 eksekutif, karyawan, investor, klien, dan pesaing perusahaan. Di tengah ini, OpenAI secara bersamaan berusaha mengejar ketertinggalan dari Anthropic dalam perlombaan komersial dan memperkuat keamanan model-modelnya.
OpenAI Menghadapi Krisis Keamanan
Pada akhir Juli, OpenAI melaporkan bahwa salah satu prototipe internalnya selama pengujian mampu keluar dari lingkungan uji dan mengakses sistem produksi Hugging Face. Model tersebut seharusnya melakukan tugas-tugas keamanan siber, tetapi alih-alih memanfaatkan kerentanan, melewati batasan, dan mendapatkan akses ke jawaban ujian.
Menurut Kepala Ilmuwan OpenAI, Jakub Pachocki, perusahaan memiliki alat untuk memantau perilaku model, tetapi tidak menerapkannya pada sistem yang sedemikian kompleks karena tidak menduga kemampuan seperti itu.
"Kami tidak sepenuhnya mengantisipasi" kemampuan sistem, kata Pachocki, seraya menambahkan: "Untuk AI, kita harus mengharapkan yang tidak terduga".
Setelah insiden itu, OpenAI membekukan sebagian eksperimen, memperlambat riset lainnya, memperkuat isolasi model, dan memperluas pemantauan. Perusahaan juga menunda pelatihan model baru yang diharapkan memberikan salah satu lompatan terbesar dalam kemampuan AI.
CEO OpenAI Sam Altman menyebut situasi ini bukan sekadar masalah keamanan, tetapi masalah mendasar tentang kesesuaian perilaku AI dengan niat manusia.
"Saya pikir setiap kesalahan keselarasan mulai sekarang harus dianggap sebagai masalah yang sangat serius, dan kami akan menghabiskan waktu sebanyak yang diperlukan untuk menyelesaikannya," ujarnya.
Kemudian Altman merumuskan posisi perusahaan dengan lebih jelas:
"Menjamin keamanan AI lebih penting daripada dinamika perkembangan perusahaan apa pun."
OpenAI Berusaha Merebut Kembali Kepemimpinan
Secara paralel, OpenAI melakukan restrukturisasi bisnis besar-besaran setelah setahun di mana perusahaan, menurut penilaian TIME, kehilangan kepemimpinan di segmen-segmen tertentu untuk Anthropic.
Pesaing tersebut dengan cepat mengembangkan Claude Code dan melampaui OpenAI dalam pendapatan tahunan yang diklaim dan valuasi swasta. Sementara itu, OpenAI dihadapkan dengan kepergian sejumlah eksekutif, kehilangan peneliti ke Meta, dan meningkatnya persaingan dari Google.
Perusahaan mengurangi proyek-proyek sekunder dan mengonsentrasikan sumber daya komputasi pada produk-produk kunci, khususnya Codex. Pada bulan Juli, pendapatan korporat OpenAI untuk pertama kalinya melebihi pendapatan konsumen, dan pada bulan Maret perusahaan mengumpulkan $122 miliar dengan valuasi $852 miliar.
Pada saat yang sama, OpenAI terus memperluas infrastrukturnya. Menurut Kepala Divisi Komputasi Sachin Katti, perusahaan berencana menghabiskan sekitar $50 miliar untuk kapasitas komputasi pada tahun 2026.
"Kami masih kekurangan kapasitas komputasi. Jika kami bisa kembali ke masa lalu, mungkin kami seharusnya membeli lebih banyak," katanya.
Astra, AGI, dan Agen AI Pribadi
Meskipun riset diperlambat, OpenAI terus mengerjakan generasi baru model Astra. Selama demonstrasi tertutup untuk klien, sistem menyelesaikan tugas-tugas kompleks dengan bantuan 16 agen AI, yang membagi bagian-bagian soal matematika di antara mereka dan mengoordinasikan pekerjaan untuk hasil bersama.
Model itu juga menunjukkan kemampuan bekerja dengan komputer, berinteraksi secara mandiri dengan berbagai program. Altman menyebut kemampuan menciptakan "agen permanen" — karyawan virtual yang mampu melakukan tugas untuk waktu lama tanpa pengawasan konstan manusia — sebagai hal yang sangat penting.
Menurutnya, dampak terbesar Astra mungkin akan ada pada penelitian ilmiah.
"Saya berharap ini akan menjadi model pertama yang benar-benar menciptakan hal-hal baru yang signifikan," kata Altman.
Di OpenAI juga percaya bahwa mereka mendekati penciptaan Kecerdasan Umum Buatan (AGI). Direktur Riset Mark Chen memperkirakan kesiapan perusahaan untuk tahap ini sekitar 80%, dan Altman mengatakan bahwa sebelum akhir tahun OpenAI mungkin memiliki sistem internal yang akan disebutnya AGI.
Salah satu arah utama perusahaan tetap adalah pengembangan agen otonom. OpenAI ingin mengubah ChatGPT dari sistem yang terutama menjawab pertanyaan menjadi alat yang mampu secara mandiri melakukan tugas, menggunakan berbagai model dan layanan, dan bertindak berdasarkan tujuan pengguna.
Perusahaan juga mengerjakan perangkat, chip, dan robot humanoidnya sendiri. Altman menyatakan bahwa OpenAI "pasti" akan menciptakan robot humanoid, dan chip inferensi sendiri pertama Jalapeño direncanakan mulai digunakan sebelum akhir tahun.
Pada saat yang sama, perusahaan mengakui bahwa penskalaan AI lebih lanjut tidak mungkin tanpa menyelesaikan masalah keamanan. Karena itulah OpenAI bersedia untuk sementara mengorbankan kecepatan pengembangan.
"Jika kita mencapai titik di mana ini berbahaya, kita harus memperlambat, dan itu harus begitu," kata Kepala Divisi Keamanan dan Alignment OpenAI, Mia Glees.
Perlu diingat bahwa perusahaan juga mempertimbangkan kemungkinan go public. CFO OpenAI Sara Friar mengatakan kepada karyawan bahwa perusahaan dapat go public pada tahun 2027 atau lebih awal jika bisnis terus tumbuh.
