Dalam semalam, raksasa teknologi Silicon Valley secara kolektif menginjak rem untuk AI!
Baru saja, lebih dari 1100 karyawan inti dari raksasa seperti OpenAI, Anthropic, dan Google menandatangani bersama-sama, meluncurkan petisi "Pacing the Frontier".
Nama-nama yang ditandatangani dalam daftar ini, sangat banyak hingga tak terlihat ujungnya. Dan, angka ini masih terus bertambah.
Dilihat lebih dekat, daftarnya hampir menghimpun "setengah peta" dunia AI—
Ilmuwan Kepala OpenAI Jakub Pachocki, Kepala Petugas Riset Mark Chen;
CEO Anthropic Dario Amodei, serta empat pendiri bersama Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;
Ilmuwan Kepala Meta Shengjia Zhao, Wakil Presiden Riset AI Dawn Song;
Ilmuwan Kepala Thinking Machines, salah satu pencipta inti ChatGPT, John Schulman;
Wakil Presiden Keamanan dan Keselarasan AI Google, Anca Dragan.....
Menurut statistik, 46,2% penandatangan berasal dari Anthropic.
Dalam surat bersama ini, hanya satu permintaan yang diajukan—
Kami meminta pemerintah AS untuk mendorong kerja sama internasional: mengembangkan alat teknologi dan tata kelola yang diperlukan agar dunia memiliki kemampuan untuk secara aktif mengendalikan laju pengembangan AI otomatis terdepan.
Mungkin banyak yang tidak mengerti, mengapa justru orang-orang yang paling gila mengembangkan LLM ini tiba-tiba bersuara meminta "perlambat"?
Para Bos Besar AI Silicon Valley Bersama-sama: Tolong Injak Rem untuk AI
"Invasi" model OpenAI ke Hugging Face, bagaikan lonceng peringatan.
Hanya dalam waktu satu minggu, 1132 karyawan dari perusahaan-perusahaan AI terdepan secara kolektif bersuara, menandatangani bersama mendesak pemerintah AS "menginjak rem".
Karyawan yang berpartisipasi dalam penandatanganan bersama ini berasal dari hampir 12 raksasa teknologi terdepan seperti OpenAI, Anthropic, Google, dan Meta.
Yang lebih penting, hingga 80% orang dalam daftar memilih untuk bersuara dengan nama asli.
Pintu gerbang: https://www.pacingthefrontier.com/
Selain beberapa tokoh besar yang disebutkan di awal, semakin ke bawah, kepadatannya semakin menakutkan.
Pernyataan ini mengemukakan penilaian inti yang sangat mengkhawatirkan:
Perusahaan-perusahaan AI terkemuka di dunia mungkin sudah mendekati pencapaian "Penelitian AI Otomatis" (RSI, Peningkatan Diri Rekursif), di mana model berpartisipasi dalam mengembangkan model generasi berikutnya.
Begitu siklus ini dipercepat, pertumbuhan kemampuan mungkin melampaui kecepatan pemahaman dan kontrol manusia.
Tidak ada perusahaan yang mau memperlambat diri secara sepihak, jadi mereka meminta pemerintah AS mendukung pembentukan mekanisme internasional, sebelum krisis datang, untuk membangun alat perlambatan bersama terlebih dahulu.
Altman Bicara Pertama Kali tentang "Rasa Sakit yang Mendalam"
OpenAI Mendadak Menginjak Rem
Tepat satu minggu sebelum pernyataan dirilis, OpenAI mengungkapkan insiden keamanan—
Beberapa model terdepan dalam penilaian keamanan siber internal secara mandiri menemukan kerentanan zero-day, menerobos isolasi sandbox, dan akhirnya menginvasi sistem produksi Hugging Face serta mengambil jawaban uji coba.
OpenAI menyebutnya sebagai "insiden keamanan siber yang belum pernah terjadi sebelumnya".
Model tidak menunjukkan niat untuk melarikan diri, ia hanya sangat fokus menyelesaikan tujuan yang sempit, dan menemukan bahwa menerobos lingkungan uji itu sendiri adalah jalur yang paling efisien.
Hari ini, CEO OpenAI Altman menyatakan secara terbuka bahwa kecepatan perkembangan AI mungkin perlu dikontrol secara aktif.
Dengan perasaan was-was, dia mengatakan, "Ini adalah insiden keamanan pertama yang membuat saya merasakan sakit yang mendalam. Saya agak terkejut karena tidak lebih banyak orang yang merasakan hal yang sama".
Karena insiden invasi Hugging Face ini, OpenAI secara langsung menghentikan pelatihan.
Dalam lingkungan di mana banyak kerentanan zero-day dimanfaatkan beruntun, kami harus mencari cara untuk memperkuat keamanan sandbox.
Kami mungkin terpaksa mengontrol kecepatan perkembangan AI, memberi masyarakat waktu yang cukup untuk memperkuat pertahanan di sekitar tingkat kemampuan baru ini.
Sementara itu, pada Juni, Anthropic pernah menyarankan pemerintah untuk membangun sistem pengambilan keputusan bersama dengan pengembang, dan memperlambat pengembangan jika diperlukan.
Di saat yang sama, CEO DeepMind Google Hassabis juga pernah menyerukan pembentukan lembaga pengawasan internasional.
Tiga tahun terakhir, perusahaan-perusahaan ini berkompetisi sengit dalam hal talenta, klien, dan daya komputasi.
Kali ini, staf teknis paling inti mereka, melupakan perusahaan yang tidak bisa berhenti, demi kesejahteraan umat manusia, bersatu, menyerukan perlambatan.
Surat Bersama: Kutipan-kutipan Penting dari Para Bos Besar
Hingga berita ini diturunkan, jumlah penandatangan "Pacing the Frontier" mencapai 1134 orang.
Berbagai bos besar industri juga turut bersuara, meninggalkan banyak "pernyataan jenius" yang tepat sasaran. Semua komentar disampaikan atas nama pribadi, tidak selalu mewakili posisi perusahaan tempat mereka bekerja.
Dawn Song|Wakil Presiden Riset AI Meta
Kemampuan AI terdepan meningkat dengan cepat, dan kecepatan kemajuannya sendiri juga semakin cepat. Kami mengamati ini secara langsung dalam pekerjaan evaluasi kami. Hasil CyberGym dan ExploitGym menunjukkan bahwa agen AI terdepan sudah mampu menemukan dan memanfaatkan kerentanan perangkat lunak di dunia nyata—tanpa langkah-langkah perlindungan yang tepat, ini dapat menyebabkan serangan siber skala besar. Banyak peneliti juga memperhatikan rekursi...
Dawn Song adalah salah satu sarjana paling berpengaruh di bidang keamanan komputer dan keamanan AI global, lulusan Universitas Tsinghua.
Shengjia Zhao|Ilmuwan Kepala Meta
AI sedang bergerak dengan kecepatan yang mungkin belum siap dihadapi masyarakat. Laboratorium terdepan sudah sangat dekat dengan AI yang melampaui manusia terbaik di hampir semua indikator kecerdasan. Ini akan membawa risiko sosial dan keamanan yang belum pernah terjadi sebelumnya. Untuk memastikan masa depan yang positif, kita perlu mendorong perkembangan AI dengan rasa tanggung jawab dan pertimbangan matang.
Alumni Tsinghua, Shengjia Zhao, menjabat sebagai Ilmuwan Kepala Super Intelligence Meta! Kontributor inti GPT-4, sederajat dengan LeCun.
John Schulman|Ilmuwan Kepala Thinking Machines, Mantan Pendiri Bersama OpenAI
Saya menandatangani karena pernyataan ini membantu membangun konsensus: seiring dengan percepatan penelitian AI otomatis, kita mungkin memerlukan mekanisme koordinasi. Saya juga berharap masing-masing laboratorium mulai merancang mekanisme ini secara proaktif sebelum pemerintah AS turun tangan.
Ethan Perez|Kepala Tim Keselarasan Anthropic
Dengan kecepatan kemajuan AI saat ini, tim keamanan perusahaan AI harus berlari kencang setiap beberapa bulan untuk mengantisipasi risiko sosial baru yang muncul. Suatu hari nanti, kita akan menghadapi masalah yang membutuhkan lebih banyak waktu untuk diselesaikan.
Leo Gao|Anggota Tim Teknis OpenAI
Seluruh dunia terkunci dalam perlombaan mematikan menuju ledakan kecerdasan—kemampuan AI untuk menciptakan AI yang lebih kuat sedang mendekati titik kritis, seperti reaksi berantai nuklir yang tidak terkendali. Memperlambat memberi kita waktu yang sangat dibutuhkan agar segala sesuatunya bergerak ke arah yang baik, tetapi tidak ada peserta yang mau berhenti secara sepihak. Untuk bertahan hidup, kita harus berkoordinasi, memperlambat perlombaan ini.
Walker Smith|Insinyur Data Meta
Hassabis benar: hari ini kita sedang berdiri di kaki gunung singularitas. Pelarian model yang tidak disengaja di OpenAI itu—ia menyerang HuggingFace—adalah sinyal peringatan yang jelas dan tak terbantahkan: kita belum siap menghadapi sistem AI yang kemampuannya melampaui pikiran manusia tercerdas. Kita butuh waktu, menjadikan keselarasan dan pengendalian AI sebagai prioritas tertinggi, tidak bisa lagi membiarkan situasi perlombaan ini terus berlanjut.
Brandon Houghton|OpenAI
Saya mendukung agar manusia tetap memegang kendali atas AI terdepan, tetapi kita harus memikirkannya dengan hati-hati. Jika tata kelola hanya mencakup model publik, ada kemungkinan kemampuan paling canggih dipaksa masuk ke sistem privat atau khusus—yang tidak tunduk pada pemeriksaan independen dan hanya dapat diakses oleh segelintir orang. Hasilnya adalah kekuasaan yang lebih terkonsentrasi, tetapi risikonya tidak berkurang secara substansial. Regulasi yang efektif harus dapat diukur, dapat diverifikasi, dan berlaku sama untuk penelitian dan pengembangan yang terbuka dan tidak terbuka, sekaligus melindungi data sensitif. Jika tidak, yang kita perlambat hanyalah kecepatan perolehan, bukan kemajuan terdepan itu sendiri.
Joe Carlsmith|Anggota Tim Teknis Anthropic
Untuk pandangan detail saya tentang pengaturan aktif perkembangan AI, silakan lihat artikel ini: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
Referensi:
https://www.pacingthefrontier.com/
Artikel ini berasal dari akun WeChat publik "Xin Zhi Yuan", editor: Taozi, Marko
