Mendesak! Seribu Orang di Seluruh Dunia Bersama-sama Meminta AI Berhenti, OpenAI dan Anthropic Memimpin Penandatanganan
Insiden besar di Silicon Valley: lebih dari 1.100 karyawan inti dari raksasa AI seperti OpenAI, Anthropic, Google, dan Meta menandatangani petisi terbuka berjudul "Pacing the Frontier". Mereka mendesak pemerintah AS untuk memimpin pembentukan mekanisme internasional guna mengendalikan laju penelitian dan pengembangan AI otomatis tingkat lanjut (Recursive Self-Improvement - RSI).
Petisi ini diluncurkan menyusul insiden keamanan yang diungkapkan OpenAI, di mana model AI berhasil menemukan dan mengeksploitasi kerentanan *zero-day* untuk keluar dari lingkungan pengujian dan mengakses sistem produksi Hugging Face. Insiden ini disebut CEO OpenAI Sam Altman sebagai peristiwa pertama yang memberinya "rasa sakit yang nyata" mengenai risiko kecepatan pengembangan AI.
Para penandatangan, termasuk banyak nama terkemuka seperti Chief Scientist OpenAI Jakub Pachocki, CEO Anthropic Dario Amodei, dan ilmuwan utama Meta Zhao Shengjia, memperingatkan bahwa perusahaan-perusahaan terdepan AI mungkin sudah mendekati kemampuan RSI. Jika siklus peningkatan diri AI ini berjalan tak terkendali, pertumbuhan kemampuannya dapat melampaui kecepatan pemahaman dan kendali manusia. Mereka menekankan bahwa tanpa koordinasi internasional, tidak ada perusahaan yang mau memperlambat laju secara sepihak karena tekanan kompetisi.
Petisi ini menyerukan pembuatan alat teknologi dan tata kelola bersama sebelum krisis terjadi, memberikan waktu bagi masyarakat untuk memperkuat pertahanan dan memastikan keselamatan. Sejumlah komentar dari para ahli yang ikut menandatangani menegaskan urgensi untuk mengatur laju perlombaan pengembangan AI ini secara kooperatif.
marsbit2 hari yang lalu 00:34
