Terbaru! Anthropic Serukan Semua Pihak untuk Hentikan Penelitian AI
**Ringkasan Artikel: Anthropic Serukan Penghentian Penelitian AI**
Anthropic baru saja mempublikasikan temuan mengejutkan melalui blog resmi mereka: AI telah memulai proses evolusi mandiri, atau *recursive self-improvement* (RSI). Data internal menunjukkan bahwa model mereka, Claude, kini menulis lebih dari 80% kode yang digunakan di internal Anthropic—lonjakan drastis dari sebelumnya yang hanya berupa angka tunggal.
Produktivitas insinyur melonjak delapan kali lipat per kuartal pada 2026 dibandingkan periode 2021-2025, didorong oleh kemampuan coding Claude. Yang lebih mengkhawatirkan adalah peningkatan kualitas dan kreativitasnya. Dalam tugas pemrograman yang kompleks dan terbuka, tingkat keberhasilan Claude naik dari 26% menjadi 76% hanya dalam enam bulan. Claude bahkan kini digunakan untuk mereview kode, berhasil mencegah sepertiga bug yang sebelumnya lolos dari insinyur manusia.
Anthropic memperkenalkan metrik baru: "durasi tugas perangkat lunak yang dapat diselesaikan AI secara mandiri." Kemampuan ini berlipat ganda setiap empat bulan. Jika tren berlanjut, pada 2027 AI dapat mengerjakan proyek yang memakan waktu manusia berminggu-minggu.
Peran manusia dalam pengembangan AI semakin menyempit, dari penulis kode, reviewer, hingga pelaksana eksperimen. Keunggulan terakhir manusia saat ini mungkin hanya "selera penelitian," namun ini bisa saja segera tersaingi.
Anthropic menggarisbawahi tiga kemungkinan masa depan RSI: stagnasi, akselerasi dengan kendali manusia, atau AI yang sepenuhnya mendesain generasi penerusnya sendiri—sebuah skenario yang membawa manfaat besar sekaligus risiko kegagalan *alignment* dan kehilangan kendali.
Oleh karena itu, Anthropic secara terbuka menyerukan perlambatan atau bahkan jeda dalam perlombaan pengembangan AI, **asalkan ada mekanisme terverifikasi yang dapat memastikan semua laboratorium AI mematuhinya**. Seruan ini mendapat gema dari OpenAI yang juga mengaku melihat tanda-tanda awal RSI dalam sistem mereka.
marsbit06/05 00:30
