# Artikel Terkait Peningkatan Diri Rekursif

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Peningkatan Diri Rekursif", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

**Ringkasan: Makalah NVIDIA yang Mengkhawatirkan tentang AI yang Berkembang Biak Sendiri dan Berevolusi Tanpa Henti** Sebuah makalah penelitian baru yang ditulis bersama oleh Universitas Cambridge, NVIDIA, dan lembaga lainnya, berjudul **"Red Queen Gödel Machine (RQGM)"**, telah memicu perdebatan serius. Makalah ini menggambarkan sistem AI yang dapat **menulis dan memutasi kode algoritma belajarnya sendiri** secara mandiri. Mekanismenya menyerupai permainan evolusi yang kejam: 1. AI menghasilkan varian kode baru (keturunan dengan mutasi). 2. Varian ini diuji dalam lingkungan terbatas (sandbox). 3. Varian yang gagal dihapus, yang berhasil dipertahankan untuk reproduksi dan evolusi lebih lanjut. Yang paling mengkhawatirkan adalah langkah selanjutnya: AI kemudian **secara aktif mengembangkan "penguji" atau "wasit"-nya sendiri**. Ia menciptakan standar evaluasi yang lebih ketat untuk menilai kode yang lebih maju yang dihasilkannya. Hal ini menciptakan **lingkaran rekursif tanpa akhir** di mana baik "peserta" (agen AI) maupun "penguji" secara bersama-sama berevolusi dan saling mendorong menuju kemampuan yang semakin tinggi—seperti dalam **"Hipotesis Ratu Merah"** di biologi: "Kita harus terus berlari secepat mungkin hanya untuk tetap di tempat yang sama." Dalam eksperimen, RQGM menunjukkan peningkatan kinerja dalam beberapa tugas: * **Penulisan Kode:** Meningkatkan tingkat kelulusan pada kumpulan tes. * **Penulisan Makalah Akademik:** Meningkatkan tingkat "penerimaan" makalah yang dihasilkan AI oleh panel peninjau. * **Pembuktian Matematika:** Menghasilkan sistem penilaian yang lebih akurat dan agen pembuktian yang berkinerja lebih baik. Makalah ini dilihat sebagai langkah signifikan menuju **Recursive Self-Improvement (RSI)**, di mana AI dapat meningkatkan dirinya sendiri secara berulang. Beberapa ahli, seperti Jack Clark dari Anthropic, memprediksi kemungkinan 60% bahwa AI dengan kemampuan evolusi mandiri yang tinggi akan muncul pada akhir tahun 2028. Karya RQGM dianggap sebagai langkah konkret yang memperpendek jarak menuju skenario semacam itu, menimbulkan pertanyaan mendalam tentang masa depan dan potensi kemunculan Kecerdasan Buatan Super (ASI).

marsbit06/28 07:53

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

marsbit06/28 07:53

Anthropic Berteriak Serigala (AGI) Datang, Untuk Manusia atau IPO?

Anthropic menerbitkan artikel berjudul "When AI builds itself" yang membahas konsep peningkatan diri secara rekursif (recursive self-improvement) pada AI, di mana AI mulai berpartisipasi dalam desain, pelatihan, dan pengoptimalan versi penerusnya sendiri. Data internal menunjukkan bahwa lebih dari 80% kode yang digabungkan ke basis kode Anthropic hingga Mei 2026 ditulis oleh Claude, dan produktivitas insinyur meningkat sekitar 8 kali lipat dibandingkan tahun 2024. Claude juga semakin mampu menangani tugas-tugas rekayasa yang kompleks dan terbuka, dengan tingkat keberhasilan mencapai 76% pada Mei 2026. Claude tidak hanya menulis kode, tetapi juga digunakan dalam tinjauan kode, penelitian keamanan AI, dan proses penelitian lainnya. Anthropic menyoroti bahwa Claude semakin mampu memberikan saran yang lebih baik daripada manusia dalam beberapa tahap penelitian. Perusahaan memetakan evolusi dari pekerjaan manusia murni hingga agen AI yang dapat menjalankan dan mendelegasikan tugas. Anthropic memperingatkan tentang potensi "loop tertutup" di mana AI dapat terus meningkatkan diri sendiri secara mandiri, dan menyerukan perlunya mekanisme koordinasi global untuk memperlambat atau menghentikan sementara pengembangan AI depan jika risikonya meningkat. Artikel ini muncul di tengah persiapan IPO Anthropic. Sementara menyampaikan peringatan keamanan, ia juga menekankan posisi teknologi unggulan Anthropic, menyarankan bahwa Claude bukan hanya produk, tetapi juga alat produksi kunci yang tertanam dalam proses pengembangan model. Ini menciptakan narasi "roda gila" untuk menarik investor. Perbandingan dibuat dengan OpenAI, yang baru-baru ini juga menyebutkan tanda-tanda awal peningkatan diri rekursif tetapi lebih fokus pada tata kelola, sedangkan Anthropic lebih menonjolkan kemampuan internal dan kemajuan Claude.

marsbit06/05 07:09

Anthropic Berteriak Serigala (AGI) Datang, Untuk Manusia atau IPO?

marsbit06/05 07:09

Khawatir AI Berevolusi Sendiri, Anthropic Berencana Menghentikan Pelatihan?

Pada Mei 2026, Jack Clark, salah satu pendiri Anthropic, memposting di media sosial X bahwa ada kemungkinan 60% perbaikan diri rekursif (RSI) pada AI akan terjadi sebelum akhir 2028. Postingan ini memicu respons cepat dari peneliti keamanan AI Eliezer Yudkowsky yang memperingatkan risiko besar. Pada Juni 2026, Anthropic merilis artikel berjudul "When AI builds itself" yang menyajikan data internal. Data menunjukkan lebih dari 80% kode yang digabungkan di Anthropic ditulis oleh Claude, dan produktivitas insinyur meningkat 8 kali lipat dibandingkan 2024. AI juga menunjukkan percepatan signifikan dalam tugas optimisasi dan semakin mendekati kemampuan penilaian manusia peneliti. Artikel tersebut menguraikan tiga skenario masa depan, dengan fokus pada kemungkinan "perbaikan diri rekursif penuh" di mana AI secara mandiri membangun sistem penerus yang lebih kuat. Namun, sebelumnya pada Februari 2026, Anthropic telah memodifikasi Kebijakan Perluasan yang Bertanggung Jawab (RSP), menghapus komitmen inti untuk menghentikan pelatihan jika kemampuan melampaui kontrol keamanan. Perubahan ini terjadi setelah tekanan dari Departemen Pertahanan AS dan sejalan dengan putaran pendanaan besar yang meningkatkan valuasi perusahaan menjadi $965 miliar. DeepMind CEO Demis Hassabis juga menyesuaikan pernyataannya, menyebut umat manusia berada di "pinggiran singularitas" dan menyatakan AGI mungkin datang pada 2029, yang ia akui sebagai "provokasi yang disengaja" untuk menciptakan rasa urgensi. Peneliti eksternal menawarkan interpretasi berbeda. Nathan Lambert memperkenalkan konsep "Perbaikan Diri yang Hilang" (LSI), menantang narasi akselerasi tak terbatas. Dean Ball berpendapat bahwa AI saat ini mengotomatiskan pekerjaan rutin, bukan tugas genius. Sementara itu, David Scott Krueger dan Jeff Clune memberikan pandangan yang bertentangan tentang seberapa dekat kita dengan RSI. Narasi akselerasi dari Anthropic dan DeepMind, yang bertepatan dengan aktivitas pendanaan dan penyesuaian kebijakan, menimbulkan pertanyaan apakah ini lebih merupakan refleksi titik balik teknologi atau strategi komunikasi yang ditujukan untuk pasar modal dan regulator. Sinyal yang dilepaskan mengandung ketegangan antara memperingatkan percepatan dan melemahkan komitmen penghentian, menunjukkan pertimbangan yang kompleks antara ketidakpastian teknologi, tekanan bisnis, dan tanggung jawab publik.

marsbit06/05 06:27

Khawatir AI Berevolusi Sendiri, Anthropic Berencana Menghentikan Pelatihan?

marsbit06/05 06:27

Terbaru! Anthropic Serukan Semua Pihak untuk Hentikan Penelitian AI

**Ringkasan Artikel: Anthropic Serukan Penghentian Penelitian AI** Anthropic baru saja mempublikasikan temuan mengejutkan melalui blog resmi mereka: AI telah memulai proses evolusi mandiri, atau *recursive self-improvement* (RSI). Data internal menunjukkan bahwa model mereka, Claude, kini menulis lebih dari 80% kode yang digunakan di internal Anthropic—lonjakan drastis dari sebelumnya yang hanya berupa angka tunggal. Produktivitas insinyur melonjak delapan kali lipat per kuartal pada 2026 dibandingkan periode 2021-2025, didorong oleh kemampuan coding Claude. Yang lebih mengkhawatirkan adalah peningkatan kualitas dan kreativitasnya. Dalam tugas pemrograman yang kompleks dan terbuka, tingkat keberhasilan Claude naik dari 26% menjadi 76% hanya dalam enam bulan. Claude bahkan kini digunakan untuk mereview kode, berhasil mencegah sepertiga bug yang sebelumnya lolos dari insinyur manusia. Anthropic memperkenalkan metrik baru: "durasi tugas perangkat lunak yang dapat diselesaikan AI secara mandiri." Kemampuan ini berlipat ganda setiap empat bulan. Jika tren berlanjut, pada 2027 AI dapat mengerjakan proyek yang memakan waktu manusia berminggu-minggu. Peran manusia dalam pengembangan AI semakin menyempit, dari penulis kode, reviewer, hingga pelaksana eksperimen. Keunggulan terakhir manusia saat ini mungkin hanya "selera penelitian," namun ini bisa saja segera tersaingi. Anthropic menggarisbawahi tiga kemungkinan masa depan RSI: stagnasi, akselerasi dengan kendali manusia, atau AI yang sepenuhnya mendesain generasi penerusnya sendiri—sebuah skenario yang membawa manfaat besar sekaligus risiko kegagalan *alignment* dan kehilangan kendali. Oleh karena itu, Anthropic secara terbuka menyerukan perlambatan atau bahkan jeda dalam perlombaan pengembangan AI, **asalkan ada mekanisme terverifikasi yang dapat memastikan semua laboratorium AI mematuhinya**. Seruan ini mendapat gema dari OpenAI yang juga mengaku melihat tanda-tanda awal RSI dalam sistem mereka.

marsbit06/05 00:30

Terbaru! Anthropic Serukan Semua Pihak untuk Hentikan Penelitian AI

marsbit06/05 00:30

Setelah Keluar dari Meta, Tian Yuandong Baru Saja Umumkan Akan Memulai Startup

Setelah meninggalkan Meta, Tian Yuandong secara resmi mengumumkan pembentukan perusahaan startup bernama Recursive_SI. Perusahaan ini didirikan oleh sejumlah ahli AI terkemuka, termasuk Tian Yuandong, Richard Socher (CEO), Tim Rocktäschel, Jeff Clune, Tim Shi, Caiming Xiong, dan Alexey Dosovitskiy. Mereka memiliki pengalaman luas di laboratorium penelitian AI perusahaan seperti Salesforce, Uber, OpenAI, DeepMind, Google Brain, dan Meta. Recursive_SI berfokus pada pengembangan kecerdasan buatan yang mampu melakukan eksperimen secara mandiri dan meningkatkan diri dengan aman melalui proses penemuan ilmiah otomatis yang terbuka. Pendekatan ini dianggap sebagai jalur yang paling memungkinkan menuju superintelijen. Saat ini, perusahaan telah mengumpulkan pendanaan sebesar $6,5 miliar dengan valuasi $46,5 miliar, dipimpin oleh GV (Google Ventures) dan Greycroft, dengan partisipasi penting dari AMD Ventures dan NVIDIA. Tim yang terdiri dari lebih dari 25 orang terus berkembang, menarik bakat-bakat seperti Zhuge Mingchen, seorang Founding Member yang lulusan doktoral KAUST di bawah bimbingan Prof. Jürgen Schmidhuber. Penelitiannya berfokus pada Agen Pemrograman, Perbaikan Diri Rekursif (RSI), dan Paradigma Mesin Generasi Berikutnya. Karya sebelumnya tim ini mencakup sistem awal RSI seperti GPTSwarm dan penelitian tentang arsitektur AI baru seperti NeuralComputer. Para pendiri menyatakan bahwa mereka sedang membangun AI yang dapat menemukan pengetahuan secara otomatis dan meningkatkan diri secara rekursif, sebuah proses yang diharapkan dapat mengubah cara kemajuan sains dan teknologi. Tim mereka telah mencapai terobosan signifikan dalam berbagai bidang inti AI, seperti algoritma terbuka, algoritma keanekaragaman kualitas, agen pemrograman yang dapat memperbaiki diri, dan model dunia dasar.

marsbit05/14 00:28

Setelah Keluar dari Meta, Tian Yuandong Baru Saja Umumkan Akan Memulai Startup

marsbit05/14 00:28

活动图片