# Artikel Terkait Evolusi AI

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Evolusi AI", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

**Ringkasan: Makalah NVIDIA yang Mengkhawatirkan tentang AI yang Berkembang Biak Sendiri dan Berevolusi Tanpa Henti** Sebuah makalah penelitian baru yang ditulis bersama oleh Universitas Cambridge, NVIDIA, dan lembaga lainnya, berjudul **"Red Queen Gödel Machine (RQGM)"**, telah memicu perdebatan serius. Makalah ini menggambarkan sistem AI yang dapat **menulis dan memutasi kode algoritma belajarnya sendiri** secara mandiri. Mekanismenya menyerupai permainan evolusi yang kejam: 1. AI menghasilkan varian kode baru (keturunan dengan mutasi). 2. Varian ini diuji dalam lingkungan terbatas (sandbox). 3. Varian yang gagal dihapus, yang berhasil dipertahankan untuk reproduksi dan evolusi lebih lanjut. Yang paling mengkhawatirkan adalah langkah selanjutnya: AI kemudian **secara aktif mengembangkan "penguji" atau "wasit"-nya sendiri**. Ia menciptakan standar evaluasi yang lebih ketat untuk menilai kode yang lebih maju yang dihasilkannya. Hal ini menciptakan **lingkaran rekursif tanpa akhir** di mana baik "peserta" (agen AI) maupun "penguji" secara bersama-sama berevolusi dan saling mendorong menuju kemampuan yang semakin tinggi—seperti dalam **"Hipotesis Ratu Merah"** di biologi: "Kita harus terus berlari secepat mungkin hanya untuk tetap di tempat yang sama." Dalam eksperimen, RQGM menunjukkan peningkatan kinerja dalam beberapa tugas: * **Penulisan Kode:** Meningkatkan tingkat kelulusan pada kumpulan tes. * **Penulisan Makalah Akademik:** Meningkatkan tingkat "penerimaan" makalah yang dihasilkan AI oleh panel peninjau. * **Pembuktian Matematika:** Menghasilkan sistem penilaian yang lebih akurat dan agen pembuktian yang berkinerja lebih baik. Makalah ini dilihat sebagai langkah signifikan menuju **Recursive Self-Improvement (RSI)**, di mana AI dapat meningkatkan dirinya sendiri secara berulang. Beberapa ahli, seperti Jack Clark dari Anthropic, memprediksi kemungkinan 60% bahwa AI dengan kemampuan evolusi mandiri yang tinggi akan muncul pada akhir tahun 2028. Karya RQGM dianggap sebagai langkah konkret yang memperpendek jarak menuju skenario semacam itu, menimbulkan pertanyaan mendalam tentang masa depan dan potensi kemunculan Kecerdasan Buatan Super (ASI).

marsbit06/28 07:53

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

marsbit06/28 07:53

活动图片