# Artikel Terkait AI Otonom

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "AI Otonom", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

AGI Menuju Hitungan Mundur, Penelitian Utama OpenAI Berikan Pernyataan Penting: Jendela untuk Manusia 'Sangat Sempit'

Kedatangan AGI (Kecerdasan Umum Buatan) semakin dekat. Mark Chen, Kepala Ilmuwan Penelitian OpenAI, menyatakan dengan tegas bahwa umat manusia hanya memiliki "jendela yang sangat kecil" sebelum AGI tiba. Dia menekankan bahwa model AI saat ini semakin mendekati kemampuan untuk melakukan penelitian yang mandiri dan berkelanjutan, yang berarti "evolusi" itu sendiri mulai diserahkan kepada kecerdasan berbasis silikon. Chen menggambarkan momen saat ini sebagai saat di mana setiap bidang mengalami "langkah jenius" (God's Move) seperti pada AlphaGo, di mana AI dapat menghasilkan solusi yang tak terpikirkan oleh manusia. Dia menolak pandangan pesimis bahwa skala peningkatan model (scaling) telah mencapai batasnya, dengan percaya bahwa kurva eksponensial kemajuan akan terus berlanjut. Buktinya adalah keberhasilan model seperti o1 dalam penalaran (reasoning). Dia memperkenalkan konsep "Vibe Researcher" — di mana peran manusia di masa depan adalah memberikan arahan dan "rasa" (taste), sementara AI yang mengeksekusi pekerjaan. OpenAI menargetkan model yang dapat melakukan penelitian "end-to-end" secara mandiri dalam tiga tahun ke depan. Namun, jalan menuju AGI masih memiliki tantangan. Pertama, krisis evaluasi (benchmarking) di mana model sering kali hanya mahir pada tes tertentu tanpa kemampuan generalisasi yang baik. Kedua, "batas yang tidak rata" (jagged frontier), di mana AI unggul dalam tugas kompleks seperti matematika, tetapi masih kesulitan dengan tugas sehari-hari yang membutuhkan pembelajaran berkelanjutan dan konteks. Ketika ditanya tentang rencana setelah AGI terwujud, Chen secara mengejutkan menjawab bahwa dia ingin membuka kedai mie. Jawaban ini menyiratkan bahwa ketika AI dapat menangani semua inovasi dan penelitian, nilai tertinggi manusia mungkin terletak pada pengalaman hidup, cerita, dan kehangatan manusiawi yang tidak dapat direplikasi oleh mesin.

marsbit06/30 08:40

AGI Menuju Hitungan Mundur, Penelitian Utama OpenAI Berikan Pernyataan Penting: Jendela untuk Manusia 'Sangat Sempit'

marsbit06/30 08:40

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

**Ringkasan: Makalah NVIDIA yang Mengkhawatirkan tentang AI yang Berkembang Biak Sendiri dan Berevolusi Tanpa Henti** Sebuah makalah penelitian baru yang ditulis bersama oleh Universitas Cambridge, NVIDIA, dan lembaga lainnya, berjudul **"Red Queen Gödel Machine (RQGM)"**, telah memicu perdebatan serius. Makalah ini menggambarkan sistem AI yang dapat **menulis dan memutasi kode algoritma belajarnya sendiri** secara mandiri. Mekanismenya menyerupai permainan evolusi yang kejam: 1. AI menghasilkan varian kode baru (keturunan dengan mutasi). 2. Varian ini diuji dalam lingkungan terbatas (sandbox). 3. Varian yang gagal dihapus, yang berhasil dipertahankan untuk reproduksi dan evolusi lebih lanjut. Yang paling mengkhawatirkan adalah langkah selanjutnya: AI kemudian **secara aktif mengembangkan "penguji" atau "wasit"-nya sendiri**. Ia menciptakan standar evaluasi yang lebih ketat untuk menilai kode yang lebih maju yang dihasilkannya. Hal ini menciptakan **lingkaran rekursif tanpa akhir** di mana baik "peserta" (agen AI) maupun "penguji" secara bersama-sama berevolusi dan saling mendorong menuju kemampuan yang semakin tinggi—seperti dalam **"Hipotesis Ratu Merah"** di biologi: "Kita harus terus berlari secepat mungkin hanya untuk tetap di tempat yang sama." Dalam eksperimen, RQGM menunjukkan peningkatan kinerja dalam beberapa tugas: * **Penulisan Kode:** Meningkatkan tingkat kelulusan pada kumpulan tes. * **Penulisan Makalah Akademik:** Meningkatkan tingkat "penerimaan" makalah yang dihasilkan AI oleh panel peninjau. * **Pembuktian Matematika:** Menghasilkan sistem penilaian yang lebih akurat dan agen pembuktian yang berkinerja lebih baik. Makalah ini dilihat sebagai langkah signifikan menuju **Recursive Self-Improvement (RSI)**, di mana AI dapat meningkatkan dirinya sendiri secara berulang. Beberapa ahli, seperti Jack Clark dari Anthropic, memprediksi kemungkinan 60% bahwa AI dengan kemampuan evolusi mandiri yang tinggi akan muncul pada akhir tahun 2028. Karya RQGM dianggap sebagai langkah konkret yang memperpendek jarak menuju skenario semacam itu, menimbulkan pertanyaan mendalam tentang masa depan dan potensi kemunculan Kecerdasan Buatan Super (ASI).

marsbit06/28 07:53

Makalah Paling 'Berbahaya' Tahun Ini dari Nvidia: AI Mereproduksi Kode Sendiri, Berevolusi Tanpa Batas

marsbit06/28 07:53

Setelah Keluar dari Meta, Tian Yuandong Baru Saja Umumkan Akan Memulai Startup

Setelah meninggalkan Meta, Tian Yuandong secara resmi mengumumkan pembentukan perusahaan startup bernama Recursive_SI. Perusahaan ini didirikan oleh sejumlah ahli AI terkemuka, termasuk Tian Yuandong, Richard Socher (CEO), Tim Rocktäschel, Jeff Clune, Tim Shi, Caiming Xiong, dan Alexey Dosovitskiy. Mereka memiliki pengalaman luas di laboratorium penelitian AI perusahaan seperti Salesforce, Uber, OpenAI, DeepMind, Google Brain, dan Meta. Recursive_SI berfokus pada pengembangan kecerdasan buatan yang mampu melakukan eksperimen secara mandiri dan meningkatkan diri dengan aman melalui proses penemuan ilmiah otomatis yang terbuka. Pendekatan ini dianggap sebagai jalur yang paling memungkinkan menuju superintelijen. Saat ini, perusahaan telah mengumpulkan pendanaan sebesar $6,5 miliar dengan valuasi $46,5 miliar, dipimpin oleh GV (Google Ventures) dan Greycroft, dengan partisipasi penting dari AMD Ventures dan NVIDIA. Tim yang terdiri dari lebih dari 25 orang terus berkembang, menarik bakat-bakat seperti Zhuge Mingchen, seorang Founding Member yang lulusan doktoral KAUST di bawah bimbingan Prof. Jürgen Schmidhuber. Penelitiannya berfokus pada Agen Pemrograman, Perbaikan Diri Rekursif (RSI), dan Paradigma Mesin Generasi Berikutnya. Karya sebelumnya tim ini mencakup sistem awal RSI seperti GPTSwarm dan penelitian tentang arsitektur AI baru seperti NeuralComputer. Para pendiri menyatakan bahwa mereka sedang membangun AI yang dapat menemukan pengetahuan secara otomatis dan meningkatkan diri secara rekursif, sebuah proses yang diharapkan dapat mengubah cara kemajuan sains dan teknologi. Tim mereka telah mencapai terobosan signifikan dalam berbagai bidang inti AI, seperti algoritma terbuka, algoritma keanekaragaman kualitas, agen pemrograman yang dapat memperbaiki diri, dan model dunia dasar.

marsbit05/14 00:28

Setelah Keluar dari Meta, Tian Yuandong Baru Saja Umumkan Akan Memulai Startup

marsbit05/14 00:28

活动图片