Jika Kecerdasan Buatan Umum (AGI) terwujud besok, seperti apa tahap selanjutnya dari AI?
Tim Google DeepMind dan kolaboratornya dalam laporan penelitian terbaru mengusulkan bahwa AGI kemungkinan besar bukanlah titik akhir. Menurut mereka, AI tidak akan berhenti pada tingkat yang mendekati manusia, tetapi akan terus menjadi lebih kuat, melampaui tim ahli manusia paling top, dan pada akhirnya menuju Kecerdasan Buatan Super (ASI).
Seperti yang pernah ditulis Alan Turing pada tahun 1950: “Kita hanya dapat melihat jarak yang sangat pendek di depan, tetapi kita juga dapat melihat bahwa masih banyak pekerjaan yang harus diselesaikan.”
Dalam laporan ini, tim peneliti memetakan empat jalur potensial transisi AI dari AGI ke ASI, kemungkinan hambatan kunci yang muncul, serta pertanyaan penelitian yang paling layak untuk didorong.
Tautan makalah: https://arxiv.org/abs/2606.12683
Tim peneliti menyatakan, karena ketidakpastian yang besar dalam memprediksi kemajuan ASI, saat ini tidak dapat dikesampingkan kemungkinan AI akan terus berkembang secara akseleratif dalam beberapa tahun ke depan. Ini mungkin berarti bahwa gambaran "lompatan transformatif tunggal" yang dipicu oleh diperkenalkannya AGI tingkat manusia ke dalam masyarakat, mungkin tidak akurat.
Prospek yang lebih tepat mungkin adalah kemajuan dan terobosan yang digerakkan oleh AI akan bermunculan di berbagai bidang sains dan teknologi, yang selanjutnya memicu serangkaian perubahan sosial yang transformatif.
Untuk menghadapi prospek ini, diperlukan sebuah proyek interdisipliner skala besar dengan visi global dan kepedulian yang luas.
Setelah AGI, Datanglah ASI
Sebelum membahas bagaimana AI akan terus menjadi lebih kuat, tim peneliti membedakan tiga konsep yang mudah tercampur: AGI, ASI, dan UAI.
AGI (Artificial General Intelligence): Sebuah sistem kecerdasan umum yang mencapai tingkat median manusia di sebagian besar tugas kognitif. Ini merujuk pada kemampuan kognitif umum orang biasa, bukan tingkat ahli puncak. Tim peneliti juga mencatat bahwa AGI generasi pertama mungkin telah melampaui manusia dalam beberapa tugas tertentu, hanya saja belum memiliki generalisasi yang cukup luas.
ASI (Artificial Super Intelligence): Ini bukan hanya melampaui manusia dalam beberapa tugas, tetapi secara keseluruhan melebihi manusia di hampir semua bidang yang menjadi perhatian manusia; objek referensinya bukanlah ahli tunggal, melainkan kolektif ahli manusia skala besar yang terkoordinasi dengan baik.
UAI (Universal Artificial Intelligence): Batas atas teoritis dari kecerdasan mesin, yang dideskripsikan secara formal oleh kerangka AIXI. AIXI merujuk pada agen kecerdasan umum optimal secara teoretis. AI di dunia nyata hanya dapat mendekati batas atas ini secara bertahap, tidak dapat mencapainya secara langsung.
Di sisi lain, tim peneliti mencatat bahwa perjalanan dari AGI ke ASI mungkin tidak hanya satu jalur. Mereka mengusulkan empat jalur yang mungkin berjalan paralel, secara spesifik sebagai berikut:
Jalur Satu: Terus Memperluas Komputasi, Model, dan Data
Jalur ini melanjutkan logika dasar kemajuan AI dalam dekade terakhir, termasuk perangkat keras yang lebih kuat, skala pelatihan yang lebih besar, efisiensi algoritma yang lebih tinggi, model yang lebih besar, dan data yang lebih banyak. Tim peneliti menunjukkan bahwa "daya komputasi efektif" dalam beberapa tahun terakhir kira-kira setara dengan pertumbuhan 10 kali lipat per tahun. Sepanjang jalur ini, peningkatan AI tidak hanya berasal dari model tunggal yang menjadi lebih kuat, tetapi juga dari perluasan kemampuan kolektif yang dihasilkan oleh lebih banyak instans, inferensi yang lebih cepat, dan kolaborasi skala besar.
Jalur Dua: Algoritma Terus Berevolusi, Bahkan Muncul Perubahan Paradigma Baru
Tim peneliti menunjukkan bahwa konteks yang lebih panjang, pembelajaran berkelanjutan, peningkatan dengan retrieval, penggunaan alat, pengambilan keputusan yang kuat dalam interaksi lingkungan, model dunia, dll., semuanya merupakan perpanjangan dari paradigma yang ada; sementara arsitektur baru, target pelatihan baru, atau mekanisme pembelajaran baru, lebih mendekati perubahan paradigma yang sesungguhnya. Tim peneliti tidak memprediksi secara spesifik perubahan paradigma berikutnya seperti apa, tetapi berpendapat bahwa ini tetap bisa menjadi sumber penting kemajuan AI yang berkelanjutan setelah AGI.
Jalur Tiga: Perbaikan Diri Secara Rekursif
AI yang lebih kuat dapat membantu mengembangkan AI generasi berikutnya yang lebih kuat, membentuk umpan balik positif. Tim peneliti menyebutkan bahwa mekanisme ini dapat terwujud dalam perbaikan algoritma dan kode, desain perangkat keras, generasi dan seleksi data, serta peningkatan efisiensi pembagian kerja. Contoh seperti AlphaZero yang pertama menggunakan pencarian untuk meningkatkan output, lalu mendistilasi hasilnya kembali ke model, adalah contoh terkait. Yang lebih penting adalah sejauh mana umpan balik positif ini dapat berkembang dalam kenyataan.
Jalur Empat: Koordinasi Multi-Agen dan Kecerdasan Kolektif
Jalur ini tidak berfokus pada seberapa kuat satu model tunggal menjadi, melainkan pada sejumlah besar sistem AGI yang melalui pembagian kerja dan kolaborasi, membentuk kecerdasan kolektif yang melampaui batas atas agen tunggal. Tim peneliti melihat perusahaan otomatis, organisasi penelitian, dan sistem ekonomi virtual, dll., sebagai bentuk yang mungkin muncul dari jalur ini. Menurut jalur ini, ASI belum tentu merupakan model tunggal yang sangat kuat, tetapi juga bisa merupakan kolektif AI yang sangat terkoordinasi.
Tim peneliti juga mengingatkan, perjalanan dari AGI ke ASI belum tentu hanya soal daya komputasi yang semakin banyak. Ekspansi daya komputasi tentu penting, tetapi akan segera menabrak batas atas sumber daya, dan masih bergantung pada ide-ide algoritma baru, bahkan paradigma baru. Yang lebih perlu diperhatikan adalah, meskipun AGI tunggal hanya mendekati tingkat manusia, begitu sejumlah besar AGI dapat membagi kerja dan berkolaborasi secara efisien, kemampuan keseluruhan mereka mungkin melampaui manusia.
Di Mana Letak Kesulitan yang Sesungguhnya?
Setelah membahas empat jalur potensial, tim peneliti juga merangkum enam jenis hambatan kunci yang mungkin mempengaruhi AI untuk terus menjadi lebih kuat. Secara spesifik sebagai berikut:
1. Tembok Data (Data Wall)
Tim peneliti menunjukkan bahwa data yang dihasilkan manusia berkualitas tinggi adalah terbatas. Data teks manusia yang cocok untuk pelatihan awal skala besar mungkin mendekati batas atasnya dalam dekade ini. Data sintetis, data lingkungan simulasi, serta data yang dihasilkan dari interaksi AI dengan dunia nyata, apakah bisa mengisi kekosongan ini cukup cepat, tim peneliti tidak mengambil kesimpulan, melainkan mencantumkannya sebagai salah satu ketidakpastian inti.
2. Tekanan Ekonomi dan Sumber Daya Alam
Jika kemajuan AI terus bergantung terutama pada ekspansi skala, maka energi, chip, pusat data, rantai pasokan, dan modal yang diinvestasikan harus tumbuh bersamaan. Tim peneliti menganggap ini sebagai kendala nyata, tetapi juga menunjukkan bahwa AI itu sendiri juga dapat meningkatkan output ekonomi, meningkatkan efisiensi algoritma dan perangkat keras, sehingga meredakan tekanan ini.
3. Paradigma Jaringan Syaraf Tiruan Saat Ini Mungkin Tidak Cukup
Tim peneliti tidak mengecualikan kemungkinan jalur saat ini menuju ASI, tetapi juga mengingatkan bahwa jalur ini dalam hal pembelajaran berkelanjutan, penalaran yang stabil, pengambilan keputusan interaktif, ekspresi ketidakpastian, serta masalah halusinasi dan injeksi prompt, masih mungkin memiliki keterbatasan mendasar.
4. Penelitian Itu Sendiri Akan Semakin Sulit
Tim peneliti menunjukkan, seiring bidang ini matang, terus mencapai kemajuan seringkali membutuhkan investasi yang lebih tinggi; apakah AI dapat mengimbangi tren ini melalui penelitian otomatis, masih perlu penelitian lebih lanjut.
5. Batasan Abstraksi
Tim peneliti berpendapat bahwa jika AI hari ini terutama mempelajari konsep dan sistem simbol yang telah dibentuk manusia, AI mungkin mahir dalam merekombinasi konsep yang ada, tetapi belum tentu mahir dalam mengekstrak primitif konsep baru secara mandiri dari dunia mentah. Misalnya, jika sebuah model besar modern hanya dilatih berdasarkan pengetahuan pra-Newton, hampir tidak mungkin baginya untuk hanya mengandalkan materi tersebut untuk menyimpulkan teori relativitas umum atau mekanika kuantum secara mandiri.
6. Regulasi, Tata Kelola, dan Penolakan Sosial
Tim peneliti berpendapat bahwa ambang batas regulasi, sistem perizinan, persyaratan pelaporan insiden, serta reaksi sosial yang dipicu oleh kecelakaan, semua akan mempengaruhi ritme ekspansi kemampuan AI. Di balik ini bukan hanya masalah teknis, tetapi juga melibatkan kebijakan, institusi, pasar, dan persepsi risiko publik.
Kekurangan dan Perkembangan di Masa Depan
Akhirnya, tim peneliti mengajukan pertanyaan yang sangat realistis: Jika AI telah melampaui manusia, bagaimana kita dapat terus mengevaluasi kemampuannya?
Saat ini, banyak benchmark menggunakan tingkat manusia sebagai referensi. Begitu AI mendekati atau melampaui manusia terbaik dalam ujian, pemrograman, matematika, tanya jawab, dan tes keahlian khusus, indikator evaluasi yang ada mungkin kehilangan maknanya. Oleh karena itu, di masa depan perlu dibangun sistem evaluasi dan prediksi baru yang mengarah ke era pasca-AGI, termasuk tugas kompetisi dan kolaborasi multi-agen, pengujian yang dihasilkan secara otomatis, tugas kompresi umum, produktivitas ekonomi dan indikator tidak langsung lainnya, serta mekanisme evaluasi yang dapat terus diperbarui dan tidak cepat jenuh.
Namun, dari isinya, ini bukan makalah eksperimen, melainkan lebih seperti laporan teknis yang berpusat pada era pasca-AGI. Tim peneliti menunjukkan bahwa arah yang layak diperhatikan di masa depan termasuk: terus memperluas sistem AGI yang ada, mengeksplorasi paradigma AI baru, mewujudkan perbaikan diri sistem secara rekursif, serta membentuk kemampuan keseluruhan yang lebih kuat melalui kolaborasi multi-agen skala besar.
Terakhir, tim peneliti menunjukkan bahwa ASI juga bukan sistem "ajaib" yang mahatahu dan mahakuasa, ia masih dibatasi oleh hukum fisika, kompleksitas komputasi, data, sumber daya, waktu eksperimen, dan kecepatan umpan balik realitas. AI akan melaju di jalur mana, seberapa cepat, saat ini masih sangat tidak pasti. Di masa depan, masih perlu dibangun mekanisme benchmark, prediksi, dan penelitian yang terus diperbarui, untuk mengurangi ketidakpastian dalam penilaian.
Artikel ini berasal dari akun WeChat publik "学术头条" (ID: SciTouTiao), penulis: 学术头条
