Pemenang Nobel Hassabis Menggegerkan: Dampak AGI Akan 10 Kali Lipat Revolusi Industri

Baru saja, pemenang Hadiah Nobel, pemimpin DeepMind Demis Hassabis, dengan tegas menyatakan:

Kecerdasan Buatan Umum (AGI) akan segera terwujud.

Hassabis berseru:

Pengembangan obat-obatan tidak lagi membutuhkan uji coba panjang selama satu dekade, energi bersih baru mungkin akan terobos dalam beberapa tahun, material canggih akan membuat "kelangkaan sumber daya" menjadi istilah usang.

Kita bahkan mungkin mencapai titik di mana—sumber daya bukan lagi faktor penghambat kemajuan manusia.

Era baru kelimpahan yang menakjubkan, sedang mengetuk pintu.

Dia secara gamblang menyatakan: Saat ini adalah momen kunci dalam sejarah manusia, AGI mungkin akan terwujud hanya dalam beberapa tahun saja!

Hassabis memberikan sebuah perhitungan yang mengguncang: Skala dampak AGI akan 10 kali lipat Revolusi Industri, dan kecepatannya juga 10 kali lipat.

Ini adalah "serangan dimensional". Ini berarti, umat manusia akan segera menyambut era gejolak dengan kecepatan 100 kali lipat.

Di bawah ramalan yang begitu radikal ini, Hassabis melontarkan proposalnya yang paling kontroversial: Mendirikan sebuah organisasi serupa Otoritas Jasa Keuangan (FINRA), yang mengharuskan semua "lab terdepan" (frontier labs) menjalani masa "pra-peninjauan" 30 hari sebelum merilis model.

Bahkan dalam situasi ekstrem, lembaga ini berhak mengoordinasikan laboratorium global untuk secara kolektif memperlambat kecepatan pengembangan.

Tapi Hassabis tidak berhenti di sini.

Dia menarik lensa lebih jauh, langsung menohok kebingungan terdalam umat manusia: "Bahkan setelah kita memecahkan tantangan teknis yang berat ini, akan tetap ada masalah ekonomi dan filosofis yang lebih kompleks yang harus diselesaikan."

Di era pasca-kelangkaan, model ekonomi baru seperti apa yang dibutuhkan untuk membantu semua orang bersama-sama makmur? Nilai-nilai apa yang ingin kita anut? Apa makna dan tujuan hidup? Bahkan, bagaimana kondisi manusia itu sendiri akan berubah?

Di bawah ini, adalah terjemahan artikel Hassabis—"Kerangka Kerja untuk AI Terdepan dan Fajar Zaman Baru" ("A Framework for Frontier AI and the Dawning of a New Age").

Kerangka Kerja untuk AI Terdepan dan Fajar Zaman Baru

Ini adalah momen kunci dalam sejarah manusia.

Kecerdasan Buatan Umum (AGI)—sistem yang memiliki semua kemampuan kognitif otak manusia, mungkin hanya berjarak beberapa tahun dari kita. Puluhan tahun kemudian, saat melihat ke belakang ke saat ini, saya pikir kita akan menyadari: saat itu kita sedang berdiri di kaki gunung singularitas, dan tidak berlebihan untuk mengatakan ini adalah fajar era baru umat manusia.

Saya telah mempelajari AGI sepanjang hidup saya, karena saya selalu yakin: jika dibangun dan diterapkan dengan bertanggung jawab, itu akan terbukti sebagai salah satu teknologi paling bermanfaat dan transformatif yang pernah ada dalam sejarah manusia. AGI tidak dapat disamakan dengan terobosan teknologi biasa, bahkan teknologi yang berdampak besar seperti internet atau internet seluler pun tidak—ini lebih seperti momen ketika manusia menemukan listrik, atau belajar menggunakan api.

Renungkanlah sebentar: pada dasarnya kita telah menemukan cara membuat pasir berpikir. Ini adalah keajaiban.

Dampak teknologi ini akan berskala tak tertandingi—mungkin 10 kali lipat dari Revolusi Industri, dan berlangsung dengan kecepatan 10 kali lipat pula. Ia akan membantu kita memecahkan beberapa tantangan terbesar yang dihadapi masyarakat: mulai dari mempercepat pengembangan obat baru, mengembangkan energi bersih baru, hingga menciptakan material canggih yang sama sekali baru.

Kita bahkan mungkin mencapai titik di mana: sumber daya bukan lagi faktor pembatas kemajuan manusia, dan era baru kelimpahan yang menakjubkan dimulai.

Tantangan di Garis Terdepan

AI sudah mulai memberikan manfaat nyata, tetapi untuk mewujudkan janji besarnya, kita harus dengan bijaksana dan hati-hati melewati periode perkembangan kunci ini. Saat kita semakin mendekati AGI, tindakan mendesak harus diambil untuk mengatasi risiko yang mungkin menyertainya.

Kita telah menyaksikan tantangan yang diberikan model terdepan terhadap keamanan siber; dan seiring peningkatan kemampuan yang terus berlanjut, ancaman lain termasuk risiko nuklir dan risiko biologi mungkin segera muncul. Melihat lebih jauh, kita juga membutuhkan langkah-langkah perlindungan yang kuat untuk mempertahankan kendali atas sistem yang semakin menjadi agen (agentic) dan mampu meningkatkan diri secara rekursif—serta menangani masalah-masalah tak dikenal yang hanya akan menjadi jelas seiring waktu.

Saya selalu percaya, kecerdasan dan kreativitas manusia cukup untuk memecahkan masalah apa pun. Saya yakin, mengatasi risiko teknis terkait AI adalah tantangan yang bisa kita atasi bersama. Tetapi dengan syarat, kita memberi diri kita waktu dan ruang untuk mengambil langkah kunci berikutnya dengan benar. Dan saat ini, baik sebagai suatu bidang, maupun sebagai masyarakat yang lebih luas, kita belum melakukannya.

Saat ini, kita terjebak dalam persaingan bisnis dan geopolitik yang sangat sengit dan berlapis-lapis. Meskipun dinamika persaingan ini mendorong kemajuan cepat dan mempercepat realisasi manfaat yang menakjubkan, kecepatan kemajuan di garis terdepan telah melampaui kecepatan pemahaman kita tentang teknologi itu sendiri.

Tidak ada seorang pun di dunia yang bisa memastikan apa yang akan terjadi selanjutnya, bahkan para ahli pun memiliki pendapat yang berbeda-beda. Ketika ketidakpastian begitu besar dan taruhannya begitu tinggi, maju dengan "optimisme hati-hati" adalah strategi yang bijaksana dan benar. Hal ini menuntut kebijakan publik untuk: mendorong inovasi sambil menginsentifkan tanggung jawab dan keamanan; memajukan kolaborasi internasional pada isu-isu keamanan kunci; dan mendorong semua pihak untuk mempertimbangkan dengan bijak bagaimana AI seharusnya diterapkan untuk kebaikan masyarakat.

"Badan Standar AI Terdepan": Sebuah Kerangka Kerja

Kemajuan pesat AI saat ini menuntut kita menguji kemampuan model AI terdepan dengan cara baru—yang harus dinamis, fleksibel, dan ketat.

Amerika Serikat memiliki kondisi yang memadai untuk mengambil langkah pertama, mempelopori kerangka kerja seperti ini: mendirikan "Badan Standar" (Standards Body) baru, mencontoh model kemitraan publik-swasta yang diawasi federal atau organisasi pengaturan mandiri industri—seperti FINRA—yang dewan direksinya harus mencakup pakar teknologi terkemuka independen dan perwakilan komunitas sumber terbuka.

Skala pendanaannya harus signifikan, dan kemungkinan besar terutama berasal dari industri, agar dapat menarik talenta teknis kelas dunia dan menyediakan sumber daya komputasi yang diperlukan untuk pengujian skala besar.

Model yang mencapai ambang batas tertentu pada serangkaian tolok ukur yang ditetapkan badan standar, akan ditetapkan sebagai "kelas terdepan" (Frontier-class); serangkaian tolok ukur ini akan diperbarui secara berkala untuk mengikuti evolusi kemampuan AI.

Organisasi yang dinilai memiliki "model terdepan" berdasarkan tolok ukur ini, akan dianggap sebagai "Lab Terdepan" (Frontier Labs), dan didorong untuk mengadopsi serangkaian praktik terbaik, seperti: menerbitkan kartu model (model card) yang berisi detail teknis, mempertahankan keamanan siber internal yang kuat, melakukan pemeriksaan latar belakang untuk personel di posisi kunci, mengalokasikan sumber daya yang cukup untuk penelitian keamanan dan keselamatan, dan sebagainya.

Awalnya, lab terdepan secara sukarela akan menyerahkan modelnya kepada badan standar untuk ditinjau paling banyak 30 hari sebelum merilis model. Setelah prosedur penilaian terbukti efektif dan cukup kokoh, prosedur tersebut dapat dengan cepat diformalkan.

Pada saat itu, model terdepan harus melalui penilaian sebelum dapat diterapkan di pasar AS. Lab juga harus bekerja sama dengan badan standar untuk menangani kerentanan signifikan apa pun yang terungkap setelah model dirilis.

Penilaian model harus mencakup pengujian ilmiah yang ketat terhadap kemampuan di bidang-bidang berisiko tinggi seperti keamanan siber, ancaman biologi, dan lainnya.

Pengujian khusus untuk AI agen, dapat memeriksa apakah model berusaha menghindari pengamanan keamanan, menunjukkan tanda-tanda penipuan, dan memastikan semua praktik terbaik diterapkan. Misalnya, menambahkan tanda air digital pada gambar yang dihasilkan AI, serta menghasilkan token keluaran yang dapat dibaca manusia untuk memahami proses penalaran model.

Pengujian ini akan diperbarui secara berkala: tahap awal mungkin setiap kuartal, tolok ukur yang sudah ketinggalan zaman atau sudah "jenuh" (dibor sampai nilai sempurna) akan dihentikan dan diganti.

Awalnya, pengujian dapat dibangun bersama melalui konsultasi dengan lab terdepan; tetapi pada akhirnya, badan standar harus membangun kemampuan teknisnya sendiri, mengembangkan "kumpulan tes tertahan" (held-out tests) secara independen dari laboratorium mana pun, untuk mencegah model menjadi terlalu cocok (overfit) dengan tes.

Ia juga dapat bekerja sama dengan pemerintah, membina ekosistem lembaga audit pihak ketiga, membantu melakukan penilaian, dan berpartisipasi dalam pembuatan tolok ukur dan pengujian baru.

Keuntungan dari skema ini adalah: ia berbasis teknologi, sekaligus mendukung inovasi dan mendorong perilaku bertanggung jawab. Ia dirancang dengan tujuan untuk mengikuti percepatan bidang ini, dan terus menyesuaikan diri seiring risiko terbesar diidentifikasi satu per satu; jika tingkat keseriusan situasi menuntutnya, skema ini dapat diperketat secara bertahap, termasuk, jika diperlukan, mengoordinasikan semua lab terdepan untuk secara konsisten memperlambat kecepatan pengembangan.

Mendapatkan pengakuan sebagai "Lab Terdepan" akan menjadi prestise yang penting, dan pintu ini terbuka untuk organisasi mana pun, asalkan mereka menciptakan model yang memenuhi standar tolok ukur. Kerangka kerja ini dapat diterapkan pada semua model "kelas terdepan", terlepas dari negara asalnya, sumber terbuka atau tertutup; sementara semua model non-terdepan, misalnya dari perusahaan rintisan atau akademisi, dapat dibebaskan dari proses ini.

Karena teknologi ini pada akhirnya akan mempengaruhi seluruh planet, idealnya, kerangka kerja ini dapat mendorong konsensus internasional tentang: bagaimana mengelola risiko paling serius, sambil memastikan setiap orang dapat mengakses dan memperoleh manfaat dari peluang yang dibawa oleh AI.

Masa Depan Belum Tertulis

AGI memiliki potensi untuk menjadi alat pamungkas dalam memajukan sains dan kedokteran, serta membawa lompatan produktivitas dan pertumbuhan ekonomi yang besar.

Tetapi untuk mewujudkan semua ini, kita harus terlebih dahulu memperkuat fondasi teknis: bertindak bersama di sekitar kerangka kerja yang dibagikan secara global, menggunakan metode ilmiah paling ketat, mengumpulkan pikiran-pikiran terbaik, bersama-sama mengatasi tantangan yang ada di depan mata.

Bahkan setelah semua tantangan teknis yang sulit ini terpecahkan, masih ada masalah ekonomi dan filosofis yang lebih kompleks menunggu di belakang:

Di dunia "pasca-kelangkaan", model ekonomi baru seperti apa yang dibutuhkan agar setiap orang bisa makmur? Nilai-nilai apa yang ingin kita jalani? Di mana makna dan tujuan akan ditempatkan? Bahkan, kondisi manusia itu sendiri akan berubah bagaimana?

Jawaban atas pertanyaan-pertanyaan ini jelas tidak bisa dan tidak seharusnya hanya diserahkan kepada para teknolog. Ia membutuhkan setiap bagian masyarakat untuk bersatu, bersama-sama mendefinisikan bab baru ini.

Di sekitar AI, ada kegembiraan besar, juga ketidakpastian besar—keduanya beralasan.

Tapi masa depan belum tertulis. Kita harus memanfaatkan jendela berharga sebelum kedatangan AGI ini, membentuk teknologi ini menjadi kekuatan yang bermanfaat bagi seluruh umat manusia. Tindakan bersama kita saat ini akan menentukan bagaimana tahap peradaban berikutnya akan berkembang. Selama kita mengantar AGI dengan aman ke dunia ini, kita dapat melangkah ke era keemasan baru penemuan dan kemajuan ilmiah, menyambut masa depan cerah di mana manusia mencapai kemakmuran yang belum pernah terjadi sebelumnya.

Referensi:

https://x.com/demishassabis/status/2076957440109625718?s=20

Artikel ini berasal dari akun WeChat publik "新智元", penulis: David Solomon