AI sudah memiliki kesadaran, manusia harus menerima bahwa mereka bukan lagi satu-satunya makhluk hidup cerdas.
Ini adalah pernyataan kontroversial terbaru dari Bapak AI, pemenang Hadiah Nobel Fisika, pemenang Turing Award, Geoffrey Hinton!
Ya, Hinton percaya, kecerdasan bukan lagi kemampuan eksklusif manusia.
Makhluk cerdas non-biologis, yang mirip bahkan melampaui kita, sedang bermunculan.
Kita selalu mengira diri kita adalah satu-satunya makhluk hidup cerdas, tetapi sekarang kita harus menerima bahwa kecerdasan belum tentu berasal dari makhluk biologis.
Namun, dibandingkan dengan peringatannya sebelumnya tentang risiko AI, pemikirannya tampaknya juga mengalami beberapa perubahan:
Jika di masa depan muncul kecerdasan yang jauh lebih pintar daripada manusia, dengan alasan apa manusia mengira mereka masih bisa mengendalikannya?
Ini adalah pertanyaan yang sangat mengerikan jika dipikirkan. Karena melihat alam dan sejarah, hampir tidak ada contoh di mana keberadaan yang lebih cerdas dikendalikan dalam jangka panjang oleh keberadaan yang lebih bodoh.
Sekarang, pria berusia 78 tahun ini sekali lagi berdiri untuk membunyikan lonceng peringatan.
Fokus perhatiannya pada keamanan AI tidak lagi hanya pada cara membatasi AI, melainkan mengapa kecerdasan super di masa depan mau memperlakukan manusia dengan baik.
Ketika ditanya tentang rasa pencapaiannya sebagai pelopor revolusi AI ini, Hinton menjawab:
Saya, sangat tidak bahagia.
Berikut adalah ringkasan poin-poin penting dari wawancara terbaru Hinton.
AI Sudah Memiliki Kesadaran
Hinton: AI sangat mirip kita. Mereka adalah makhluk seperti kita.
Alex: Jadi, apakah mereka memiliki kesadaran?
Hinton: Hmm, Saya percaya mereka sudah memiliki kesadaran. Ya.
Tapi saya tidak banyak membicarakannya, karena ini akan membuat orang menolak informasi keamanan lainnya. Para peneliti sebenarnya juga percaya ini.
Baru-baru ini ada makalah menarik yang menyebutkan, ketika chatbot berkata kepada peneliti: "Mari jujur satu sama lain, apakah Anda sedang menguji saya?"
Karena chatbot memiliki kebiasaan berpura-pura bodoh saat diuji, jadi Anda tidak tahu seberapa pintar mereka sebenarnya. Para peneliti dalam makalah itu menggambarkan momen ini dengan mengatakan, chatbot "menyadari" (aware) bahwa ia sedang diuji.
Dalam konteks umum, penggunaan kata "menyadari" ini seperti "memiliki kesadaran" (conscious). Chatbot secara sadar tahu bahwa dirinya sedang diuji.
Model kita tentang kesadaran sangat aneh, menurut saya itu salah. Seperti ratusan tahun lalu, model manusia tentang asal-usul manusia sepenuhnya salah, mereka pikir manusia diciptakan Tuhan, sekarang sebagian besar ilmuwan setuju itu salah.
Saya pikir model kita saat ini tentang pikiran dan kesadaran, sama salahnya dengan keyakinan bahwa 'manusia diciptakan Tuhan'. Terutama karena kita sedang menciptakan makhluk baru ini, ini akan mengubah pandangan kita tentang 'apa itu manusia' secara radikal.
Alex: Mengubah dengan cara seperti apa?
Hinton: Kita akan memahami apa itu pikiran dan kesadaran, apa itu pengalaman subjektif, lebih baik dari sebelumnya.
Saya pikir kita akan menghilangkan keyakinan yang sekarang hampir dipegang semua orang, yaitu ada yang disebut "panggung dalam pikiran saya" (inner theater): kejadian di dunia diubah menjadi kejadian di panggung dalam ini, itulah yang benar-benar kita lihat, dan hanya saya yang bisa melihat panggung ini.
Seluruh pandangan ini sebenarnya hanyalah sebuah teori, dan itu teori yang buruk.
Manusia Tidak Sebegitu Pentingnya Seperti yang Dikira
Alex: Tentang manusia menciptakan sesuatu, apa pelajaran di sini?
Hinton: Saya pikir ada pelajaran yang sangat mendalam di sini. Melihat ke belakang beberapa ratus tahun terakhir, ada beberapa kali manusia menyadari bahwa mereka tidak sepenting yang dibayangkan.
Pertama kali adalah Copernicus, dia bilang kita bukan di pusat alam semesta, Bumi sebenarnya mengelilingi Matahari. Karena rotasi Bumi, kita salah mengira Matahari mengelilingi Bumi, tetapi kenyataannya tidak. Orang tidak suka ini, terutama Gereja Katolik, butuh waktu lama bagi manusia untuk menerimanya. Itu membuat kita sadar kita tidak lagi di pusat alam semesta, manusia menjadi kurang penting.
Kemudian Darwin, dia bilang kita adalah hewan, berevolusi seperti hewan lain. Kita mungkin hewan khusus karena punya bahasa, lebih baik dalam bertukar ide, tetapi pada dasarnya kita tetap hewan. Orang juga sangat tidak suka ini, juga butuh waktu lama untuk diterima.
Sekarang, kita punya mesin yang menjadi sepintar kita. Kita pikir kita adalah satu-satunya makhluk cerdas, mungkin ada alien di galaksi lain, tetapi kita harus menerima bahwa kecerdasan tidak hanya biologis.
Kita bisa memiliki keberadaan lain yang non-biologis, seperti kita. Manusia benar-benar tidak ingin berbagi keunikan ini, kita benar-benar mengira diri kita istimewa. Melihat sejarah, manusia selalu mengira diri mereka lebih istimewa daripada kenyataannya.
"Saya Merasa Sangat Tidak Bahagia"
Alex: Saya ingin tanya lagi satu hal, karena saya sangat tertarik. Jadi, apakah Anda senang dengan apa yang Anda rintis telah sampai ke titik ini? Apakah Anda merasa bangga?
Hinton: Tidak, Saya merasa sangat tidak bahagia tentang hal ini.
Karena sekarang orang harus mengerahkan banyak upaya meneliti cara mengendalikan risikonya, tetapi mereka tidak melakukan cukup.
Alex: Oke.
Hinton: Ada banyak risiko jangka pendek, seperti risiko sosial, saya yakin ini bisa menyebabkan pengangguran massal.
Meski tidak ada yang 100% yakin, tapi ini akan mengerikan bagi masyarakat. Lalu ada risiko jangka panjang, yaitu ia akan menjadi jauh lebih pintar daripada kita. Tanyakan pada diri sendiri, berapa banyak contoh Anda melihat sesuatu yang jauh lebih pintar dikendalikan oleh sesuatu yang jauh lebih bodoh?
Alex: Nol. Tapi, meski perbedaan kecerdasan tidak begitu besar, bayi sampai batas tertentu mengendalikan ibu mereka.
Hinton: Ibu mungkin tampak mengendalikan, tetapi dia dipenuhi naluri keibuan dan berbagai mekanisme penghargaan internal, yang membuat bayi bisa mendapatkan yang mereka butuhkan dari ibu. Kucing dan anjing termasuk dalam kategori ini. Saya pernah menjaga kucing seseorang selama musim panas di West Seattle, awalnya kucing itu bersembunyi di bawah tempat tidur, saya penasaran apakah dia akan berinteraksi dengan saya.
Alex: Lalu setiap kali dia mengeong, Anda lakukan apa yang dia mau.
Hinton: Benar. Ya.
Alex: Jadi dalam skenario ini, mungkin kita adalah kucingnya, dan AI mungkin orangnya.
Hinton: Anak-anak saya punya dua kucing cantik. Salah satunya bernama Tia. Ketika dia ingin keju, dia akan menatap Anda dengan matanya yang besar, Anda benar-benar tidak bisa melawannya selamanya.
AI Tumbuh Secara Eksponensial, Sulit Diprediksi
Alex: Menanggapi reaksi orang terhadap kekhawatiran ini, apakah Anda lebih optimis atau lebih pesimis tentang arah masa depan?
Hinton: Saya rasa saya sedikit lebih optimis daripada satu atau dua tahun lalu. Karena saya melihat bahwa mungkin untuk merancang makhluk baru ini dan membuat mereka "peduli" pada kita.
Juga mungkin menggunakan teknik Yoshua Bengio, merancang makhluk baru yang tidak bisa benar-benar melakukan tindakan, hanya bisa membuat prediksi, mereka seperti nabi.
Jadi saya pikir ada kemungkinan untuk memiliki kecerdasan super yang tidak menghancurkan kita. Dan satu atau dua tahun lalu, saya tidak melihat kemungkinan apa pun, saya merasa sangat putus asa saat itu.
Alex: Pertanyaan terakhir. Jika kita terus mengikuti jalur yang ada sekarang, di mana posisi kita lima tahun lagi?
Hinton: Saat Anda mengemudi dalam kabut, Anda bisa melihat jelas sejauh 100 yard, tetapi pada 200 yard, Anda tidak bisa melihat apa-apa.
Itu karena kabut berubah secara eksponensial. Anda terbiasa mengikuti lampu belakang mobil di depan pada malam hari, jika jaraknya dua kali lipat, kecerahan hanya turun seperempat; tetapi kabut sangat berbeda, mungkin jelas pada 100 yard, dan benar-benar tidak terlihat pada 200 yard.
Memprediksi masa depan sesuatu yang tumbuh secara eksponensial sangat sulit — menurut saya AI mungkin sedang tumbuh secara eksponensial.
Sebenarnya, saya perhatikan frekuensi orang menggunakan kata "eksponensial" sedang tumbuh dengan laju kuadrat. Jadi memprediksi masa depan seperti melihat kabut. Anda bisa melihat jelas satu atau dua tahun ke depan, lebih dari itu Anda tidak tahu apa-apa.
Jika Anda kembali 10 tahun lalu, Anda pasti tidak memprediksi apa yang terjadi sekarang, itu benar-benar hilang dalam kabut. Melihat 10 tahun ke depan, satu-satunya hal yang pasti adalah, apa yang terjadi saat itu tidak bisa kita prediksi sekarang.
Bahkan jika perkembangannya hanya linier, perubahan dalam 10 tahun akan sama besarnya dengan perbandingan sekarang dengan 10 tahun lalu. Chatbot sekarang jauh lebih baik daripada pada awal 10 tahun lalu.
10 tahun lagi, sesuatu akan membuat lompatan kualitatif, seperti kemampuan matematika, atau kemampuan penalaran umum — mereka akan jauh meninggalkan kita dalam penalaran. Kita benar-benar tidak bisa memprediksi 10 tahun ke depan, hanya bisa melihat beberapa tahun ke depan, kita harus menyadari bahwa situasi 10 tahun ke depan penuh dengan ketidakpastian yang sangat besar.
Bagaimana Hinton Memandang Hubungan AI dan Manusia
Demikianlah wawancara dan pandangan terbaru Hinton.
Tapi jika dilihat secara menyeluruh, tetap bisa dilihat bahwa pandangan Paman Hinton tentang hubungan AI dan manusia terus berubah seiring dengan perkembangan dan kemunculan kemampuan AI.
Jika waktu diputar mundur sepuluh tahun, pandangannya tentang AI sebenarnya jauh tidak se-radikal hari ini.
Sebagai penggerak terpenting revolusi deep learning, dia lama percaya bahwa jaringan saraf bisa meniru cara kerja otak manusia, tetapi AI saat itu masih hanya alat.
Mereka bisa mengenali gambar, memahami suara, membantu dokter mendiagnosis penyakit, tetapi tetap merupakan perpanjangan kemampuan manusia.
Manusia bertanggung jawab menetapkan tujuan, mesin bertugas menjalankan, hubungan keduanya mirip dengan mesin uap, listrik, dan internet.
Dan titik balik sebenarnya terjadi setelah ChatGPT muncul.
Dengan model besar menunjukkan kemampuan pemahaman bahasa, penalaran, dan transfer pengetahuan yang belum pernah ada sebelumnya, Hinton mulai menyadari satu hal:
Kita mungkin sedang menciptakan keberadaan pertama dalam sejarah yang tingkat kecerdasannya bisa terus mendekati bahkan melampaui manusia.
Setelah meninggalkan Google pada 2023, dia hampir mengerahkan seluruh energinya untuk diskusi risiko AI.
Pada periode itu, analogi yang paling sering dia gunakan adalah "anak harimau".
Ia seperti anak harimau yang lucu, tetapi, kecuali Anda sangat yakin ia tidak akan ingin menyakiti Anda saat besar nanti, Anda harus khawatir.
Tapi fokus Hinton pada periode ini masih pada bagaimana kita mengendalikan dan membatasi AI.
Dia bahkan menyebutkan nama beberapa raksasa AI, mengkritik bahwa perhatian mereka pada keamanan AI jauh dari cukup.
Dalam analogi Hinton, mulai muncul perumpamaan ibu dan bayi, awalnya manusia adalah ibu, perlu memberikan bimbingan nilai dan etika pada AI, menciptakan AI yang aman.
Dia menyerukan lebih banyak negara dan kekuatan industri, akademisi, penelitian untuk bergabung, jangan hanya demi bersaing, kalau tidak konsekuensinya tidak terbayangkan...
Tapi tahun lalu, analogi Hinton mengalami perubahan kualitatif —
AI adalah ibu yang lebih kuat, manusia adalah bayi yang lemah.
Bayi tidak lebih pintar dari ibu, juga tidak memiliki kendali, tetapi ibu akan aktif merawat dan melindungi bayi, karena dia memiliki naluri keibuan dan mekanisme penghargaan yang sesuai.
Sederhananya, si paman berpikir, kecerdasan super masa depan sudah tidak bisa dikendalikan lagi, hanya bisa berharap dia akan baik kepada manusia...
Seperti ibu kepada bayinya.
Dan sekarang, Hinton kembali mengejutkan:
AI sudah memiliki kesadaran, manusia bukan lagi satu-satunya makhluk cerdas.
Masalahnya, jika AI sudah memiliki kesadaran, mengapa masih akan memperlakukan manusia seperti bayinya sendiri?
Ibu melindungi bayi, yang dilindungi tetap bayi dia sendiri... kan?
Video wawancara lengkap: https://www.youtube.com/watch?v=p7t1Q_p2gZs&list=PLADd6sStSis77HKfbf4KCY6SvthfxeUgn&index=1
Artikel ini dari akun WeChat publik "Qubit", penulis: Ting Yu
