Dialog dengan Ekonom MIT: Jangan Panik dengan 'Teori Kiamat AI', Kemampuan Verifikasi adalah Sumber Daya Langka

Sumber: Podcast Bankless

Disusun oleh: Felix, PANews

Ekonom Massachusetts Institute of Technology (MIT) Christian Catalini menjadi tamu dalam program Ryan dan David, membahas secara mendalam makalah barunya yang berjudul "Beberapa Ekonomi Sederhana dari Kecerdasan Buatan Umum". Makalah tersebut menyatakan bahwa sumber daya langka dalam ekonomi AI bukan lagi kecerdasan, tetapi verifikasi: yaitu kemampuan manusia untuk memeriksa, menilai, dan mengonfirmasi kebenaran output AI.

Christian menjelaskan secara rinci dua kurva biaya yang membentuk ulang berbagai industri (biaya otomatisasi dan biaya verifikasi), menjelaskan mengapa pekerjaan tingkat pemula yang pertama kali hilang, dan mengapa bahkan para ahli teratas juga tanpa sadar membentuk penerus mereka sendiri ("kutukan pembuat kode"). Dia juga menggambarkan tiga peran yang akan bertahan dalam transisi ini: direktur, pembuat makna, dan penanggung jawab.

PANews telah menyusun intisari percakapan.

Pembawa Acara: Saya rasa banyak pendengar mungkin merasa seperti saya, memiliki kepanikan terhadap AI. Menurut Anda, mengapa orang khawatir tentang AI? Apakah kekhawatiran mereka masuk akal?

Christian: Kita semua merasakan hal yang sama. Ini adalah periode perubahan yang cepat dan transformatif. Semakin dekat Anda dengan kode, mungkin Anda akan semakin cepat menyaksikan akselerasi ini, pertumbuhan eksponensial ini menjadi sangat nyata dalam beberapa bulan terakhir. Teknologi ini telah mencapai banyak hal yang sebelumnya dikira orang membutuhkan waktu lebih lama untuk diselesaikan, perasaan ini adalah sesuatu yang kita semua hadapi. Tetapi saya pikir "teori kiamat" itu salah, orang cenderung meremehkan potensi yang dibawa oleh alat-alat ini. Ya, akan ada masa transisi yang sangat sulit, kecepatan perubahan pekerjaan adalah yang tercepat dalam sejarah. Namun meskipun demikian, jika Anda memanfaatkan fitur terbesar teknologi ini dan berinvestasi di dalamnya, pada akhirnya ini terutama akan menguntungkan, meskipun perjalanannya akan berliku. Ekonomi memandang pekerjaan sebagai kumpulan tugas, beberapa di antaranya akan diotomatisasi, ini adalah kabar baik, tetapi kuncinya adalah bagaimana Anda melatih ulang diri sendiri dan tetap berada di garis depan.

Pembawa Acara: Menurut Anda, siapa yang pertama kali terkena dampaknya?

Christian: Ini pertanyaan yang sangat bagus, saya punya banyak pemikiran berbeda tentang ini. Pertama, ketika saya mengatakan orang yang paling dekat dengan kode akan pertama kali merasakan dampaknya, maksudnya adalah mereka yang pertama kali merasakan betapa kuatnya teknologi ini. Seperti yang diungkapkan oleh "Paradoks Jevons", setelah sesuatu menjadi efisien, kita justru akan mengonsumsi lebih banyak, misalnya kita akan menulis lebih banyak perangkat lunak. Saya pikir pemrograman akan mengalami diferensiasi seperti banyak profesi lainnya, dalam makalah kami kami menyebutnya "lingkaran pemula yang menghilang". Jika Anda adalah staf pemula, belum mendapatkan "pengetahuan tacit" yang membedakan produk yang bagus dengan produk yang biasa-biasa saja, maka AI dapat menggantikan Anda dengan sangat baik di berbagai bidang.

Setiap orang sekarang dapat dengan mudah mendapatkan pemasar, programmer pemula, atau pengacara yang cukup baik yang dapat membantu Anda menangani sebagian besar situasi, Anda hanya perlu meminta pengacara top untuk verifikasi akhir pada tahap akhir. Di sisi lain, bahkan para ahli teratas, dalam proses memperkenalkan AI, secara sadar atau tidak sadar menciptakan label, informasi, dan jejak digital yang pada akhirnya akan membuat pekerjaan mereka sendiri terotomatisasi. Laboratorium top sedang merekrut talenta teratas di bidang-bidang seperti keuangan, memanfaatkan mereka untuk menciptakan standar evaluasi, mengintegrasikan pengetahuan domain profesional ini ke dalam model besar. Jadi saya pikir tidak ada satu pun pekerjaan yang 100% aman, bahkan pekerjaan fisik yang dibatasi oleh kemampuan pembuatan robot, model reward (hadiah) dalam beberapa tahun ke depan akan membuat lompatan besar. Apa pun yang terjadi di depan layar dapat dilacak, direplikasi, dan dipelajari. Untuk setiap profesi, kuncinya adalah berpikir: jika saya mendelegasikan sebanyak mungkin pekerjaan saya ke AI, di mana lagi saya dapat menambah nilai?

Sebenarnya ada banyak "penghiburan diri" orang tentang "selera" dan "penilaian". Keduanya sangat kabur. Jadi dalam makalah kami kami berkata: tidak ada yang namanya selera atau penilaian baik/buruk, hanya perbedaan antara "terukur" dan "tidak terukur". Jika sesuatu sudah terukur, mesin dapat menirunya. Jika sesuatu masih hanya tertanam dalam bobot otak Anda, misalnya seorang desainer top yang telah mengumpulkan puluhan ribu jam pengalaman, dapat memutuskan mana yang harus dirilis dan mana yang tidak, inilah yang kami sebut "verifikasi". Semua verifikasi adalah langkah terakhir ini: agen AI menciptakan produk, dan Anda sebagai pengambil keputusan, untuk menilai apakah itu telah memenuhi standar untuk diluncurkan ke pasar. Saat mesin mendapatkan data yang lebih baik, hal-hal akan terotomatisasi; tetapi menghadapi domain yang tidak diketahui, atau di mana tidak ada data sama sekali, bagian ini dalam beberapa tahun ke depan masih akan menjadi milik manusia.

Pembawa Acara: Ini adalah wawasan yang sangat mendalam. Tetapi saya juga berpikir, wajar jika insinyur mengotomatisasi pekerjaan mereka sendiri. Apakah setiap industri akan terkena dampak yang sama?

Christian: Kami memiliki cukup bukti bahwa perubahan akan tidak merata. Anda dapat berpikir seperti ini: Apakah pekerjaan ini hanyalah "pengemasan" dari sesuatu yang pada dasarnya tidak dibutuhkan oleh masyarakat? Misalnya pekerjaan konsultasi pada umumnya, jika terutama hanya mengemas ulang, menyaring, dan meringkas informasi yang sudah tersedia secara luas, maka jelas berisiko. Tetapi jika itu membawa keahlian domain yang langka, atau karena alasan politik perlu mempekerjakan konsultan, ini akan bertahan. Tanyakan pada diri sendiri, apakah profesi ini menguntungkan karena memecahkan masalah yang kompleks, atau hanya karena ada hambatan buatan tertentu.

Pembawa Acara: Apa sebenarnya arti verifikasi? Sulit bagi saya untuk memecah pekerjaan sehari-hari saya menjadi mana yang pekerjaan kognitif dan mana yang verifikasi.

Christian: Agen telah belajar dari web, buku, dan mengukur segalanya, karena mereka lebih murah dan dapat diskalakan, sehingga akan menggantikan bagian yang terukur. Tetapi hal-hal yang belum diketahui agen: yaitu bobot jaringan neural unik di otak Anda. Ini Anda peroleh melalui pengalaman dan perjuangan pribadi, yang membuat Anda menjadi ahli top. Misalnya peserta awal cryptocurrency, banyak yang berasal dari Argentina, Venezuela, dll., yang mengalami hiperinflasi secara langsung, reaksi mereka terhadap aset sangat berbeda. Pengukuran unik internal ini masih merupakan keunggulan besar.

Apa itu verifikasi? Itu adalah perbedaan antara standar pengukuran Anda sendiri terhadap dunia dengan standar yang dimiliki agen. Seperti seorang editor top, yang tahu persis artikel seperti apa yang akan引起共鸣 (beresonansi); atau seorang CTO top, yang menghadapi basis kode yang dihasilkan AI dalam jumlah besar, tahu persis bagian tepi penentu mana yang harus diperiksa manusia sendiri, bagian ini belum dapat diukur oleh mesin.

Pembawa Acara: Saya beri contoh, jika saya melihat video tentang Israel dibom rudal di X, tetapi saya menemukan bahwa ini dihasilkan oleh AI. Saya menggunakan otak untuk mengidentifikasi masalah, dan mungkin melalui petunjuk ulang (re-prompt) untuk menghasilkan video yang lebih baik, apakah ini "kemampuan verifikasi" saya?

Christian: Ini adalah contoh yang bagus. Lebih jauh, kita mungkin很快就会处于这样一个世界 (segera berada di dunia seperti ini): bagi kebanyakan orang, video ini tidak dapat dibedakan dari yang asli. Langkah selanjutnya mungkin adalah ahli militer melihat dinamika api yang tidak benar. Langkah selanjutnya, bahkan ahli militer pun tidak dapat membedakan sekilas, membutuhkan AI untuk menganalisis prinsip fisika dan melakukan uji simulasi. Pada akhirnya mungkin benar-benar tidak dapat dibedakan, pada saat itu, kita harus mengandalkan infrastruktur berbasis kriptografi untuk memastikan keaslian. Di bidang medis juga demikian, kasus tepi (edge case) pada akhirnya membutuhkan ahli radiologi top yang memanfaatkan 20 tahun pengalaman serta pemahaman tentang latar belakang spesifik pasien, untuk memveto penilaian AI. Inilah lapisan tipis terakhir dari "linkungan filter" yang kami perhatikan. Ketika kita melakukan ini, kita membebaskan banyak waktu. Jadi, inilah sisi baiknya. Kita dapat melakukan lebih banyak dengan lebih sedikit. Biaya pikir ini adalah kabar baik.

Pembawa Acara: Tetapi dalam contoh Anda, saat ini dia melakukan verifikasi, tetapi很快他验证不了了 (segera dia tidak dapat memverifikasi), membutuhkan komandan militer,最后连指挥官也验证不了 (pada akhirnya bahkan komandan pun tidak dapat memverifikasi), terpaksa meminta bantuan AI. Bukankah ini justru menunjukkan bahwa "verifikasi" awalnya berharga, tetapi很快也会被 AI 自动化吗 (segera juga akan diotomatisasi oleh AI)? Jadi bahkan "verifikasi" sendiri juga tidak aman?

Christian: Benar. Dalam makalah kami, kami menyebutnya "kutukan pembuat kode". Tindakan sangat rasional untuk melakukan verifikasi ini, dengan sendirinya mendorong pengembangan teknologi mutakhir dan mendata pengalaman. Kita tidak bisa berhenti, karena semua pengacara atau praktisi mencoba menggunakan AI. Verifikasi memang merupakan garis depan yang menyusut.

Pembawa Acara: Bahkan bidang pekerjaan verifikasi terakhir juga semakin menyusut, kapan kita bisa berhenti cemas?

Christian: Pertama,有些事物在设计上就是不可衡量的 (beberapa hal pada dasarnya dirancang untuk tidak terukur), misalnya yang disebut "permainan status" atau hal-hal yang diberikan makna oleh manusia. Bidang-bidang ini tidak akan diserang oleh mesin, karena karakternya adalah tentang konsensus koordinasi antar manusia. Cryptocurrency juga agak seperti ini, yang penting adalah konsensus manusia tentang apa yang berharga. Seiring menyusutnya bidang pekerjaan yang terukur, kita akan menciptakan banyak metode untuk membuat pekerjaan yang tidak terukur menjadi bermakna.

Christian: Menarik perhatian, membuat lelucon yang benar-benar新颖 (baru), ini adalah pekerjaan kreatif yang sangat sulit, mencoba memecahkan sesuatu yang从未被衡量过 (belum pernah diukur). Kita berevolusi dalam perjuangan panjang untuk bertahan hidup dengan kemampuan yang sangat kuat untuk menghadapi lingkungan yang tidak diketahui. Orang yang bekerja di bidang ini disebut "pembuat makna". Misalnya dalam seni atau budaya, apa yang baik, tergantung pada konsensus manusia. Bahkan ketika Anda memanfaatkan agen AI, Anda juga harus menetapkan "niat".

Pembawa Acara: Biaya otomatisasi menurun secara eksponensial, bagaimana dengan "biaya verifikasi"? Apakah itu akan selamanya dibatasi oleh kendala biologis manusia?

Christian: Saat ini ia dibatasi oleh biologis. Jadi banyak perusahaan merilis banyak kode yang dihasilkan AI, tetapi tidak memiliki tenaga manusia yang cukup untuk membacanya dan memverifikasinya, di dalamnya pasti tersembunyi risiko.

Pembawa Acara: Tidak bisakah menggunakan AI untuk memverifikasi AI?

Christian: Jika AI dapat memverifikasi dengan benar, maka bagian itu sendiri dapat diotomatisasi. Setelah menggunakan semua verifikasi AI, yang tersisa adalah hal-hal yang benar-benar tidak dapat diverifikasi oleh AI, inilah hambatan intervensi manusia.

Pembawa Acara: Jika verifikasi adalah sumber daya langka baru, tetapi terus menyusut, bagaimana cara bekerja dan berinvestasi dalam ekonomi ini?

Christian: Kami membuat matriks 2x2 berdasarkan "biaya otomatisasi" dan "biaya verifikasi". Pojok kiri bawah adalah pekerja yang tergantikan: otomatisasi mudah, verifikasi juga mudah, Anda绝对不想呆在这里 (sama sekali tidak ingin berada di sini). Tiga kuadran lainnya adalah:

Pembuat Makna: Otomatisasi sulit, verifikasi sulit. Mereka berkecimpung dalam konsensus sosial, permainan status, dan hubungan manusia. Misalnya pembuat selera di dunia fashion, KOL crypto di Twitter, mereka menciptakan narasi dan mengoordinasikan perhatian.

Penanggung Jawab: Otomatisasi mudah, verifikasi sulit. Mereka adalah ahli top di bidangnya, seperti pengacara top, dokter, atau venture capitalist. Mereka memanfaatkan AI secara besar-besaran, tetapi memberikan layanan yang bertanggung jawab dan memverifikasi untuk kasus tepi akhir.

Direktur: Otomatisasi sulit, verifikasi mudah. Intinya adalah "niat". Mereka menghadapi "yang tidak diketahui yang tidak diketahui", mengarahkan agen seperti pengusaha, menetapkan arah, merasakan penyimpangan dan terus memperbaiki arah.

Pembawa Acara: Bagaimana dengan anak muda yang baru lulus dan ingin memasuki dunia kerja? Di satu ujung adalah pekerjaan pemula yang tidak berharga, di ujung lain adalah ahli top yang membutuhkan十年行业打磨 (pemolesan industri sepuluh tahun) untuk menjadi, ada jurang besar di antara keduanya. AI sudah bisa melakukan hal-halum, bagaimana anak muda tumbuh ke ujung lainnya?

Christian: Jurang memang ada. Tetapi kabar baiknya adalah Anda dapat memampatkan waktu belajar. Anda dapat melewati langkah-langkah pelatihan tradisional. Seorang insinyur pemula sekarang dengan bantuan alat dapat melakukan pekerjaan yang sebelumnya dilakukan oleh satu tim. Meskipun awalnya akan membuat kesalahan, tetapi sebagai pendatang baru mereka dapat mempertanyakan tradisi dari sudut pandang yang sangat baru, inilah keunggulan. Mereka dapat mewujudkan ide dengan cara yang tidak dapat kita lakukan saat muda. Ada pro dan kontra.

Jalur masa lalu: "dapatkan gelar, cari magang, kerja keras untuk promosi", memang sudah tidak ada lagi, ini akan membawa guncangan budaya yang besar. Bagi anak muda yang baru lulus, ini sangat sulit. Jika Anda masih kuliah, masih ada waktu untuk melihat arah dengan jelas. Jika sedang dalam kesulitan, saran saya adalah: gunakan alat-alat ini untuk membangun sesuatu. Ambisi Anda harus 100 kali lebih besar daripada yang kita miliki di usia itu dulu.

Pembawa Acara: Hilangnya banyak pekerjaan "tekan tombol" dalam jangka pendek, apakah akan membuat masyarakat陷入混乱 (terjerumus dalam kekacauan)?

Christian: Masyarakat总是会在需要时重新创造 (selalu akan menciptakan kembali) pekerjaan "tekan tombol" untuk menjaga stabilitas ketika diperlukan. Tetapi banyak orang yang melakukan pekerjaan seperti ini sebenarnya mampu melakukan lebih, hanya saja di masa lalu dibatasi oleh lingkungan. Ketika tenaga fisik tidak lagi diperlukan, kita menciptakan gym;如今 (kini) menghadapi pembebasan tenaga pikiran, orang akan mengembangkan berbagai usaha sampingan dan ekonomi kreator untuk mendapatkan rasa tantangan. Ini juga mengapa saya pikir "unconditional basic income (UBI)"完全错误 (salah total), orang membutuhkan makna dan motivasi untuk aktualisasi diri. Selain itu, bahkan jika sekarang sebagian besar pekerjaan Anda diotomatisasi, jika Anda memanfaatkan AI dengan baik sebagai alat super, seorang karyawan pemula yang baru masuk pun dapat menghasilkan seperti sebuah tim di masa lalu.

Pembawa Acara: Ada saran untuk perusahaan dan investor?

Christian: Bagi perusahaan, berinvestasi dalam infrastruktur verifikasi, menyediakan "tanggung jawab sebagai layanan" (yaitu tidak hanya menyediakan agen tetapi juga menanggung konsekuensinya). Selain itu, kuasai "sumber fakta eksklusif", karena AI mudah ditipu, perusahaan yang dapat menyediakan data eksklusif nyata seperti Bloomberg atau evaluasi mendalam akan sangat berharga. Bagi investor, selain berinvestasi pada hal-hal ini, fokuskan pada penelitian dan pengembangan yang "tidak terukur" dan keras. Efek jaringan biasa sebelumnya mungkin gagal, efek jaringan baru akan dibangun pada bagaimana Anda membuat agen Anda lebih andal daripada yang lain melalui umpan balik nyata yang lebih baik, karena yang benar-benar ingin dibeli orang adalah kecerdasan yang telah diverifikasi.

Pembawa Acara: Apakah teknologi enkripsi berguna dalam proses verifikasi ini?

Christian: Infrastruktur dasar yang dibangun oleh bidang enkripsi dalam sepuluh tahun terakhir sangat penting. Ketika kita perlu menentukan keaslian identitas dan mencegah akun diambil alih, teknologi on-chain seperti "bukti kepribadian" dapat memberikan verifikasi yang kuat. Juga ada asal usul data dan rantai pengawasan kriptografi, kita membutuhkan jaminan enkripsi yang keras untuk pembuatan informasi dan kepatuhan model.

Pembawa Acara: Apa yang harus dilakukan orang dalam setahun ke depan? Apakah Anda optimis tentang masa depan manusia?

Christian: Pertama jangan panik. Lakukan banyak eksperimen, gunakan alat sebanyak mungkin untuk "menghapus" dan mengotomatisasi diri Anda sendiri. Banyak eksplorasi hobi di masa depan mungkin justru menjadi karier yang paling bermakna. Paling buruk, Anda juga dapat摸清 (meraba) batas dan kelemahan model. Banyak kreator jaringan, hobi telah menjadi karier, ini akan menjadi arah utama di masa depan. Jika Anda memiliki anak, menggali bakat mereka, membiarkan mereka tenggelam dalam kecintaan才是最重要的 (adalah yang paling penting). Tidak ada template profesional yang tetap, alat baru AI dapat membantu Anda menemukan jalan yang hanya milik Anda sendiri dengan lebih baik.

Bacaan terkait: Bacaan Malam | Dialog dengan Venture Capital Silicon Valley Bill Gurley: Jangan Minta Stabil, Jadilah Diri Sendiri yang "Didukung AI"