Sumber: Bloomberg
Disusun oleh: Felix, PANews
Baru-baru ini, Bloomberg melakukan wawancara dengan CEO Anthropic, Dario Amodei, membahas perjalanan kewirausahaannya di San Francisco, persaingannya dengan OpenAI, serta tujuan akhir AI.
PANews menyusun intisari wawancara tersebut.
Pewawancara: Anda saat ini berada di pusat alam semesta AI. Bagaimana rasanya?
Dario:Sepanjang karier saya, terutama selama periode di Anthropic, yang saya alami adalah kurva eksponensial yang mulus. Pengalaman kurva eksponensial yang mulus ini adalah: tidak ada yang terjadi, tidak ada yang terjadi, terjadi sedikit kejadian, lalu tiba-tiba pertumbuhan yang gila. Ini adalah pengalaman dunia, juga pengalaman skala perusahaan dibandingkan dengan perusahaan lain dan dunia. Saya mengamati grafik ini untuk waktu yang lama, saya pernah berkata 'kami mungkin akan menjadi perusahaan AI dengan pendapatan dan valuasi tertinggi pada titik waktu ini', dan ini memang terjadi. Jadi di satu sisi saya tidak terkejut, karena di grafik itu hanyalah garis yang mulus; tetapi di sisi lain, ketika hal itu benar-benar terjadi, Anda melihat lebih banyak detail dan warna, ini pasti mengejutkan. Kami harus selalu mengingat pertanyaan-pertanyaan paling mendasar: bagaimana melatih model dengan baik? Bagaimana memasukkannya ke dalam produk yang baik? Bagaimana memastikan keamanan? Bagaimana membantu orang-orang, sambil mengelola risiko sosial yang dibawa teknologi? Semuanya adalah pertanyaan yang sama, hanya dilihat di bawah mikroskop yang lebih besar.
Pewawancara: Anda tumbuh besar di San Francisco, seperti apa masa kecil Anda? Saya tahu ayah Anda adalah seorang pengrajin kulit, dan ibu Anda bekerja di perpustakaan. Bagaimana pengaruhnya terhadap Anda?
Dario:Saat itu revolusi internet pertama sedang terjadi di sekitar saya, tetapi saya sama sekali tidak tertarik. Saya hanya tertarik mengerjakan soal matematika, mencoret-coret, memahami alam semesta, dan fiksi ilmiah. Itulah lingkungan keseluruhan saya saat itu, saya penasaran dengan dunia ini.
Pewawancara: Anda tumbuh besar di kota pusat teknologi ini, dan sekarang ini juga menjadi pusat AI. Apa ada sesuatu dari kota ini yang mempengaruhi pandangan dunia Anda?
Dario:Mentalitas nonkonformis, individualisme, dan 'tidak apa-apa untuk menjadi gila' yang umum ada di sini memang mempengaruhi saya. Jika Anda pergi ke Eropa atau bahkan ke tempat lain di negara ini, Anda akan menemukan bahwa berpikir dengan cara yang berbeda atau memiliki beberapa ide gila tidak didorong atau bahkan dianggap aneh. Meskipun saya memiliki banyak kritik terhadap Silicon Valley, saya pikir ada satu hal yang baik: tidak apa-apa jika semua ahli menentang Anda, jika Anda memiliki visi yang koheren tentang dunia, Anda harus mengejarnya. Mungkin itu sama sekali tidak berhasil, tetapi jika berhasil, itu akan menghasilkan efek ekor panjang, Anda mungkin menemukan tambang emas besar di beberapa urat. Saya pikir semangat ini sangat penting.
Pewawancara: Keputusan Anda meninggalkan OpenAI telah menjadi legenda Silicon Valley. Apa yang sebenarnya terjadi? Selain rumor dari luar, apa masalah sebenarnya? Di aspek apa Anda berselisih?
Dario:Saya akan menyederhanakannya. Ketika Anda mengembangkan teknologi yang kuat, Anda akan menghadapi banyak masalah sulit, Anthropic juga setiap hari menghadapi masalah-masalah yang tidak kami tahu keputusannya benar atau salah. Jadi ada banyak perbedaan pendapat yang masuk akal dalam masalah keamanan, kami memang memiliki beberapa perbedaan seperti itu dengan mereka, tetapi itu sendiri tidak cukup menjadi alasan untuk pergi. Bahkan di Anthropic, orang-orang memiliki perbedaan pendapat dengan saya, dan satu sama lain. Tapi, ketika Anda merasa tidak bisa mempercayai seseorang, ketika Anda merasa nilai-nilai mereka tidak seperti yang mereka katakan, ketika Anda merasa mereka tidak jujur, tidak bertindak berdasarkan motivasi yang mereka klaim, ketika Anda melihat pola perilaku menipu yang mengganggu, sulit untuk terus bekerja sama dan mempercayai perusahaan itu. Pada akhirnya, jika visi Anda berbeda dan tidak saling percaya, mengapa harus berdebat? Solusinya adalah berjalan masing-masing. Saya benar-benar bisa menerima dengan tenang bahwa kami melakukan dengan cara kami, mereka dengan cara mereka. Lihat siapa yang menang di pasar, siapa yang menang dalam opini publik. Ini lebih meyakinkan daripada drama gosip tentang siapa yang pergi. Kami sedang menunjukkan contoh bagaimana menyebarkan teknologi ini dengan cara yang bertanggung jawab. Jika mereka tidak setuju, mereka bisa mengajukan argumen mereka. Saya pikir hanya itu yang perlu dikatakan.
Pewawancara: Di konferensi puncak AI di India, Anda dan Sam Altman tampaknya menolak untuk berpegangan tangan di atas panggung. Apa yang terjadi di sana?
Dario:Kenyataannya adalah konferensi puncak itu sangat tidak terorganisir. Kami semua naik ke panggung pada menit terakhir, mereka mengubah urutan posisi kami secara tiba-tiba, mengambil foto, lalu tiba-tiba memerintahkan kami semua untuk berpegangan tangan. Jika Anda pernah pergi ke konferensi puncak internasional dengan kehadiran kepala negara, Anda akan tahu bahwa mereka cenderung super kacau (ini bukan khusus untuk India).
Pewawancara: Tapi yang lain berpegangan tangan.
Dario:Saya tidak tahu bagaimana menjelaskannya kepada Anda. Narendra Modi tiba-tiba di atas panggung menyuruh semua orang berpegangan tangan.
Pewawancara: Baiklah. Sam dan Elon sedang saling menggugat. Anda tidak menyukai Sam. Jika orang-orang yang membangun teknologi terpenting di dunia tidak bisa berpegangan tangan di atas panggung, bagaimana kami bisa percaya Anda akan bekerja sama dalam risiko kelangsungan hidup manusia?
Dario:Saya ingin memberi tahu Anda bahwa ada perbedaan besar dalam kualitas dan kredibilitas orang-orang yang membangun teknologi ini. Pernyataan 'tidak ada yang mempercayai siapa pun' itu tidak benar. Saya mengenal Demis Hassabis, pengembang model Gemini, selama 15 tahun, mereka adalah pesaing model Claude, tetapi kami telah bekerja sama dalam banyak masalah. Kami membeli daya komputasi dari Google, dan juga sering bertukar ide tentang keamanan. Jadi saya pikir, pertama, ada beberapa peserta yang memang lebih dapat dipercaya daripada yang lain; kedua, ada peserta di luar Anthropic yang saya percayai. Saya pikir yang perlu terjadi adalah, peserta yang dapat dipercaya bersatu, membuat peserta yang tidak dapat dipercaya berada dalam posisi yang harus mengadopsi standar yang sama. Berdasarkan pengalaman saya, beberapa orang tidak akan secara sukarela melakukan hal yang benar sendiri, tetapi jika mayoritas dalam industri melakukan hal yang benar, yang lain tidak memiliki banyak pilihan. Ini terbagi menjadi dua aspek: aspek positif adalah saling menginspirasi (yaitu kompetisi ke atas), misalnya Demis membuat Alpha Fold menginspirasi kami, kami melakukan penelitian biologi, penelitian keterjelasan kami juga menginspirasi mereka, ini bukan kompetisi zero-sum. Ini adalah sisi 'wortel' positif dari perlombaan; dan sisi 'tongkat'-nya adalah, Anda akan terlihat buruk jika tidak melakukan hal yang benar. Mereka mungkin sangat enggan melakukan hal yang benar, sambil berpura-pura melakukan hal lain, bahkan berpikir kami memiliki tujuan tersembunyi yang licik, ini sudah diperkirakan, tetapi inilah cara membuat industri bersatu dan bekerja sama.
Pewawancara: Awalnya orang lain fokus pada aplikasi konsumen yang menarik dan mencolok, sementara Anda bertaruh pada pengkodean dan sisi perusahaan. Claude Code dan Claude Cowork sangat sukses. Mengapa Anda membuat taruhan ini? Apakah ini keputusan nilai atau keputusan bisnis?
Dario:Ketika kami mendirikan Anthropic, yang paling mendasar adalah kami ingin melakukan hal dengan cara yang benar. Tetapi untuk mendanai pembuatan model yang sangat mahal, itu perlu memiliki model bisnis. Jika model bisnis secara fundamental bertentangan dengan nilai-nilai, Anda akan berada dalam situasi sulit: mengkhianati nilai-nilai, atau menjadi tidak relevan. Memilih model bisnis yang kompatibel dengan nilai-nilai jauh lebih baik. Kami telah melihat dunia media sosial dan konsumen, yang sering mendorong keterlibatan pengguna bahkan kecanduan (seperti kekacauan model video AI yang kita lihat), hanya untuk memaksimalkan waktu pengguna untuk mendapatkan pendapatan iklan. Sebaliknya, di sisi perusahaan, kami ingin menggunakan AI untuk menyembuhkan penyakit yang sebelumnya tidak dapat disembuhkan (bekerja sama dengan bioteknologi, farmasi, dan institusi akademik), membuat energi lebih murah dan efisien, membantu pendidikan dan organisasi nirlaba, mendorong pertumbuhan ekonomi. Ini pada dasarnya adalah aplikasi sisi perusahaan. Faktor lain adalah, perusahaan sangat menghargai kepercayaan dan hubungan jangka panjang. Sisi konsumen terkadang bersifat sensasional, sementara sisi perusahaan mengharuskan Anda membangun kepercayaan selama bertahun-tahun, memberikan apa yang Anda janjikan. Ini sangat selaras dengan tujuan kami untuk menyebarkan model dengan cara yang positif dan aman.
Pewawancara: Seorang pengembang dapat beralih dari Claude ke ChatGPT atau Gemini dalam satu sore. Apakah benar-benar mungkin mempertahankan posisi terdepan jangka panjang di industri ini? Berapa lama pesaing kuat yang dibutuhkan untuk meniru apa yang Anda bangun?
Dario:Kualitas model adalah yang terpenting. Kami saat ini unggul jauh dalam kualitas model. Meskipun ada inersia peralihan tertentu, saya (dan Anthropic) tidak pernah mengandalkan 'ketertarikan' produk agar orang tidak beralih. Anda perlu memiliki model yang lebih baik, produk yang lebih baik. Kami melihat tingkat pertumbuhan sama sekali tidak mengalami penurunan. Setidaknya pada saat wawancara ini direkam, jika ada perubahan, itu masih naik. Jadi saya cenderung berpikir kualitas model adalah hal terpenting.
Pewawancara: Tidak lama setelah peluncuran Claude Cowork, ada kapitalisasi pasar $285 miliar yang menguap dalam semalam, trader menyebutnya 'SaaSpocalypse (Kiamat SaaS)'. Jika AI terus maju dengan kecepatan ini, berapa banyak perangkat lunak tradisional yang akan digantikan, dan seberapa cepat?
Dario: Ini sulit diprediksi secara akurat sebelumnya. Semua perusahaan perangkat lunak tradisional memiliki parit mereka masing-masing. Beberapa parit akan hilang, tetapi yang lain akan bertahan. 'Menulis perangkat lunak kompleks dengan cepat' sebagai parit pasti akan hilang, Anda tidak bisa lagi bertahan dengan itu. Tetapi hubungan pelanggan, pengetahuan tentang cara kerja industri, dan keahlian khusus bidang unik tetap penting. Saya menyarankan perusahaan-perusahaan ini: jangan puas diri, buat daftar semua parit Anda, lihat mana yang akan hilang, mana yang akan menguat, karena juga akan ada parit baru yang muncul. Orang yang fleksibel akan baik-baik saja, sementara mereka yang menipu diri sendiri, puas dengan pengalaman masa lalu, akan mengalami masa-masa sulit. Secara keseluruhan, saya pikir industri perangkat lunak akan menjadi lebih besar, bukan lebih kecil, meskipun pasti akan ada beberapa pecundang besar.
Pewawancara: Jelaskan poin ini.
Dario:Karena 'kue' semakin besar. Jika AI membuat langit-langit industri meningkat 10 kali lipat, perusahaan yang ada dapat dengan mudah mencapai pertumbuhan 1,5 kali lipat, meskipun bagian relatifnya dalam kue besar menjadi lebih kecil. Tetapi jika mereka yang tidak beradaptasi, mengubur kepala mereka di pasir, mereka akan mengalami masa-masa sulit atau bahkan bangkrut.
Pewawancara: Pendukung terbesar Anda adalah perusahaan seperti Amazon, Google, Microsoft, dan Nvidia. Mereka semua memiliki agenda mereka sendiri, baik sebagai mitra maupun pesaing. Tonggak bisnis besar Anda terkait dengan pendanaan, siapa yang sebenarnya memegang kendali?
Dario:Dalam banyak kasus, kami sangat blak-blakan tentang apa yang benar-benar kami pikirkan. Kami semua orang dewasa, kami bisa sepakat untuk tidak sepakat, bekerja sama dalam satu hal dan tidak sepakat dalam hal lain.
Pewawancara: Ada laporan bahwa valuasi Anda lebih tinggi dari OpenAI. Untuk perusahaan rintisan yang berusia lima tahun, valuasi mendekati satu triliun dolar. Bagaimana Anda memahami angka ini? Jika Anda lebih disiplin dalam daya komputasi dan memiliki jalan menuju profitabilitas yang lebih cepat, mengapa Anda membutuhkan uang sebanyak itu?
Dario:Permintaan daya komputasi tumbuh sangat cepat. Fundamental bisnis baik, tetapi dalam setahun kebutuhan daya komputasi Anda bisa meningkat tiga atau empat kali lipat, pertumbuhannya sangat cepat. Kami sepenuhnya berharap pertumbuhan pendapatan dapat mencapai atau bahkan melampaui pertumbuhan daya komputasi ini. Mengumpulkan dana adalah untuk menahan dampak ketidakpastian ini, ini sangat rasional, dan juga sangat sedikit pengenceran ekuitas perusahaan, ini sama sekali bukan representasi dari masalah fundamental bisnis.
Pewawancara: Melebihi pesaing utama Anda rasanya enak?
Dario:Kami masih memiliki banyak tantangan sulit di depan. Kami menerapkan konsep 'berlomba ke atas', mencoba menarik perusahaan lain untuk maju bersama kami. Meskipun terkadang mereka tidak mengakuinya, terkadang menyerang kami sambil menjiplak kami, efek tarikan ini sangat berharga.Nilai menjadi perusahaan terdepan bukanlah hanya mengalahkan lawan, tetapi kemampuan untuk memimpin seluruh ekosistem.
Pewawancara: Tapi menang pasti harus terasa lebih baik.
Dario:Kami tentu saja selalu berusaha untuk sukses, dan tidak ingin gagal. Saya tidak berpikir kami harus menutup teknologi ini, kami bersaing dalam sistem perusahaan bebas, hanya perlu mengurangi risiko model. Kami selalu mencari keseimbangan di antara dua kutub.
Pewawancara: Kecepatan pengembangan produk Anda sangat mencengangkan. Bagaimana Anda melakukannya?
Dario:Dua alasan: pertama, kami memiliki budaya yang menyatu dan efisiensi organisasi, semua orang selaras; kedua, adalah Claude itu sendiri. Kami sekarang menggunakan Claude untuk membantu mengembangkan model dan produk kami, membuatnya lebih efisien. Ini menghasilkan efek percepatan yang besar dan semakin andal.
Pewawancara: Apa hal paling gila yang pernah Anda lihat dilakukan AI?
Dario:Semua tentang biologi dan kedokteran. Saya beberapa kali melihat Claude mendiagnosis masalah medis yang terlewatkan oleh dokter senior. Dalam biologi, model mulai menjadi luar biasa baik dalam desain obat atau kimia komputasi. Sebagai mantan ahli biologi, saya tahu betul itu membutuhkan pelatihan profesional tingkat sangat tinggi. Ini adalah sisi positif besar AI, ini akan sangat meningkatkan kualitas hidup manusia. Bayangkan kemajuan ilmu pengetahuan seratus tahun dari 1900 sampai sekarang, lalu bayangkan jika ada kemajuan seratus tahun lagi. Jika kita bisa melewati tantangan sekarang dengan lancar, kita akan memiliki dunia yang jauh lebih baik.
Pewawancara: Saya tahu Anda sangat suka menulis. Apakah Anda menggunakan Claude untuk membantu Anda menulis?
Dario:Ya, tetapi saya belum membuatnya langsung menulis teks utuh untuk saya, karena saya agak pemilih tentang gaya tertentu. Saya terutama menggunakan Claude untuk brainstorming, merapikan tema, atau menyediakan referensi. Saat ini perannya adalah pendukung, meskipun masih jauh dari menulis lebih baik dari saya, tetapi itu akan datang.
Pewawancara: Menulis membantu orang merapikan pikiran, mengandung banyak pemikiran kritis. Jika kita membiarkan Claude melakukannya, apakah kita akan kehilangan kemampuan berpikir itu?
Dario:Saya memang agak khawatir tentang ini. Saya bersikeras menulis sendiri, setengah untuk pembaca, tetapi sama juga untuk merapikan pikiran saya sendiri. Jika hanya memintanya 'menulis artikel tentang risiko AI', ini tidak hanya tidak akan menulis apa yang benar-benar ingin saya sampaikan, tetapi juga membuat saya kehilangan manfaat berpikir itu. Di masa depan, seiring model menjadi lebih baik, kita mungkin perlu menemukan cara penggunaan yang halus yang bisa memanfaatkannya lebih langsung sambil mempertahankan manfaat berpikir.
Pewawancara: Anda pernah berbicara blak-blakan tentang pengangguran, memprediksi AI mungkin bisa menghilangkan setengah dari pekerjaan kerah putih tingkat junior dalam 1 sampai 5 tahun. Itu setahun yang lalu, apakah persentase ini sekarang 50% atau lebih tinggi?
Dario:Jika Anda melihat video lengkap aslinya, pernyataan sebenarnya saya adalah: Saya tidak tahu apa yang akan terjadi, tetapi ini mewakili orde besarnya betapa gilanya hal-hal akan terjadi. Namun, psikologi orang cenderung mengedit tiga detik 'kiamat akan datang' itu, dan mengabaikan semua solusi penanganan yang juga saya bahas (seperti pajak token, penyesuaian perusahaan, kebijakan makroekonomi, dll.).Pesan saya sama sekali bukan 'kiamat akan datang', tetapi kita perlu melihatnya lebih awal, memperhatikannya, dan menanggapinya secara aktif. Dalam jangka pendek AI akan membuat orang lebih efisien, tetapi ini hanya tahap transisi. Seperti yang kita lihat dalam sejarah otomatisasi, AI pada akhirnya mungkin mengambil alih bagian pekerjaan itu. Ambil contoh insinyur perangkat lunak di Anthropic, sekarang AI membantu mereka menulis sebagian besar kode membuat mereka lebih efisien, tetapi juga mulai muncul situasi di mana lebih baik langsung membiarkan AI melakukan tugas tertentu. Di sisi lain, ini juga menciptakan permintaan baru, seperti 'arsitek solusi AI terapan (insinyur penerapan front-end)' yang memiliki kemampuan teknis dan komunikasi pelanggan. Perusakan dan penyesuaian lapangan pekerjaan akan terjadi bersamaan.
Pewawancara: Anda merilis bagan yang menunjukkan potensi perusakan pekerjaan, mana yang akan hilang, mana yang akan tercipta.
Dario:Ini sulit diprediksi secara akurat, seperti memprediksi pasar saham. Tetapi secara keseluruhan, kemungkinan besar posisi kerah putih tingkat junior (perbankan, keuangan, dll.) akan digantikan oleh AI. Saat berkomunikasi dengan klien perusahaan, kami menemukan mereka dihadapkan pada pilihan: mengurangi karyawan untuk menghemat biaya, atau menggunakan sumber daya yang sama untuk melakukan lebih banyak hal baru? Kami selalu mencoba mendorong mereka menuju 'permainan hasil positif': menggunakan peningkatan efisiensi untuk melakukan lebih banyak hal, bukan mengurangi karyawan. Seiring 'kue' membesar, orang mungkin akan menemukan tempat baru, ini adalah masalah kecepatan pencocokan. Skala perusakan akan sangat besar, jadi saya mencoba memperingatkan orang.
Pewawancara: Jika ada tingkat pengangguran yang begitu tinggi, bukankah ini alasan untuk pecahnya revolusi?
Dario: Ini pasti hasil yang ingin kita hindari. Saya pikir ada beberapa bidang yang akan mempertahankan peluang: pertama, dunia fisik (karena perkembangan robot lebih lambat dari kecepatan pemrosesan informasi AI, manufaktur dan konstruksi masih membutuhkan banyak tenaga manusia); kedua, semua pekerjaan yang berpusat pada manusia. Bahkan jika AI lebih akurat dari dokter atau lebih baik dalam layanan pelanggan, orang masih ingin dan perlu berbicara dan membangun hubungan dengan manusia lain dalam hal-hal penting. Manusia juga akan mempertahankan peran memandu nilai dan tujuan AI.
Pewawancara: Banyak orang menentang pandangan Anda, misalnya Jensen Huang mengatakan Anda membingungkan 'tugas' dan 'pekerjaan', dan ada yang mengatakan ini adalah 'pemasaran kiamat' yang menguntungkan Anthropic.
Dario:Saya ingin membantah ini dengan jelas. Dalam laporan dan makalah kami, kami menggunakan lima halaman penuh untuk menjelaskan perbedaan tugas dan pekerjaan, menjelaskan mengapa kali ini berbeda, dan mengusulkan enam solusi yang mencakup swasta dan pemerintah. Tetapi saya menemukan, penyakit Silicon Valley dan media sosial adalah kemalasan, orang hanya menonton klip tiga detik dari setahun yang lalu lalu memberikan komentar tidak bertanggung jawab. Menyebut pekerjaan intelektual serius sebagai 'pemasaran murah', ini sendiri adalah pemasaran murah dan perilaku yang sangat malas yang menolak diskusi serius.
Pewawancara: Sebagai perusahaan AI terkemuka dunia, Anda sangat terlibat dalam banyak bidang keamanan nasional Amerika Serikat. Anda memiliki posisi anti-perang jangka panjang sejak di Caltech, tetapi Anda adalah salah satu perusahaan AI pertama yang menandatangani kontrak operasi jaringan rahasia dengan Departemen Pertahanan. Tolong jelaskan.
Dario:Alasannya adalah dunia berubah. Ketika saya melihat Rusia menginvasi Ukraina, saya khawatir dengan kebangkitan kelompok otoriter. Kami perlu membela diri. Kami sama sekali tidak ingin lawan menggunakan AI untuk menganalisis intelijen, menyerang Ukraina, sementara kami tidak bisa bertahan. Jadi kami memberikan dukungan lintas lembaga pemerintah. Omong-omong, kami melakukan ini sama sekali bukan untuk uang, menjalankan di jaringan pemerintah sebenarnya merepotkan, dan keuntungannya juga sedikit. Justru karena kami melakukannya karena 'peduli', penggunaan teknologi harus memiliki batasan dan garis merah yang jelas, yaitu: tidak boleh melakukan pengawasan massal dan mengembangkan senjata yang sepenuhnya otonom. Jika untuk memenangkan persaingan kita mengorbankan nilai-nilai demokrasi kita, itu juga tidak sepadan. Ini adalah keseimbangan dan posisi yang kami pertahankan.
Pewawancara: Anda mulai bekerja sama dengan Palantir sejak 2024, teknologi mereka digunakan oleh Layanan Imigrasi dan Bea Cukai AS, departemen kepolisian, bahkan di Gaza. Apakah Claude digunakan untuk pengawasan?
Dario:Kami tidak bekerja sama dengan ICE dan CBP, baik langsung maupun melalui Palantir. Sepengetahuan saya, kami juga tidak melakukan bisnis di Gaza. Kami sangat berhati-hati membatasi cakupan partisipasi kami pada nilai-nilai yang kami setujui.
Pewawancara: Jadi Anda menetapkan garis merah, presiden melarang beberapa lisensi pemerintah federal Anda, Pentagon memberi label risiko rantai pasokan pada Anda, sementara OpenAI masuk dan menandatangani kontrak yang tidak ingin Anda tanda tangani. Seperti apa rasanya memenangkan pertarungan ini?
Dario:Saya tidak berpikir ini adalah pertarungan tentang 'menang atau kalah', ini adalah perdebatan sosial tentang bagaimana pemerintah menggunakan AI dengan tepat. Kami berusaha membangun preseden penggunaan untuk skenario yang mengkhawatirkan, dan telah memicu perhatian terhadap masalah itu. Kami melihat upaya bipartisan di Kongres untuk mencoba melarang aplikasi berisiko tinggi dan menetapkan pagar pembatas. Jika harus berbicara tentang menang, mendorong negara kita berpikir lebih hati-hati tentang batas penggunaan yang tepat dari teknologi baru, itulah kemenangannya.
Pewawancara: Ada yang menggambarkan Anda sebagai orang gila ideologis yang seharusnya tidak memiliki kekuatan sebesar itu, atau fanatik sayap kiri, apakah Anda keberatan?
Dario:Saya sering dicela, dan lebih buruk dari itu. Orang bisa menyebut saya dan Anthropic apa saja, yang saya pedulikan hanya dua hal: perusahaan sukses, dan kami mempertahankan nilai-nilai kami sendiri. Ini sebenarnya membuat hidup saya sangat sederhana, saya selalu tahu posisi saya.
Pewawancara: Apakah perang AI lebih mungkin mencegah Perang Dunia III, atau lebih mudah memicunya?
Dario: Secara keseluruhan lebih mungkin mencegahnya. Tetapi jika tidak ada batasan penggunaan, itu berpotensi memicu perang. Tanpa regulasi yang tepat, kedua belah pihak mudah bertikai karena kesalahpahaman. Jika kita memiliki keunggulan telak dalam pengumpulan intelijen dan kemampuan respons, lawan akan berpikir dua kali sebelum melancarkan aksi. Kecerdasan yang unggul dapat secara efektif mencegah konflik.
Pewawancara: Anthropic hampir setiap minggu menjadi berita utama, baru-baru ini tentang model Mythos. Anda mengatakan Mythos terlalu kuat untuk dirilis ke publik. Apa yang paling mengejutkan Anda tentang itu?
Dario:Yang paling mengejutkan saya adalah, ia tidak hanya dapat menemukan kerentanan, tetapi juga dapat mengubah kerentanan menjadi alat serangan yang substantif, muncul lompatan besar dalam kemampuan ini. Beberapa perusahaan yang mengujinya lebih awal bahkan meminta kami untuk tidak merilisnya, dan menyebutnya sebagai 'senjata super', berpikir perlu memiliki izin kepemilikan senjata untuk menggunakannya. Kami tidak merilisnya ke publik bukan karena ingin menguncinya selamanya, tetapi karena mekanisme pertahanan siber saat ini masih mudah 'dibobol'. Kami akan menunggu sampai mekanisme pertahanan cukup percaya diri untuk menanganinya, baru merilisnya dengan langkah-langkah pengamanan yang kuat.
Pewawancara: Tapi ada banyak keberatan dari luar: ada peneliti yang mengatakan bisa mereplikasinya dengan model open source yang lebih murah, dan ada yang mengatakan ini sepenuhnya hubungan masyarakat dan taktik pemasaran yang besar. Bagaimana tanggapan Anda?
Dario:Pernyataan bahwa bisa mereplikasinya dengan model open source sangatlah tidak masuk akal. Model Mythos menemukan 271 kerentanan baru di browser Firefox, ribuan kerentanan baru di banyak perusahaan swasta yang tidak bisa diungkapkan, model sebelumnya sama sekali tidak menemukan ini. Orang yang mengatakan di Twitter bisa mereplikasinya dengan model open source, hanya mengarahkan ulang ke baris kode itu setelah kami menunjukkan baris kode mana yang bermasalah. Ini sama sekali bukan hal yang sama.
Sedangkan untuk pernyataan 'pemasaran', tidak merilis model yang sangat kuat ini membuat kami menanggung kerugian bisnis yang besar, itu sebenarnya bisa sangat mempercepat penelitian dan pengembangan internal dan eksternal. Jika ini membantu pembela, maka bantuannya bagi penyerang juga sama. Jadi strategi kami saat ini adalah memberikannya dulu kepada pihak pembela untuk menambal kerentanan sistem. Begitu semua 'lubang' kerentanan ditambal, ekosistem internet masa depan akan menjadi sangat aman. Orang-orang yang melakukan serangan dan operasi balik di X (termasuk beberapa pesaing tertentu), gagal menanggapi pertimbangan risiko seluruh masyarakat dengan serius, itu adalah ketidakdewasaan yang ekstrem.
Pewawancara: Apakah Anda sudah membuat pertimbangan yang tidak sepenuhnya Anda puas?
Dario:Seluruh sejarah Anthropic penuh dengan pertimbangan. Jika dalam dunia ideal, Anda mungkin menghabiskan bertahun-tahun meneliti setiap jebakan chatbot sebelum merilisnya. Meskipun kami memang menunda Claude versi awal beberapa bulan, semuanya tetap pertimbangan. Sekarang kami berada dalam posisi terdepan bisnis, saya dan Daniela melakukan segala yang kami bisa untuk menggeser penunjuk lebih jauh ke arah 'berhati-hati'. Inilah niat awal membatasi rilis Mythos, jika Anda bukan pemain terdepan, sulit membuat keputusan seperti itu.
Pewawancara: Mengingat teknologi ini begitu kuat, mengapa pemerintah tidak langsung mengambil alih Anda?
Dario:Ini adalah kekhawatiran yang sangat serius. Melihat sejarah, semua teknologi yang sangat kuat yang belum pernah ada sebelumnya (senjata nuklir, internet, GPS, ponsel) awalnya lahir di pemerintah dan laboratorium federal. AI adalah teknologi pertama yang sepenuhnya dibangun di sektor swasta dan pemerintah terlambat terlibat, keadaan ini sebenarnya berbahaya dan tidak stabil. Tetapi sekarang, bahaya pemerintah tidak melakukannya memang lebih besar daripada bahaya yang dilakukan sektor swasta. Jadi kita perlu pemeriksaan dan keseimbangan kekuasaan: kami mendirikan 'Dana Perwalian Kepentingan Jangka Panjang', mereka memiliki wewenang untuk memecat mayoritas direktur bahkan memecat saya, ini memperkenalkan unsur tata kelola publik.
Di tingkat pemerintah, kita memerlukan cabang legislatif dan yudikatif untuk menerapkan pengujian wajib sebelum rilis dan regulasi garis merah. Saya takut perusahaan mengendalikannya, juga takut pemerintah memonopolinya, kedua belah pihak harus saling mengimbangi. Sangat lucu bahwa ada sekelompok orang di Silicon Valley, yang awalnya sangat menentang regulasi atau bahkan persyaratan transparansi apa pun (mengatakan itu akan mencekik inovasi), setelah melihat bahaya nyata pertama, langsung berayun ke menyatakan 'pemerintah harus menasionalisasikannya'. Reaksi yang berayun bolak-balik antara dua kutub ekstrem ini sangat tidak dewasa, kita perlu jalan tengah yang rasional.
Pewawancara: Di bidang Anda selalu membicarakan momen AI menjadi cukup baik untuk 'peningkatan diri'. Peneliti Anda berpikir itu sudah dekat, seberapa jauh tepatnya?
Dario:Saya pikir itu bukan 'momen' tertentu, tetapi proses eksponensial yang terus berakselerasi. Kami telah melihat AI mulai membantu mengusulkan arsitektur AI generasi berikutnya. Setahun yang lalu AI meningkatkan produktivitas faktor total 10-15%, sekarang mungkin 20-30%. Itu tidak akan tiba-tiba lepas kendali pada suatu momen, tetapi pada kurva eksponensial yang mulus ini, kita perlu mengevaluasi pada setiap titik apakah harus memperlambat dan menerapkan lebih banyak kendali. Respons yang rasional adalah meningkatkan langkah-langkah penanggulangan kami secara bertahap dan mulus seiring kekuatan teknologi tumbuh, bukan panik.
Pewawancara: Anda pernah mengatakan peradaban manusia memiliki peluang 10-25% runtuh. Ini bukan hal sepele. Mungkinkah ada situasi di mana sesuatu yang dibuat Anthropic menyebabkan keruntuhan ini?
Dario:Saya tentu berharap tidak. Probabilitas risiko ini berasal dari ketidakpastian intrinsik teknologi, serta kompleksitas tatanan dunia. Berbagai langkah yang kami ambil justru untuk mengurangi, bukan menambah, probabilitas keruntuhan ini. Sama seperti industri penerbangan, meskipun Anda membuat pesawat yang sepuluh kali lebih aman dari orang lain, Anda tidak bisa benar-benar menjamin kepada orang lain bahwa itu 'tidak akan pernah jatuh'.
Bacaan terkait: OpenAI dan Anthropic Bersama-sama Mengubah Sikap: Apakah Teori Kiamat Pekerjaan AI Tidak Populer Lagi?
