Wawancara Ribuan Kata dengan CEO Anthropic: Setelah AI Menjadi Senjata Super, Bagaimana Mencari Keseimbangan antara Bisnis dan Keamanan?
Sumber: Bloomberg, disusun oleh PANews.
Dario Amodei, CEO Anthropic, membahas perjalanan startup-nya di San Francisco, persaingan dengan OpenAI, dan tujuan akhir AI dalam wawancara ini.
Amodei menggambarkan pertumbuhan Anthropic sebagai "kurva eksponensial yang mulus" di pusat alam semesta AI. Ia menyoroti pengaruh lingkungan San Francisco yang mendorong pemikiran non-konformis. Mengenai perpisahannya dari OpenAI, ia menekankan perbedaan nilai dan isu kepercayaan sebagai alasan utama, bukan sekadar perbedaan pendapat soal keamanan.
Ia menjelaskan fokus Anthropic pada aplikasi perusahaan (seperti Claude Code dan Claude Coworker) didorong oleh keselarasan dengan nilai-nilai perusahaan dan kebutuhan model bisnis yang berkelanjutan. Menurutnya, kualitas model adalah faktor kunci untuk mempertahankan kepemimpinan, bukan sekadar 'kelekatan' pengguna.
Amodei mengakui dampak disruptif AI pada lapangan kerja, terutama posisi kerah putih junior, tetapi menekankan pentingnya transisi ke "permainan jumlah positif" di mana peningkatan efisiensi digunakan untuk menciptakan nilai baru, bukan hanya pemutusan hubungan kerja. Ia membantah klaim bahwa peringatannya adalah "pemasaran kiamat".
Dalam bidang keamanan nasional, Anthropic bekerja dengan Departemen Pertahanan AS tetapi menetapkan batasan ketat, menolak kerja sama dalam pengawasan massal atau senjata otonom mematikan. Amodei percaya AI yang dikelola dengan baik lebih mungkin mencegah Perang Dunia III melalui deterensi kecerdasan.
Mengenai model Mythos yang sangat kuat, Amodei membela keputusan untuk tidak merilisnya kepada publik saat ini karena kemampuannya yang luar biasa dalam menemukan dan mengeksploitasi kerentanan perangkat lunak, yang dianggapnya sebagai "senjata super". Rilis akan dilakukan hanya setelah mekanisme pertahanan memadai.
Ia menyatakan kekhawatiran tentang keseimbangan kekuasaan antara sektor swasta dan pemerintah dalam mengontrol teknologi AI yang kuat, mendukung pendekatan regulasi yang seimbang. Amodei melihat peningkatan diri AI bukan sebagai momen tunggal yang tiba-tiba, tetapi sebagai proses eksponensial yang terus dipercepat yang memerlukan kewaspadaan berkelanjutan.
Meskipun mengakui adanya risiko eksistensial (10-25%) bagi peradaban dari AI, ia menegaskan bahwa misi Anthropic adalah secara aktif mengurangi risiko tersebut melalui pengembangan yang bertanggung jawab.
marsbit06/24 09:28
