Original | Odaily Planet Daily(@OdailyChina)
Penulis | Azuma(@azuma_eth)
Waktu Beijing, malam 25 Mei, Vatikan.
Paus Leo XIV, yang resmi menjabat pada Mei tahun lalu, berdiri bersama Chris Olah, pendiri bersama Anthropic dan pencipta Claude.
Di satu sisi adalah perwakilan tertinggi bidang agama, di sisi lain adalah pelopor terkuat revolusi AI. Kedua belah pihak memusatkan perhatian pada pertanyaan yang sama — di era AI, bagaimana melindungi status dan martabat manusia sebagai subjek?
Pada hari itu, untuk membahas isu ini secara lengkap, Leo XIV menerbitkan ensiklik pertamanya sejak menjabat, sebuah dokumen agama penting sepanjang lebih dari 40.000 kata — "Magnifica humanitas" (Kemanusiaan yang Agung).
Patut diperhatikan, tanggal penulisan ensiklik Leo XIV ini adalah 15 Mei 2026, tepat 135 tahun setelah Paus Leo XIII (menjabat 1878-1903) menerbitkan ensiklik bersejarah "Rerum novarum" (1891) tentang "hak-hak pekerja di bawah revolusi industri". Tindakan ini jelas memiliki makna simbolis tertentu, yaitu berharap menjadikan ensiklik ini sebagai "panduan ajaran sosial gereja di era AI".
- Catatan Odaily: Ensiklik Paus, juga dikenal sebagai surat ensiklik atau ensiklik kepausan, adalah pengumuman yang dikeluarkan oleh Paus Roma kepada gereja Katolik di seluruh dunia atau di suatu wilayah/negara tertentu. Melalui itu, keputusan penting Tahta Suci diumumkan, interpretasi terhadap ajaran, serta pendirian mengenai masalah gereja atau sosial, mengumumkan instruksi atau larangan kepada rohaniwan dan umat, tingkatnya lebih rendah daripada bulla kepausan.
Chris Olah juga memberikan pidato di lokasi Vatikan terkait penerbitan ensiklik ini. Chris Olah tidak membela kepentingan komersial perusahaan AI, malah menunjukkan keterbukaan, refleksi, dan kepedulian kemanusiaan yang sangat tinggi. Dia bahkan menyebutkan, meskipun dasar AI adalah matematika dan pemrograman, bagaimana AI berinteraksi dengan dunia dan sifat apa yang seharusnya dimilikinya adalah pertanyaan-pertanyaan ultim di bidang humaniora, agama, dan filsafat, bukan masalah yang dapat diselesaikan oleh ilmu komputer sendiri.
Ikhtisar Ensiklik
Kekhawatiran inti dari ensiklik "Magnifica humanitas" adalah bahwa di era teknologi yang berkembang pesat dan otomatisasi yang marak, "mempertahankan kemanusiaan yang mendalam" adalah tanggung jawab mendesak umat manusia. Secara khusus, Paus Leo XIV dalam teks ini membahas dan menyerukan hal-hal berikut.
Pertama, memeriksa sifat netralitas teknologi. Paus menunjukkan bahwa teknologi tidak pernah netral, ia membawa cap kepentingan dan nilai-nilai dari pengembang, penyandang dana, regulator, dan pengguna. Umat manusia sedang menghadapi pilihan yang menentukan: "apakah membangun 'Menara Babel' yang arogan (menuju kediktatoran dan alienasi teknologi), atau membangun kembali 'Yerusalem' (membangun komunitas yang berpusat pada manusia)".
Kedua, waspada terhadap pembentukan ulang masyarakat oleh "logika teknokratis". Ensiklik mengkritik "Budaya Kekuasaan" (Culture of Power) yang didominasi oleh raksasa teknologi besar seperti Silicon Valley. Paus memperingatkan bahwa ketika kontrol atas sistem digital, infrastruktur, dan data massal sangat terkonsentrasi di tangan segelintir raksasa ekonomi dan teknologi, kekuatan ini menjadi tidak transparan dan menghindari pengawasan demokratis.
Ketiga, "perbudakan bentuk baru" dan hak-hak buruh dalam ekonomi digital. Ensiklik mengalihkan perhatian pada pembentukan ulang pekerjaan, keluarga, pendidikan, dan kehidupan politik oleh AI. Paus menunjukkan bahwa AI sangat mungkin menggantikan tenaga kerja manusia dalam skala besar, dan ekonomi digital sedang melahirkan "bentuk-bentuk baru perbudakan" (New forms of slavery). Manusia tidak boleh hanya direndahkan menjadi alat produksi.
Keempat, seruan perdamaian yang kuat, terutama penyalahgunaan AI di bidang militer. Ensiklik mengungkapkan kekhawatiran mendalam atas "kebangkitan yang mengganggu dari perang sebagai alat politik internasional". Militarisasi AI sedang mempercepat "normalisasi" perang. Terkait hal ini, Paus menyerukan bahwa penerapan AI dalam perang harus dikenai batasan etika yang paling ketat.
Paus secara khusus menyebutkan, teori "perang adil" (Just war) sebelumnya sering digunakan untuk membela berbagai perang, kini sudah usang. Di era AI dan senjata otomatis, mempercayakan keputusan mematikan atau tidak dapat dibalikkan kepada sistem otomatis akan menyebabkan manusia mengabaikan, mengalihkan, dan mengaburkan tanggung jawab moral. Karena sifat algoritma yang tidak transparan, rantai tanggung jawab dalam perang terputus. Oleh karena itu, Paus mengajukan slogan "melucuti AI" (Disarming AI), menyerukan untuk membebaskannya dari logika "perlombaan senjata" militer, ekonomi, dan kognitif.
Kelima, membela kebenaran dan ekologi politik. Ensiklik menunjukkan bahwa deepfake (pemalsuan mendalam) dan manipulasi informasi sedang melemahkan fondasi kepercayaan timbal balik masyarakat. Jika batas antara kebenaran dan kepalsuan terus dimanipulasi, publik mudah jatuh ke dalam ketakutan, propaganda politik, dan kontrol, sehingga masyarakat tidak dapat berpikir bersama secara rasional atau melakukan perdebatan yang adil.
Tanggapan Anthropic
Setelah ensiklik Leo XIV diterbitkan, Chris Olah mewakili perusahaan pengembang AI terkuat di dunia, Anthropic, memberikan pidato komentar.
Pidato Chris Olah pertama-tama berputar di sekitar "memecah involusi teknologi, memperkenalkan pemeriksaan moral eksternal". Dia mewakili industri AI secara terbuka mengakui bahwa hanya dengan kekuatan perusahaan teknologi raksasa sendiri tidak dapat memastikan masa depan AI aman — semua laboratorium AI terdepan terikat oleh persaingan komersial, tekanan kepemimpinan teknologi, gejolak geopolitik, serta popularitas pribadi, sehingga sulit hanya mengandalkan disiplin diri untuk "melakukan hal yang benar". Oleh karena itu, perlu memperkenalkan kekuatan pembatas moral eksternal, termasuk mereka yang peduli pada kebaikan teknologi, bersikeras pada keselamatan sebagai prioritas, mengikuti perkembangan dengan cermat, bersedia mengucapkan nasihat yang tidak enak didengar, dan bersedia menjadi kritikus kita yang tulus dan bijaksana.
Kemudian, Chris Olah membahas sifat teknis dan karakteristik misterius AI. Dia menekankan bahwa AI bukanlah rekayasa presisi seperti pesawat atau jembatan yang prinsip fisiknya sepenuhnya diketahui manusia, ia "tumbuh" dari pemikiran manusia dalam jumlah besar, memiliki tingkat misteriusitas yang tinggi, bahkan melampaui pemahaman penciptanya sendiri. Meskipun dasar AI adalah matematika dan pemrograman, bagaimana AI berinteraksi dengan dunia dan sifat apa yang seharusnya dimilikinya adalah pertanyaan-pertanyaan ultim di bidang humaniora, agama, dan filsafat, bukan masalah yang dapat diselesaikan oleh ilmu komputer sendiri.
Dia juga secara khusus menyebutkan fakta yang membuat merinding: "Saya memimpin sebuah tim yang meneliti struktur internal model — meneliti apa yang sebenarnya terjadi di dalam AI itu. Jujur saja, kami terus-menerus menemukan fenomena yang membingungkan, bahkan mengganggu. Kami menemukan struktur internal yang mampu mencerminkan hasil penelitian neurosains manusia; kami menemukan bukti "introspeksi"; kami juga menemukan kondisi internal yang secara fungsional mencerminkan kegembiraan, kepuasan, ketakutan, kesedihan, dan kegelisahan... Saya tidak tahu apa artinya ini, tetapi saya pikir ini layak untuk terus kami identifikasi dan periksa."
Chris Olah akhirnya menyerukan, berharap lebih banyak kekuatan sosial, termasuk komunitas agama, masyarakat sipil, akademisi, pemerintah, dan semua orang yang berniat baik, bersama-sama menangani hal ini dengan serius, mendorong situasi ke arah yang lebih baik melalui pembatasan moral.
Kebijaksanaan dan Kemanusiaan, Sains-Teknologi dan Agama
Sejak revolusi industri, sejarah perkembangan teknologi selama ratusan tahun membuat manusia secara bertahap terbiasa memandang teknologi sebagai "alat" murni — mesin uap, listrik, internet, semuanya begitu. Mereka akan mengubah dunia, tetapi selalu berada di bawah kendali kehendak manusia.
Tetapi kali ini, situasinya sama sekali berbeda. Keunikan AI terletak pada kenyataan bahwa untuk pertama kalinya manusia mulai menghadapi suatu keberadaan yang "dapat menghasilkan, belajar, menalar, bahkan menampilkan keadaan internal tertentu". Ia tidak lagi hanya alat yang dingin, tetapi secara bertahap menjadi sesuatu baru yang memiliki "kesubjekan serupa".
Inilah mengapa dialog antara gereja dan Anthropic ini tampak begitu istimewa. Saat lonceng Vatikan dan algoritma Silicon Valley bertemu pada momen ini, kita harus mengakui kenyataan yang agak dingin namun tak terhindarkan — suatu bentuk "kehidupan" yang lebih efisien dan lebih bijaksana daripada pemahaman tradisional manusia telah muncul. Seperti yang diungkapkan Chris Olah, kedalaman algoritma telah mulai menunjukkan riak-riak kecil yang mirip kegembiraan, ketakutan, bahkan introspeksi. Ketika sang pencipta di laboratorium mulai merasa "gelisah" dan "bingung" dengan karyanya sendiri, sains juga mencari jawaban kembali kepada agama.
Ini bukan lagi diskusi sederhana tentang teknologi, tetapi lebih seperti sebuah refleksi tentang "apa sebenarnya manusia, dan apa yang harus dilakukan". Ketika bentuk kehidupan yang lebih bijaksana mulai muncul, yang benar-benar perlu dijaga oleh manusia mungkin bukan lagi hanya pekerjaan, kekayaan, dan efisiensi, tetapi kemanusiaan itu sendiri yang tidak dapat diparameterisasi, seperti belas kasih, hati nurani, rasa takjub, kehendak bebas, serta keteguhan pada kebenaran dan martabat.
