Paus Leo XIV akan merilis ensiklik pertamanya pada 26 Mei, dengan tema langsung menyasar AI. Pendiri bersama Anthropic dan pencipta Claude, Chris Olah, diundang untuk tampil di panggung yang sama. Vatikan secara bersamaan membentuk Komite AI. Sebuah lembaga berusia dua ribu tahun berusaha mengisi kekosongan tata kelola AI dengan otoritas moralnya—yang menjangkau populasi lebih luas daripada cakupan hukum AI manapun.
Sebuah lembaga dengan 1,4 miliar umat beriman dan berusia dua milenium, menjadikan AI sebagai agenda utama, bahkan mengajak pencipta Claude untuk bersama-sama merilis dokumen posisi.
Dan pertanyaan inti yang coba dijawab dokumen ini, kebetulan juga merupakan pertanyaan yang tak terhindarkan bagi seluruh industri AI—ketika mesin semakin mirip manusia, di atas apa martabat dan sifat tak tergantikan manusia benar-benar dibangun?
Pada 26 Mei, Paus Leo XIV akan merilis ensiklik Magnifica Humanitas ("Kemanusiaan yang Agung") di Vatikan, fokus pada "perlindungan manusia di era AI".
Ensiklik adalah salah satu dokumen pengajaran tertinggi Gereja Katolik, ditujukan kepada 1,4 miliar umat Katolik di seluruh dunia, sekaligus menjadi langkah simbolis Paus baru untuk menunjukkan prioritas kebijakannya.
Paus berkebangsaan Amerika yang berlatar belakang matematika ini selalu memperhatikan etika di era AI dan perlindungan kemanusiaan.
Ensiklik Pertama Paus, Ditujukan untuk AI
Peluncuran ini memecahkan dua kebiasaan.
Paus biasanya tidak hadir langsung dalam peluncuran ensiklik, melainkan diserahkan kepada Kardinal. Leo XIV memilih untuk hadir langsung.
Secara bersamaan mengundang pendiri bersama Anthropic Chris Olah sebagai juru bicara awam, yang hampir tidak ada presedennya dalam sejarah peluncuran ensiklik.
Analisis wartawan Vatikan Andrea Vreede adalah, "Jika hanya Kardinal yang meluncurkan, tidak ada yang benar-benar mendengarkan, tetapi dengan kehadiran Paus, semua lensa akan tertuju ke sana."
Waktu yang dipilih sangat cermat.
Ensiklik ditandatangani pada 15 Mei, kebetulan bertepatan dengan hari yang sama ketika 135 tahun lalu Paus Leo XIII menandatangani ensiklik Rerum Novarum.
Leo XIII
Rerum Novarum merespons dampak Revolusi Industri terhadap hak-hak buruh, dianggap sebagai dokumen fondasi ajaran sosial Katolik.
Leo XIV dalam pidato pelantikannya telah menyebutkan kaitan ini, "Gereja menawarkan khazanah ajarannya kepada semua orang, untuk menanggapi Revolusi Industri sekali lagi, serta perkembangan di bidang kecerdasan buatan."
Hampir bersamaan, Vatikan pada 16 Mei menyetujui pembentukan Komite AI, mengintegrasikan tujuh lembaga kepausan, untuk pertama kalinya mengoordinasikan pekerjaan AI yang tersebar di berbagai tempat.
Sebelumnya, Leo XIV dalam pidatonya di universitas terbesar di Eropa telah menggambarkan militerisasi AI sebagai mendorong dunia ke dalam "spiral kehancuran".
Mengapa Anthropic?
Undangan kepada Olah adalah pertemuan yang tepat antara kepentingan kedua belah pihak.
Olah memimpin penelitian keterjelasan (interpretability) di Anthropic, dengan tujuan membuka kotak hitam AI, memahami apa yang sebenarnya terjadi di dalam jaringan saraf.
Ini kebetulan merupakan versi teknis dari masalah yang paling diperhatikan Takhta Suci—apakah AI dapat dipahami sepenuhnya, sehingga dapat dipercaya?
Langkah Anthropic di bidang etika agama bersifat sistematis.
Perusahaan sebelumnya telah mengundang rohaniwan untuk berpartisipasi dalam pembentukan "Konstitusi" Claude.
Bacaan lebih lanjut: Anthropic Secara Resmi Membuka Sumber Kode "Jiwa" Claude
Akhir April tahun ini, perwakilan Anthropic dan OpenAI bersama-sama menghadiri pertemuan meja bundar pertama "Faith-AI Covenant" di New York, mendiskusikan kerangka etika AI dengan pemimpin dari berbagai tradisi agama seperti Hindu, Sikh, Yahudi, Ortodoks, dan lainnya, yang akan dilanjutkan di beberapa kota di seluruh dunia.
Taruhan yang lebih realistis adalah, Anthropic sedang mengalami gesekan dengan pemerintah AS mengenai penggunaan militer AI, bersikeras modelnya tidak boleh digunakan untuk penargetan senjata otonom dan pengawasan massal. Posisi ini sangat sejalan dengan pendirian Takhta Suci yang menentang senjata AI.
Bagi Anthropic, dukungan moral Takhta Suci memperkuat posisi merek "AI yang bertanggung jawab".
Bagi Takhta Suci, mengajak perusahaan yang benar-benar meneliti teknologi keamanan AI untuk tampil, membuat ensiklik melampaui khotbah kosong. Keduanya saling memenuhi kebutuhan.
Silicon Valley lama bersikap skeptis terhadap agama yang terorganisir.
Interpretasi Brian Boyd dari Future of Life Institute terhadap perubahan ini adalah, "Moto Silicon Valley adalah 'bergerak cepat dan hancurkan segalanya', mereka telah menghancurkan terlalu banyak hal dan terlalu banyak orang."
Mendekati otoritas agama adalah upaya membangun kembali kredibilitas yang telah terkuras.
Outsourcing Moral atau Alat PR?
Narasi terdengar hangat, tetapi para pengkritik melihat gambaran lain.
Tantangan paling tajam datang dari kepala peneliti di Distributed AI Research (DAIR) Institute, Dylan Baker.
Menurutnya, diskusi seputar "AI yang bermoral" menyembunyikan masalah yang lebih mendasar—apakah sistem AI tertentu seharusnya dikembangkan atau tidak?
Ketika kerangka diskusi berubah menjadi "karena mau membangun, maka bangunlah dengan baik", pertanyaan awal "apakah harus dibangun" benar-benar dilompati.
CEO Humane Intelligence, Rumman Chowdhury, yang pernah menjabat sebagai Duta Sains AI di pemerintahan Biden, juga bersikap dingin, "Dalam keadaan terbaiknya adalah mengalihkan perhatian, dalam keadaan terburuknya adalah mengalihkan isu-isu yang benar-benar penting."
Dia berpikir Silicon Valley mencoba mencari "prinsip etika universal" dari agama untuk menangani area abu-abu, tetapi perbedaan nilai antar tradisi agama global tidak lebih kecil daripada perbedaan regulasi antar negara.
Dilema struktural lebih jelas.
Ensiklik Paus bergantung pada daya tarik moral, tidak memiliki kekuatan hukum yang mengikat.
Faith-AI Covenant adalah komitmen sukarela, peserta dapat keluar kapan saja.
Undang-Undang AI Uni Eropa memiliki denda maksimal 35 juta euro atau 7% dari pendapatan global, tetapi yurisdiksi ekstrateritorialnya terbatas.
Di tingkat federal AS, hingga saat ini belum ada kerangka regulasi AI yang seragam.
Saat ini tidak ada satu pun mekanisme tunggal di dunia yang dapat secara efektif membatasi kecepatan perkembangan AI.
Takhta Suci mengisi kekosongan wacana, bukan kekosongan kapasitas tata kelola.
Ketika Mesin Semakin Mirip Manusia, Apa yang Menjadi Dasar Manusia untuk Menegaskan Dirinya sebagai Manusia?
Semua diskusi tentang etika AI, apa pun titik awalnya—ajaran agama, pasal hukum, atau nilai-nilai perusahaan—pada dasarnya mengarah pada pertanyaan yang sama: Di mana letak sifat tak tergantikan manusia?
Di masa lalu, orang memberikan banyak jawaban: kecerdasan, kreativitas, kemampuan berbahasa, resonansi emosional, penilaian moral.
Jawaban-jawaban ini sedang diguncang satu per satu.
AI dapat menulis puisi, menggubah musik, lulus ujian pengacara, membuat pengguna bergantung secara emosional padanya.
Ketika kemampuan yang pernah dianggap sebagai "alasan mengapa manusia adalah manusia" ini dapat disimulasikan, atas dasar apa lagi manusia dapat mendefinisikan dirinya?
Jawabannya mungkin tersembunyi dalam satu sifat yang tidak akan pernah dapat diperoleh AI: keterbatasan.
Manusia akan mati.
Justru karena hidup memiliki akhir, setiap pilihan memiliki bobot, setiap pengorbanan memiliki harga, setiap janji memiliki makna.
Penilaian moral bukanlah hasil deduksi logis semata.
Itu dibangun berdasarkan pengalaman nyata seperti "melakukan kesalahan akan sakit, menyesal, kehilangan sesuatu yang tidak dapat dipulihkan".
AI dapat mensimulasikan proses menimbang untung rugi, tetapi tidak memiliki kemampuan untuk menanggung konsekuensinya, tidak memiliki urgensi yang dibawa oleh kematian, tidak memiliki kecemasan eksistensial "hanya memiliki satu kesempatan dalam hidup ini".
Menghadapi kedatangan AGI bahkan ASI, skenario yang benar-benar perlu diwaspadai adalah ketika manusia memiliki hak pilih, namun secara aktif melimpahkan penilaian, pengambilan keputusan, bahkan tanggung jawab moral kepada mesin.
Manusia terlalu mudah ingin menghindari hal "membuat keputusan lalu menanggung konsekuensinya", dan AI kebetulan menyediakan jalan keluar yang tampak sempurna.
Ensiklik Paus, Konstitusi Anthropic, pertemuan meja bundar Faith-AI Covenant, berbagai bentuknya, dasarnya adalah kalimat yang sama: teknologi dapat berevolusi tanpa batas, tetapi yang akhirnya menekan tombol, haruslah manusia yang akan mati, yang akan merasakan sakit, yang harus bertanggung jawab atas konsekuensinya.
Ini mungkin yang sebenarnya ingin disampaikan oleh "Kemanusiaan yang Agung".
Referensi:
https://www.theguardian.com/world/2026/may/18/pope-leo-encyclical-human-dignity-ai-anthropic
Artikel ini berasal dari akun WeChat "新智元", penulis: 新智元
