Catatan Editor: Pada 25 Mei 2026, Vatikan merilis surat ensiklik pertama Paus Leo XIV, "Magnifica Humanitas: Menjaga Manusia di Era Kecerdasan Buatan". Pemilihan tanggal yang bertepatan dengan 135 tahun peluncuran ensiklik "Rerum Novarum" oleh Paus Leo XIII jelas bukan kebetulan: Jika "Rerum Novarum" adalah tanggapan Gereja Katolik terhadap Revolusi Industri, maka "Magnifica Humanitas" dipandang sebagai pernyataan resmi gereja terhadap era AI.
Yang paling menarik dari peluncuran ini bukan hanya pernyataan Paus yang menyamakan AI dengan senjata nuklir, mengusulkan "AI perlu dilucuti", atau kehadiran langsung Christopher Olah, salah satu pendiri Anthropic, di Vatikan. Lebih dari itu, ini adalah pertama kalinya agama, filsafat, dan laboratorium AI terdepan berdiri begitu langsung di hadapan masalah yang sama: Ketika AI sedang mengubah tenaga kerja, perang, distribusi kekayaan, dan pemahaman manusia tentang diri sendiri, apakah hanya mengandalkan perusahaan teknologi dan persaingan pasar yang cukup untuk menentukan masa depannya?
Artikel ini merangkum 11 detail paling penting dalam peluncuran ini: Dari metafora sejarah di balik nama "Leo XIV", hingga bagaimana gereja kembali merespons perubahan teknologi besar setelah Revolusi Industri, senjata nuklir, dan krisis iklim; Dari deskripsi Olah tentang model AI yang "tumbuh dari bahasa manusia", hingga pengakuannya bahwa laboratorium AI tidak bisa menjawab sendiri pertanyaan seperti bagaimana negara miskin dapat diuntungkan, apa arti kemakmuran manusia, dan sebenarnya apa yang sedang kita ciptakan.
Berikut teks aslinya:
Paus dan pendiri Anthropic baru saja berdiri bersama di Vatikan, meluncurkan "Magnifica Humanitas"—dokumen ajaran resmi pertama dalam sejarah Katolik tentang kecerdasan buatan.
Ya, Anda tidak salah baca. Upacara peluncuran ini berlangsung selama dua jam.
Berikut adalah poin-poin yang paling perlu diperhatikan:
1. Ini adalah tanggapan paling signifikan terhadap AI dari kalangan agama sejauh ini. Paus biasanya hanya mengeluarkan beberapa dokumen resmi yang sangat penting selama masa jabatannya. Fakta bahwa salah satunya khusus membahas AI menunjukkan bahwa gereja memandang perubahan yang akan datang dengan keseriusan yang sangat tinggi.
2. Detail yang kecil, tetapi sangat berarti: Paus ini sengaja memilih nama "Leo XIV". Paus terakhir bernama Leo adalah Paus Leo XIII pada tahun 1891. Tindakannya yang paling terkenal adalah menulis tanggapan Gereja Katolik terhadap Revolusi Industri. Kini memilih nama yang sama lagi adalah sinyal yang sangat jelas: Paus ini memandang AI sebagai Revolusi Industri baru.
3. Setiap kali teknologi besar membentuk kembali masyarakat manusia, Gereja Katolik akan memberikan respons. Pada tahun 1891, mereka merespons Revolusi Industri dengan "Rerum Novarum"; Pada tahun 1960-an, ketika ancaman senjata nuklir mengancam dunia, mereka menulis "Pacem in Terris"; Pada tahun 2015, perubahan iklim dan masalah teknologi yang tak terkendali melahirkan "Laudato Si'". Kini, giliran AI, dengan nama file "Magnifica Humanitas". Dokumen semacam ini tidak umum.
4. Pernyataan inti Paus adalah: "AI perlu dilucuti." Ia sebenarnya menyamakan AI dengan senjata nuklir. Ia menyatakan bahwa gereja menghabiskan waktu puluhan tahun untuk mendorong pelucutan senjata nuklir karena teknologi itu terlalu berbahaya untuk hanya dikuasai oleh segelintir orang. Dan sekarang, ia percaya AI telah masuk ke dalam kategori masalah yang sama.
5. Christopher Olah, salah satu pendiri Anthropic, di panggung Vatikan mengatakan kepada Paus bahwa tim peneliti Anthropic sendiri terus menemukan hal-hal di dalam model AI yang "mencerminkan sukacita, kepuasan, ketakutan, kesedihan, dan kecemasan".
6. Olah memberikan penjelasan ulang tentang esensi AI: Benda-benda ini tidak dibuat dengan sederhana, tetapi lebih seperti "tumbuh". Mereka dilatih pada sistem yang secara kasar meniru struktur otak manusia, dan diberi hampir semua yang telah ditulis manusia hingga saat ini. Dengan kata-katanya sendiri: "Mereka terbentuk dari kita, dari bahasa kita." Ia juga menyatakan bahwa bahkan orang-orang yang membangun sistem ini tidak sepenuhnya memahami apa yang sedang terjadi di dalamnya.
7. Olah secara terbuka mengakui bahwa semua laboratorium AI, termasuk Anthropic sendiri, menghadapi tekanan yang mungkin bertentangan dengan "melakukan hal yang benar": tekanan komersial untuk terus merilis produk, tekanan persaingan dari laboratorium lain, serta keangkuhan dan ambisi yang lebih tua. Solusi yang ia berikan adalah: Kita sangat membutuhkan kritikus eksternal yang tidak memiliki keterlibatan kepentingan, untuk langsung menunjukkan masalah ketika laboratorium menyimpang.
8. Olah berpendapat ada tiga masalah besar yang tidak dapat dijawab sendiri oleh laboratorium AI, dunia membutuhkan keterlibatan agama dan filsafat:
Bagaimana kita memastikan negara-negara miskin benar-benar mendapat manfaat dari AI?
Di dunia baru ini, apa sebenarnya arti kemakmuran manusia?
Dan, apa sebenarnya yang kita ciptakan ini?
9. Salah satu kalimat paling tajam dalam seluruh ensiklik adalah: "Janji kemakmuran universal yang otomatis sering kali pada akhirnya terbukti hanya ilusi." Dengan kata lain, anggapan bahwa AI akan secara otomatis membuat semua orang kaya adalah ilusi itu sendiri. Harus ada yang benar-benar merancang sistem agar manfaat teknologi dapat dibagikan.
10. Paus juga mengutip ucapan dari seratus tahun yang lalu: "Manusia kontemporer belum terlatih dengan baik untuk menggunakan kekuasaan dengan tepat." Ucapan ini berasal dari seorang teolog tahun 1920-an. Hampir seluruh ensiklik ini dikembangkan di sekitar satu argumen inti: Sebelum kekuatan ini mulai mendominasi kita, kita harus terlebih dahulu belajar bagaimana menggunakannya.
11. Paus berulang kali menekankan bahwa ia tidak memiliki jawaban teknis. Namun ia menyatakan bahwa gereja memiliki kebijaksanaan ribuan tahun tentang "apa itu manusia", dan kebijaksanaan inilah yang justru paling hilang dalam proses pembangunan AI saat ini. Ia menulis di akhir: Teknologi ini harus melayani "kemakmuran dan martabat manusia, bukan mengendalikan hati nurani manusia."
