Папа Лев XIV обнародует свою первую энциклику 26 мая, и тема будет посвящена ИИ. Соучредитель Anthropic, создатель Claude Крис Олах приглашен выступить на одной сцене. Ватикан параллельно создает комитет по ИИ. Двухтысячелетний институт пытается своим моральным авторитетом заполнить вакуум в управлении ИИ — количество людей, на которых он влияет, больше, чем охват любого закона об ИИ.
Институт с 1,4 миллиардами последователей, существующий две тысячи лет, поставил ИИ в повестку дня номер один и привлек создателя Claude для совместного представления позиционного документа.
А ключевой вопрос, на который должен ответить этот документ, — это именно тот вопрос, которого не может избежать вся индустрия ИИ: Когда машины становятся все более похожими на людей, на чем основывается человеческое достоинство и незаменимость?
26 мая Папа Лев XIV представит в Ватикане энциклику «Magnifica Humanitas» («Величественное человечество»), посвященную «защите человека в эпоху ИИ».
Энциклика — один из высших по значимости учебных документов католической церкви, обращенных к 1,4 миллиардам католиков по всему миру, а также знаковый жест нового понтифика, демонстрирующий приоритеты его политики.
Этот папа-американец, выпускник математического факультета, всегда интересовался этикой в эпоху ИИ, защитой человеческой природы.
Первая энциклика Папы — посвящена ИИ
Эта презентация нарушает два обычая.
Обычно Папа лично не присутствует на обнародовании энциклики, поручая это кардиналам, но Лев XIV решил присутствовать лично.
Приглашение Криса Олаха, соучредителя Anthropic, в качестве выступающего мирянина, также почти не имеет прецедентов в истории обнародования энциклик.
Как считает ватиканский журналист Андреа Вриде, «если бы энциклику представляли только кардиналы, никто бы по-настоящему не слушал, но когда присутствует Папа, все объективы будут направлены туда».
Временной момент выбран тщательно.
Энциклика была подписана 15 мая, ровно в тот же день, 135 лет назад, когда Папа Лев XIII подписал энциклику «Rerum Novarum».
Лев XIII
«Rerum Novarum» была ответом на удар промышленной революции по правам трудящихся и считается основополагающим документом католического социального учения.
Лев XIV четко обозначил эту параллель в своей инаугурационной речи: «Церковь предлагает всем сокровищницу своего социального учения в ответ на очередную промышленную революцию и развитие области искусственного интеллекта».
Почти одновременно, 16 мая, Ватикан одобрил создание комитета по ИИ, объединив семь институтов курии, впервые скоординировав разрозненную работу по ИИ.
Ранее Лев XIV уже в своей речи в крупнейшем европейском университете описал милитаризацию ИИ как ввергающую мир в «спираль разрушения».
Почему именно Anthropic?
Приглашение Олаха — это точное совпадение интересов сторон.
Олах возглавляет в Anthropic исследования в области интерпретируемости (interpretability), цель которых — открыть «черный ящик» ИИ и понять, что именно происходит внутри нейронных сетей.
Это именно техническая версия вопроса, который больше всего волнует Святой Престол: можно ли ИИ полностью понять и, следовательно, доверять ему?
Работа Anthropic в области религиозной этики носит систематический характер.
Ранее компания уже привлекала духовных лиц к разработке «конституции» Claude.
Дополнительное чтение: Anthropic официально открыла исходный код «души» Claude
В конце апреля этого года представители Anthropic и OpenAI совместно участвовали в первом круглом столе «Faith-AI Covenant» в Нью-Йорке, где обсуждали этические рамки ИИ с лидерами различных религиозных традиций — индуизма, сикхизма, иудаизма, православия и других. В дальнейшем подобные встречи планируется проводить в нескольких городах по всему миру.
Более практический козырь заключается в том, что у Anthropic возникли трения с правительством США по поводу военного использования ИИ, компания настаивает, что ее модели не могут использоваться для автономного наведения оружия и массового наблюдения. Эта позиция полностью совпадает с антимилитаристской позицией Святого Престола в отношении ИИ.
Для Anthropic моральная поддержка со стороны Ватикана укрепляет брендовый позиционирование «ответственного ИИ».
Для Святого Престола привлечение компании, которая действительно занимается исследованиями в области безопасности ИИ, позволяет энциклике выйти за рамки пустых проповедей. Стороны получают взаимную выгоду.
Кремниевая долина долгое время с подозрением относилась к организованной религии.
Брайан Бойд из Института будущего жизни (Future of Life Institute) так интерпретирует этот поворот: «Девиз Кремниевой долины — «Действуй быстро, ломай стены». Они сломали слишком много вещей и слишком много людей».
Сближение с религиозным авторитетом — это попытка восстановить подорванный кредит доверия.
Аутсорсинг морали или пиар-инструмент?
Нарратив звучит тепло, но критики видят другую картину.
Самая резкая критика исходит от Дилана Бейкера, руководителя исследований в Институте распределенных исследований ИИ (Distributed AI Research Institute).
Он считает, что обсуждения вокруг «этичного ИИ» затушевывают более фундаментальный вопрос: следует ли вообще разрабатывать определенные системы ИИ?
Когда рамка обсуждения сводится к «раз уж строить, то строить получше», то предварительный вопрос «а стоит ли строить?» полностью игнорируется.
Румман Чоудхури, генеральный директор Humane Intelligence, ранее занимавшая в администрации Байдена пост специального посланника по науке в области ИИ, также настроена скептически: «В лучшем случае это отвлекает внимание, в худшем — уводит от действительно важных тем».
По ее мнению, Кремниевая долина пытается найти в религии «универсальные этические принципы» для работы с серыми зонами, но ценностные различия между глобальными религиозными традициями не меньше, чем регуляторные разногласия между странами.
Структурная дилемма еще более очевидна.
Энциклика Папы опирается на моральный призыв и не имеет юридической силы.
«Faith-AI Covenant» — это добровольное обязательство, участники могут в любой момент выйти из него.
В регламенте ЕС об ИИ предусмотрены штрафы до 35 миллионов евро или 7% глобального оборота, но его экстратерриториальная юрисдикция ограничена.
На федеральном уровне в США до сих пор нет единых рамок регулирования ИИ.
В настоящее время в мире не существует ни одного механизма, способного эффективно сдерживать скорость развития ИИ.
Святой Престол заполняет вакуум влияния, а не вакуум управленческих возможностей.
Когда машины становятся все более похожими на людей, как людям подтвердить, что они — люди?
Все дискуссии об этике ИИ, независимо от того, исходят ли они из религиозных учений, правовых норм или корпоративных ценностей, в своей основе указывают на один и тот же вопрос: в чем заключается незаменимость человека?
В прошлом люди давали много ответов: интеллект, креативность, языковые способности, эмоциональный отклик, моральное суждение.
Эти ответы постепенно ставятся под сомнение.
ИИ может писать стихи, сочинять музыку, сдавать экзамены на адвоката, вызывать у пользователей реальную эмоциональную привязанность.
Когда все эти способности, которые считались «тем, что делает человека человеком», можно смоделировать, на что тогда человек может опереться, чтобы определить себя?
Ответ, возможно, кроется в атрибуте, которого у ИИ никогда не будет: ограниченность.
Человек смертен.
Именно потому, что жизнь конечна, каждый выбор имеет вес, каждый отказ имеет свою цену, каждое обещание имеет значение.
Моральное суждение никогда не является продуктом логических умозаключений.
Оно основано на личном опыте: «ошибешься — будет больно, будет жаль, потеряешь что-то невосполнимое».
ИИ может моделировать процесс взвешивания плюсов и минусов, но у него нет способности нести последствия, нет срочности, вызванной смертью, нет экзистенциальной тревоги «у меня есть только один шанс в этой жизни».
Перед лицом наступления ОИИ (Общего ИИ) и даже СИИ (Сверхинтеллекта), действительно тревожной является сценарий, при котором человек, имея право выбора, добровольно передает машине суждения, принятие решений и даже моральную ответственность.
Человеку слишком легко хочется избежать этого «принятия решения и несения последствий», а ИИ как раз предлагает идеальный, на первый взгляд, выход.
Энциклика Папы, конституция Anthropic, круглые столы «Faith-AI Covenant» — формы разные, но в основе лежит одна и та же мысль: технология может развиваться бесконечно, но в конечном счете нажимать на кнопку должен смертный, способный чувствовать боль, несущий ответственность за последствия человек.
Вероятно, именно об этом на самом деле говорит «Величественное человечество».
Источники:
https://www.theguardian.com/world/2026/may/18/pope-leo-encyclical-human-dignity-ai-anthropic
Эта статья взята с официального аккаунта WeChat «Синь Чжи Юань», автор: Синь Чжи Юань
