Авторская статья | Odaily星球日报(@OdailyChina)
Автор | Azuma(@azuma_eth)
Пекинское время, 25 мая вечером, Ватикан.
Папа Римский Лев XIV, вступивший в должность в мае прошлого года, вместе с соучредителем Anthropic и создателем Claude, Крисом Олой, стояли рядом.
С одной стороны — высший представитель религиозной сферы, с другой — сильнейший пионер революции в области ИИ. Оба сосредоточили внимание на одном и том же вопросе: как защитить главенствующее положение и достоинство человека в эпоху искусственного интеллекта?
В тот же день для всестороннего освещения этого вопроса Лев XIV выпустил свою первую энциклику с момента вступления в должность — объемный религиозный документ на более чем 40 000 иероглифов под названием «Великолепное человечество» (Magnifica humanitas).
Примечательно, что дата, проставленная в этой энциклике Львом XIV — 15 мая 2026 года, что ровно через 135 лет после того, как Папа Лев XIII (занимал пост в 1878-1903 гг.) выпустил свою знаковую энциклику «Рерум новарум» (Rerum novarum, 1891 год), посвященную проблеме прав рабочих в эпоху промышленной революции. Очевидно, это имеет определенный символический смысл, а именно — надежду сделать эту энциклику «руководством к церковной социальной доктрине в эпоху ИИ».
- Примечание Odaily: Энциклика Папы, также известная как папская энциклика или послание Папы, — это официальное обращение Римского Папы к католической церкви во всем мире или в определенном регионе, стране. Через нее объявляются важные решения Святого Престола, разъяснения доктрины, позиции по церковным или социальным вопросам, провозглашаются наставления или запреты для духовенства и верующих; ее статус ниже, чем у папской буллы.
Крис Ола также выступил с речью по поводу публикации энциклики прямо в Ватикане. Крис Ола не стал защищать коммерческие интересы компаний, занимающихся ИИ, вместо этого проявив высокий уровень откровенности, рефлексивности и гуманизма. Он даже упомянул, что хотя в основе ИИ лежат математика и программирование, вопрос о том, как ИИ взаимодействует с миром и какими качествами он должен обладать, относится к фундаментальным вопросам гуманитарных наук, религии и философии, а не является проблемой, которую может решить одна лишь компьютерная наука.
Краткий обзор энциклики
Ключевой заботой энциклики «Великолепное человечество» является то, что в эпоху стремительного развития технологий и всеобщей автоматизации «сохранение глубокой человечности» является насущной обязанностью человечества. В частности, Папа Лев XIV в тексте развивает аргументы и призывы по следующим аспектам.
Во-первых, рассмотрение не-нейтральности технологий. Папа указывает, что технологии никогда не были нейтральными — они несут на себе отпечаток интересов и ценностей их разработчиков, спонсоров, регуляторов и пользователей. Человечество стоит перед решающим выбором: «строить ли высокомерную «Вавилонскую башню» (двигаясь к технократической тирании и отчуждению) или восстанавливать «Иерусалим» (создавая ориентированное на человека сообщество)».
Во-вторых, остерегаться переформатирования общества «технократической логикой». Энциклика критикует «культуру власти» (Culture of Power), доминирующую в таких гигантах, как Кремниевая долина. Папа предупреждает, что когда контроль над цифровыми системами, инфраструктурой и огромными массивами данных чрезвычайно концентрируется в руках небольшого числа экономических и технологических гигантов, эта власть становится непрозрачной и уклоняется от демократического контроля.
В-третьих, «новые формы порабощения» в цифровой экономике и права трудящихся. Энциклика обращает внимание на переформатирование ИИ работы, семьи, образования и политической жизни. Папа указывает, что ИИ с большой вероятностью может массово заменить человеческую рабочую силу, а цифровая экономика порождает «новые формы рабства» (New forms of slavery). Человечество ни в коем случае не должно быть низведено до уровня инструмента производства.
В-четвертых, горячий призыв к миру, особенно в связи со злоупотреблением ИИ в военной сфере. Энциклика выражает глубокую озабоченность «тревожным возрождением войны как инструмента международной политики». Милитаризация ИИ ускоряет «нормализацию» войны, и в связи с этим Папа призывает установить самые строгие этические ограничения на применение ИИ в военных целях.
Папа особо подчеркивает, что теория «справедливой войны» (Just war), ранее часто использовавшаяся для оправдания различных войн, теперь устарела. В эпоху ИИ и автоматического оружия доверие летальным или необратимым решениям автоматизированным системам ведет к тому, что человечество отказывается, переносит и размывает моральную ответственность. Из-за непрозрачности алгоритмов цепочка ответственности в войне разрывается. Поэтому Папа выдвигает лозунг «разоружения ИИ» (Disarming AI), призывая освободить его от логики гонки вооружений — военной, экономической и когнитивной.
В-пятых, защита истины и политической экосистемы. Энциклика указывает, что дипфейки (Deepfakes) и манипулирование информацией подрывают основы взаимного доверия в обществе. Если граница между истиной и ложью постоянно манипулируется, общественность легко впадает в страх, политическую пропаганду и контроль, и общество не сможет совместно рационально мыслить или вести справедливые дебаты.
Реакция Anthropic
После публикации энциклики Львом XIV, Крис Ола выступил с речью-комментарием от имени одной из сильнейших в мире компаний-разработчиков ИИ — Anthropic.
Выступление Криса Олы началось с темы «преодоления технологической инволюции и привлечения внешнего морального анализа». Он от имени индустрии ИИ публично признал, что сами технологические гиганты не могут обеспечить безопасное будущее ИИ — все передовые лаборатории ИИ подвержены давлению коммерческой конкуренции, стремлению к технологическому лидерству, геополитике и личным амбициям, что затрудняет для них возможность самостоятельно «поступать правильно» лишь на основе саморегулирования. Поэтому необходимо привлекать внешние моральные ограничивающие силы, включая тех, кто заботится о благонаправленности технологий, настаивает на приоритете безопасности, внимательно следит за развитием событий, готов высказывать неприятную правду и быть нашим искренним, вдумчивым критиком.
Затем Крис Ола обсудил технологическую сущность и мистические свойства ИИ. Он подчеркнул, что ИИ — это не точная инженерия, подобная самолетам или мостам, чьи физические принципы полностью известны человеку. Он «произрастает» из огромных массивов человеческой мысли, обладает высокой степенью загадочности и даже выходит за пределы понимания самих создателей. Хотя в основе ИИ лежат математика и программирование, вопрос о том, как ИИ взаимодействует с миром и какими качествами он должен обладать, относится к фундаментальным вопросам гуманитарных наук, религии и философии, а не является проблемой, которую может решить одна лишь компьютерная наука.
Он также особо упомянул один наводящий на размышления факт: «Я руковожу командой, изучающей внутреннюю структуру модели — исследующей, что именно происходит внутри ИИ. Откровенно говоря, мы постоянно обнаруживаем некоторые сбивающие с толку и даже тревожные явления. Мы обнаружили внутренние структуры, способные отражать результаты исследований в области человеческой нейронауки; мы нашли свидетельства «интроспекции»; мы также обнаружили внутренние состояния, функционально отражающие радость, удовлетворение, страх, печаль и беспокойство... Я не знаю, что это означает, но считаю, что это заслуживает нашего постоянного осмысления и изучения».
В заключение Крис Ола призвал: надеюсь, что больше социальных сил, включая религиозные сообщества, гражданское общество, ученых, правительства и всех доброжелательных людей, будут совместно серьезно относиться к этому вопросу и направлять ситуацию в лучшее русло с помощью моральных ограничений.
Мудрость и человечность, технология и религия
Со времен промышленной революции, столетняя история технологического развития приучила человечество постепенно воспринимать технологии как чистый «инструмент» — паровая машина, электричество, интернет, все они таковы. Они меняют мир, но всегда остаются под контролем человеческой воли.
Но на этот раз ситуация совершенно иная. Особенность ИИ в том, что он впервые заставляет человечество столкнуться с существованием, которое «может генерировать, учиться, рассуждать и даже проявлять определенные внутренние состояния». Это больше не просто холодный инструмент, а постепенно становящаяся новой сущностью, обладающей «квази-субъектностью».
Вот почему диалог между Церковью и Anthropic кажется таким особенным. Когда колокола Ватикана и алгоритмы Кремниевой долины встречаются в этот момент, мы не можем не признать слегка холодную, но неизбежную реальность — уже появилась форма «жизни», более эффективная и разумная, чем традиционное человеческое понимание. Как признал Крис Ола, в глубинах алгоритмов уже начинают плескаться волны, подобные радости, страху и даже интроспекции. Когда создатель в лаборатории начинает чувствовать «беспокойство» и «растерянность» по поводу своего творения, наука вновь обращается к религии за ответами.
Это уже давно не просто обсуждение технологий, а скорее размышления о том, «что такое человек на самом деле и что ему следует делать». Когда появляются более разумные формы жизни, то, что человечеству действительно нужно охранять, возможно, уже не только работа, богатство и эффективность, а те аспекты человечности, которые не поддаются параметризации, такие как сострадание, совесть, благоговение, свобода воли, а также приверженность истине и достоинству.
