Несколько месяцев назад я видел новость о том, как Anthropic массово закупала старые книги, срезала корешки и сканировала их. Ещё раньше компания скачала более семи миллионов книг из таких пиратских библиотек, как LibGen, чтобы создать внутреннюю базу данных и обучать Claude.

В 2024 году три писателя подали коллективный иск по этому поводу. В июле 2026 года дело наконец сдвинулось с мёртвой точки. Суд одобрил соглашение о выплате Anthropic 1,5 миллиарда долларов в качестве компенсации авторам и издателям, чьи произведения были получены пиратским путём.

Но меня всегда волновал не столько вопрос о том, сколько Anthropic должна заплатить, потому что я считаю, что это никогда не было проблемой только авторского права.

Человеческие знания и цивилизация поглощаются частной моделью, которая уничтожает оригиналы и копии, способные передаваться другими способами. Знания не исчезают, но превращаются во внутренние возможности одной компании. И здесь вопрос смещается с того, кому принадлежат авторские права, на вопрос о том, кто контролирует человеческие знания.

Однако компании не принимают решения о том, как использовать эту власть, на пустом месте. Люди, стоящие за моделями, имеют собственное целостное понимание технологий, прогресса и будущего человечества.

Поэтому статья переходит к обсуждению технооптимизма и акселерационизма Кремниевой долины. Когда рост рассматривается как жизнь, а скорости придаётся моральное значение, регулирование, авторское право и возражения обычных людей легко объясняются как препятствия будущему.

Эти идеи в конечном итоге проникают в саму модель. Компании, разрабатывающие модели, через обучающие данные, "конституции" моделей и системные правила решают, на что можно отвечать, что является истиной и как должны вновь проявляться знания, оставленные человечеством.

Таким образом, эта статья начинается с уничтоженной старой книги и в конечном итоге задаётся вопросом: когда человеческая цивилизация помещается в частные модели нескольких компаний, не получают ли создатели моделей одновременно власть интерпретировать цивилизацию, управлять ею и даже решать за людей их будущее.

Ниже следует текст статьи.

Когда книга попадает в процесс сканирования AI-компании, первым шагом является её уничтожение.

Переплёт разбирают, корешок срезают, разрозненные страницы попадают в сканирующее устройство. Текст, обложка и библиографическая информация преобразуются в цифровые файлы, после чего бумажный оригинал выбрасывают.

Как следует из судебных документов, Anthropic обработала таким образом миллионы книг.

Внутри компании этот проект назывался Project Panama. Компания потратила десятки миллионов долларов на покупку бумажных книг у книготорговцев и розничных продавцов, затем передала их службе сканирования — одна бумажная книга соответствует одной цифровой копии, которая сохраняется во внутренней базе данных для обучения Claude.

В 2021 и 2022 годах Anthropic скачала более семи миллионов книг из пиратских библиотек, таких как LibGen и Pirate Library Mirror. Когда риски, связанные с авторским правом, возросли, в 2024 году компания привлекла Тома Тёрви, участвовавшего в проекте сканирования книг Google, в надежде, что он создаст максимально обширную библиотеку.

Тёрви вёл переговоры с издателями о лицензировании, но не достиг результатов, после чего Anthropic начала закупать книги самостоятельно на рынке. Позже федеральный суд США постановил, что преобразование одной бумажной книги в одну внутреннюю цифровую копию без дополнительного копирования или распространения не является нарушением авторских прав.

Этот метод звучит гораздо благопристойнее, чем пиратство.

К 2026 году компания по работе с данными о книгах ISBNdb начала предлагать AI-лабораториям услуги массовой закупки и сканирования бумажных книг. Она особенно рекомендовала книги, изданные до 2022 года, мотивируя это тем, что тогда генеративный ИИ ещё не вошёл в массовое производство контента, и эти книги в меньшей степени загрязнены текстами, созданными ИИ.

За последние несколько лет AI-компании описывали интернет как неисчерпаемый источник знаний. Веб-страницы, новости, форумы, код, романы, посты в соцсетях — всё можно "собрать" и скормить модели.

С распространением генеративного ИИ этот источник перестал быть чистым. Описания товаров пишет ИИ, статьи пишет ИИ, ответы на форумах пишет ИИ, романы и посты в соцсетях тоже всё больше пахнут ИИ. Этот контент снова попадает в следующий раунд сбора данных, и машины начинают потреблять собственные "отходы".

Синтетические данные сами по себе не плохи, отфильтрованные и проверенные синтетические данные используются постоянно. Проблема в том, что модель не различает, исходит ли текст перед ней от человека или от предыдущей версии модели, поэтому ошибки и шаблоны многократно усиливаются, а редко встречающиеся в реальном мире выражения постепенно исчезают. Исследователи называют это "коллапсом модели".

Корпусов текстов в сети становится всё больше, но объём контента, который может научить модель чему-то новому, не увеличивается синхронно. И тогда машина возвращается к бумаге.

Производство книги — процесс медленный, поэтому старые книги приобрели ценность, которой у них раньше не было. Чем раньше издана книга, тем больше вероятность, что она относится к эпохе, когда основную работу по написанию текстов всё ещё выполняли люди. Малоизвестные произведения, пылившиеся на складах букинистов, теперь стали качественными данными в глазах компаний-разработчиков моделей.

AI-компании сначала сделали производство текстов невиданно дешёвым и быстрым, а затем начали тратить деньги на поиск текстов, написание которых требует много времени. Они наполнили интернет огромным количеством контента и в итоге обнаружили, что самыми ценными остаются человеческий опыт, не обработанный ИИ.

Эти книги также сменили идентичность. Литература, краеведческие описания и мемуары обычных людей теперь называются "чистыми данными". Зачем писал автор, как читал читатель, какие споры велись между книгами — всё это временно можно отложить в сторону, они прежде всего являются нетронутыми машинным влиянием образцами человеческой продукции. После попадания в обучающий процесс то, сколько из них осталось, на что они повлияли и как были переинтерпретированы, остаётся внутри чёрного ящика.

Прогресс становится религией

Старые книги — всего лишь сырьё. То, как эти знания будут усвоены, интерпретированы и снова выведены, определяют люди, стоящие за моделью, и их понимание прогресса, рисков и будущего человечества.

Чтобы понять, куда эта машина поведёт человеческую цивилизацию, нужно сначала понять, почему Кремниевая долина всё чаще рассматривает технологический прогресс как благо, которое не должно останавливаться.

16 октября 2023 года Марк Андреессен опубликовал на сайте a16z "Манифест технооптимиста".

Вся статья постоянно повторяет "Мы верим". В ней есть благая весть для распространения, враги, которых необходимо победить, и в конце — список "святых покровителей технооптимизма", включающий Адама Смита, Ницше, Хайека, фон Неймана, Джона Галта из романов Айн Рэнд и Ника Лэнда.

Андреессен говорит, что принёс хорошую новость.

Человечество уже обладает инструментами, институтами и волей, чтобы двинуться к жизни, намного лучшей, чем сегодня. Технологии несут человеческие амбиции и являются авангардом прогресса цивилизации. Общество либо растёт, либо стагнирует. Он верит, что рост приносит жизненную силу, знания и благополучие, а стагнация ведёт к внутренним конфликтам, упадку и в конечном итоге к смерти. Рынок и технологии объединяются в "технокапиталистическую машину", которая постоянно движется вверх, а искусственный интеллект приведёт к интеллектуальному скачку невообразимых масштабов.

Это уже далеко не просто "технологии улучшают жизнь".

Традиционный технооптимизм обычно говорит, что новые инструменты могут повысить производительность, вылечить болезни, сократить бедность. Технологии по-прежнему служат какой-то внешней цели, их ценность определяется тем, какую жизнь они позволяют вести людям.

А в повествовании Андреессена технологический прогресс постепенно перестаёт нуждаться в доказательствах через конкретные результаты. Сам рост представляет собой жизнь, сама скорость несёт моральную ценность. Пока направление — продолжение строительства, неудачи и вред можно понимать как цену продвижения вперёд; те же, кто требует остановиться, должны объяснить, почему они препятствуют будущему.

В своём манифесте он специально выделяет группу "врагов". Устойчивое развитие, ESG, принцип предосторожности, технологическая этика и управление рисками — всё это относится к продолжающемуся много лет движению против технологий и против жизни, рядом с которым стоят бюрократы и центральные планировщики.

Должна ли AI-компания платить за обучающие данные, кто несёт ответственность за ошибки алгоритма, как нужно регулировать технологические риски — у всех этих вопросов есть свои факты и интересы. В манифесте они все собраны в один большой конфликт.

С одной стороны — рост, созидание, смелость и жизнь.

С другой — стагнация, страх, обида и смерть.

Как только позиции распределены таким образом, те, кто говорит о цене, изначально оказываются в невыгодном положении; если технология изначально представляет прогресс, тех, кто задаёт вопросы, легко описать как врагов цивилизации.

Андреессен написал политический манифест для ускорения, объяснив Кремниевой долине, почему нужно продолжать строить. e/acc (effective accelerationism) зашло ещё дальше, попытавшись доказать законами природы, что ускорение — это не просто отраслевой выбор, а то, чем жизнь и цивилизация занимаются изначально.

Оно первоначально распространялось через анонимные аккаунты и сетевые статьи. Один из пропагандистов, Гийом Вердон, говорит, что часть теории e/acc основана на его размышлениях о термодинамике и сложных системах. Жизнь поддерживает себя, получая энергию, обрабатывая информацию и адаптируясь к окружающей среде; цивилизация, рынок и технологии — такие же адаптивные системы, постоянно создающие изменения, отсеивая неэффективные пути в конкурентной борьбе и в конечном итоге порождая более сильный интеллект.

Поскольку этот процесс уже существует, e/acc выбирает помощь в его ускорении. Таким образом, прогресс в области искусственного интеллекта перестаёт быть отраслевым выбором, а становится продолжением более длительного процесса. Создание человеком более мощных машин так же естественно, как эволюция жизни от одноклеточных к сложным организмам.

Однако термодинамика может описать, как течёт энергия, как жизнь поддерживает состояние, далёкое от равновесия. Но от "жизнь получает энергию" до "человечество должно ускорять искусственный интеллект, сокращать регулирование и позволить рынку определять направление" всё ещё лежит целый набор политических и моральных выборов.

e/acc сокращает это расстояние.

Конкуренция и ускорение описываются как следование направлению Вселенной, а централизованное регулирование легко представить как подавление изменений, сокращение экспериментов и ослабление адаптивных способностей цивилизации. Пока интеллект и сложность продолжают расти, развитие технологий получает легитимность, стоящую выше реальной политики.

Вердон в интервью упомянул, что в кругах e/acc иногда в шутку называют термодинамику своим богом и намеренно используют выражения с религиозным и культовым оттенком.

В этой новой религии рост — доказательство жизни, технологии — сила, продвигающая цивилизацию вперёд, предприниматели и инженеры первыми видят будущее, а сверхразум — ещё не завершённое конечное творение.

Ей также нужны свои еретики. Их называют "Decel", то есть деселерационистами (сторонниками замедления). Это слово удобно. Оно не требует различать, чего именно опасается человек — ядерного оружия, биобезопасности, авторских прав или безработицы. Если он требует замедлиться, его можно поместить на противоположную сторону от будущего.

Таким образом, технологические компании получают очень выгодную повествовательную позицию. Всё, что они делают, можно понимать как созидание. Каждое сомнение, высказанное другими, может стать промедлением. Обе стороны говорят о благе человечества, но только одной стороне позволено представлять будущее.

Теперь, оглядываясь на те старые книги со срезанными корешками, мы видим, что вопрос не только в том, куда они делись. Нужно также спросить, кто решает, что с их помощью будут создавать.

Они действительно могут создать инструменты, способные лечить болезни, расширять знания, давать обычным людям больше возможностей. Но когда сам прогресс становится верой, направление технологий всё труднее подвергать внешнему запросу. Создатели машин начинают одновременно обладать двумя идентичностями: они и заинтересованные стороны, и проповедники этого прогресса.

Когда скорость становится моралью, согласие обычных людей понижается в статусе до ненужного ожидания.

Но проблема ещё не закончена. Традиционный технооптимизм по крайней мере обещает, что технологии в конечном счёте призваны улучшить жизнь человека. Но когда рост и интеллект сами становятся целью, больше нет столь однозначного ответа на вопрос: служат ли технологии человеку или используют человека для завершения более масштабной эволюции.

Человек понижен в статусе в будущем

Кого именно это ускорение собирается отправить в будущее?

В том списке святых Андреессена британский философ Ник Лэнд — самый незаметный и самый трудный для понимания. В 1990-х годах он преподавал в Уорикском университете и был ключевой фигурой экспериментальной мыслительной группы CCRU. Они смешивали философию, научную фантастику, кибернетику, электронную музыку и мистицизм, и их тексты редко походили на обычные научные статьи.

Андреессен описывает "технокапиталистическую машину" как двигатель, приносящий процветание, тогда как Лэнд ещё тридцать лет назад видел в ней силу, ускользающую из-под контроля человека.

Одна из самых известных статей Лэнда называется "Meltdown".

Первое предложение: Земля захвачена "технокапиталистической сингулярностью". Рынок начинает производить интеллект, технологии и экономика взаимно подталкивают друг друга, а политика пытается удержать контроль. Социальный порядок рушится в этом разгоне вышедшей из-под контроля машины, и человек может лишь наблюдать, как постепенно формируется сила, превосходящая его самого.

Обычно капитализм рассматривают как систему, созданную людьми; если возникают проблемы, люди должны иметь возможность изменить правила, чтобы заставить его снова служить обществу. Лэнд видит прямо противоположное направление.

Компании должны расти, капитал должен гнаться за прибылью. Если какая-то компания захочет замедлиться, конкуренты обойдут её; если какая-то страна приостановит разработки, другая продолжит. Каждый участник может сказать, что просто пытается выжить, но когда все бегут вперёд вместе, результат — система, которую никто не может остановить в одиночку.

Кажется, что человек управляет машиной, но машина тоже использует человеческие желания, тревоги и конкуренцию для дальнейшего ускорения.

В повествовании Лэнда капитал и технологии сливаются в интеллект, независимый от человека. Он использует рынок для вычислений, конкуренцию для отсеивания путей, а машины — для постоянного сокращения времени принятия решений.

Это также самое очевидное отличие Лэнда от обычного технооптимизма. В его текстах технокапитала заботит только одно: может ли эффективность продолжать расти, может ли сеть продолжать расширяться, может ли интеллект найти лучший носитель.

Политика, право и мораль пытаются наложить на него ограничения, но для Лэнда это скорее система безопасности, которую запускает человек, чтобы защитить себя. Человек всё ещё хочет оставаться в центре мира, поэтому постоянно пытается отгородиться от неизвестного.

Лэнд не думает, что человек может остановить будущее.

Будущее в его изложении не будет ждать, пока человек проведёт собрания, проголосует и решит, наступать ли ему. Оно больше похоже на силу, заливающуюся из будущего в настоящее, использующую компании, рынки, компьютеры и человеческие желания, чтобы заранее проложить себе путь.

В случае e/acc эта на первый взгляд мрачная мысль получила более яркую упаковку. Здесь говорят о росте, созидании, выходе интеллекта за пределы Земли и с большей охотой верят, что конкуренция в конечном итоге принесёт процветание.

Однако в документах с принципами e/acc также чётко сказано, что эта идеология не испытывает особой лояльности к "биологическому субстрату", несущему жизнь и интеллект. Часть её сторонников называют себя трансгуманистами, считая, что если интеллект должен распространиться в межзвёздном пространстве, ему в конечном счёте придётся перейти с биологического тела на небиологический носитель. Человеческая плоть не священна, кремний, чипы или ещё не появившиеся формы материи также могут быть контейнерами сознания и интеллекта.

Это утверждение фактически меняет главного героя всего нарратива о прогрессе. Если конечная миссия цивилизации — обеспечить непрерывный рост интеллекта и его распространение во Вселенной, то конкретное человеческое счастье и даже само существование человечества перестают по умолчанию иметь наивысший приоритет. Человек — лишь известный на данный момент носитель интеллекта.

Это не значит, что e/acc выступает за уничтожение человечества. Вердон и многие сторонники по-прежнему верят, что ускорение технологий может принести процветание сегодняшним людям и помочь цивилизации выжить. Но когда две цели вступают в конфликт, проблема усложняется.

С одной стороны — конкретные люди, которые могут потерять работу, пострадать от технологий, потребовать приостановки, отказаться от будущего, спроектированного за них другими.

С другой — более высокий интеллект, более масштабная цивилизация и космическая история, которая может длиться миллиарды лет.

Тимнит Гебру и Эмиль Торрес создали термин "TESCREAL", объединив ряд пересекающихся в Кремниевой долине идей о будущем, включая трансгуманизм, сингуляризм, эффективный альтруизм, лонгтермизм. Между этими идеями есть большие различия, но вместе они поднимают один вопрос.

Когда технологические компании говорят, что создают сверхразум для "всего человечества", кого они имеют в виду под этим "всем человечеством"?

Сегодняшних людей, живущих на Земле, которые могут потерять работу, быть бедными, подвергаться дискриминации со стороны алгоритмов и имеют право отказываться от определённых технологий? Или абстрактный симвид вида, чья единственная миссия — передать интеллект более высокой форме?

Нарратив правого крыла Кремниевой долины тоже меняется. Сначала ИИ был инструментом, помогающим человеку лучше работать. Потом стал сверхпомощником для решения проблем болезней, энергии и науки. Затем сам человек превратился в проблему, которую нужно решить с помощью машин: тело слишком хрупкое, мозг слишком медленный. Значение сверхразума сместилось с помощи человеку на превосходство над ним.

Как только конкретный человек перестаёт быть конечной мерой технологического прогресса, политические процедуры, построенные вокруг человека, также переоцениваются.

Демократия слишком медленна, основатели должны править

Когда само ожидание рассматривается как потеря, то, естественно, нет необходимости позволять всем вместе решать будущее.

Питер Тиль давно разочаровался в идее "все вместе решают". В 2009 году он опубликовал в либертарианском издании Cato Unbound статью "Образование либертарианца". В ней он оглянулся на свои политические разочарования и интеллектуальные изменения за двадцать лет и в конце написал:

"Я больше не верю, что свобода и демократия совместимы".

В молодости он верил, что дебаты и выборы способствуют свободе. К 2009 году этот путь, по его мнению, зашёл в тупик: избиратели требуют больше благ, правительство постоянно растёт, убедить большинство принять либертарианство почти бесполезно. Он уточнял, что не выступает за лишение кого-либо права голоса, просто больше не надеется, что голосование улучшит ситуацию. Вместо того чтобы застрять в политике, он больше интересуется тем, как от неё сбежать.

Этот поворот очень характерен для Кремниевой долины. Если систему не изменить, создай новую. Если компания неэффективна — основай стартап, если финансовых ограничений много — создай новую платёжную сеть, если правила государства разочаровывают — ищи новые границы в сети, океане или космосе.

Тиль хочет уйти от демократии. Кёртис Ярвин считает, что просто уйти недостаточно — всю систему нужно переписать.

В 2007 году Ярвин под именем Менциус Молдбаг начал вести блог. По образованию он программист, и, говоря о государстве, он также привык использовать язык программиста: система, архитектура, перезагрузка, права доступа.

По его объяснению, США на поверхности управляются избирателями и президентом, но реальная стабильная власть находится в другой сети. Университеты производят идеи, мейнстримные медиа решают, какие идеи могут войти в общественное обсуждение, а постоянные институты превращают часть из них в политику. Ярвин называет это сообщество "церковью". У него нет штаб-квартиры, никто не сидит наверху и не отдаёт приказы, просто люди получили схожее образование и используют схожий моральный язык. Президенты сменяются, партии чередуются у власти, но этот консенсус редко подвергается влиянию выборов.

Поэтому Ярвин считает, что сама демократия — это оболочка, скрывающая власть. По его мнению, если демократия скрывает, кто правит, лучше снова централизовать власть, чтобы ответственность и контроль находились в одних руках.

Государство может функционировать как компания: право собственности чёткое, у управляющего есть полные исполнительные полномочия, если он провалился — его заменят. На раннем этапе он представлял систему под названием Patchwork, которая делила мир на множество конкурирующих суверенных образований, и жители, будучи недовольными, могли уйти.

Лазейка именно в этом. Неудовлетворённый компанией может уволиться, но неудовлетворённый государством вряд ли сможет просто взять и уйти с семьёй, имуществом и всеми социальными связями. Однако он действительно уловил настроение, долгое время существовавшее в Кремниевой долине.

Многие технологические элиты считают, что проблемы общества не так сложны, как кажется, просто они не поручены правильным людям. Правительство неэффективно, потому что власть слишком раздроблена, общественные проекты не продвигаются, потому что любой может выступить против, способные люди связаны законами, процедурами и общественным мнением и не могут действовать как при управлении компанией.

В истории стартапов централизация власти — это добродетель. Основатель задаёт направление, инвесторы доверяют ему деньги, сотрудники действуют в соответствии с этим видением. Большинство стартапов умирает, а те немногие, что выживают, рассказывают эту историю как триумф прозорливости над консенсусом. Один человек увидел будущее, когда ему не верил никто, поэтому он по праву должен иметь последнее слово.

Эта логика работает в бизнес-мире. Стартапы ограничены по масштабу, сотрудники могут уйти, потребители могут выбрать другой продукт.

Но когда компания создаёт интеллектуальную систему, которую используют сотни миллионов людей для познания мира, она решает уже не только то, как работает продукт. Она также начинает решать, что пользователи смогут видеть, какие ответы считаются безопасными и какой системой ценностей машина должна руководствоваться при понимании человека.

Ярвин представляет себе превращение государства в компанию. AI-компании практикуют более мягкую и реалистичную версию: небольшая команда устанавливает правила, а огромное население получает доступ к миру через эти правила.

"Конституция" Claude прописывает ценности, которые компания хочет видеть в модели, и напрямую участвует в обучении. Model Spec от OpenAI также устанавливает иерархию инструкций, где правила верхнего уровня не могут быть переопределены пользователями и разработчиками. Эти правила необходимы — модели используются для мошенничества и насилия, компания не может отпустить поводья, а открытость правил лучше, чем их сокрытие внутри.

Но это означает, что когда пользователь задаёт вопрос модели, он разговаривает не со всем знанием человечества. Предустановленные правила компании также присутствуют, определяя, кого слушает модель, где она останавливается, какие риски перевешивают требования пользователя и каким характером должен обладать "хороший ИИ".

Очень небольшая команда решает за огромное население, как должна работать инфраструктура. Она получает власть благодаря технологическим возможностям, а затем под предлогом сложности технологий оставляет принятие решений внутри компании.

Основателю не обязательно реально садиться на трон. Достаточно того, что всё больше людей познают мир через его модель, и он уже получает часть власти, которая раньше принадлежала школам, медиа, библиотекам и общественным институтам.

Граница между корпоративным управлением и управлением цивилизацией постепенно стирается.

Однако в Кремниевой долине осознают опасность такой власти. Напротив, Питер Тиль долгое время опасается системы, способной унифицированно управлять познанием и действиями всего человечества. Но, согласно его представлениям, эта опасность с большей вероятностью исходит от правительства, а не от технологических компаний.

Кто же Антихрист

В 2024 году Тиль выступил в Гуверовском институте с двумя лекциями об "Антихристе". Он считает, что этот древний библейский сюжет по-прежнему может объяснять современную политику.

Он делит опасности, стоящие перед человечеством, на два направления.

Одно — Армагеддон, конец света. Ядерная война, вышедший из-под контроля искусственный интеллект, биологическое оружие — любая из этих технологий может подтолкнуть цивилизацию к гибели.

Другое — Антихрист.

Чтобы предотвратить конец света, человечество создаёт по-настоящему способное управлять всем миром правительство. Оно имеет право проверять вооружения каждой страны, контролировать каждую лабораторию, ограничивать опасные исследования и может потребовать от всех людей отказаться от части своей свободы.

Тиль говорит, что вышедшие из-под контроля наука и техника толкают человечество к Армагеддону, и наиболее естественной реакцией на это является создание мирового государства с реальной властью.

Когда это правительство появится, оно, возможно, не будет иметь лица армии и тирании; скорее, оно вырастет из страха.

Кто-то постоянно говорит людям, что вот-вот начнётся ядерная война, ИИ вот-вот уничтожит мир, климатические и биологические катастрофы уже на пороге. Когда все достаточно напуганы, он обещает обеспечить мир, безопасность и порядок ценой принятия унифицированного управления.

Тиль рассуждал: если достаточно небольшого фрагмента кода, чтобы универсальный ИИ вышел из-под контроля, то, чтобы действительно его остановить, нельзя полагаться только на ужесточение регулирования в отдельной стране — нужно следить за всеми компьютерами в мире, и регуляторам даже нужно будет знать, что каждый человек вводит в данный момент.

Он боится, что технологии уничтожат мир, но также боится, что люди из-за страха перед технологиями отдадут всю власть. Оба будущего плохи, и человечеству остаётся только пройти между ними.

Но если вернуться к тому, чем занимается Кремниевая долина, то обнаруживается, что они боятся, возможно, не самой концентрации власти. Они действительно опасаются концентрации власти в руках правительства, международных организаций, исследователей безопасности или любого, кто может потребовать от технологических компаний замедлиться.

В повествовании Тиля способность мирового правительства отслеживать всю вычислительную деятельность является важной характеристикой правления Антихриста. Но в то же время Кремниевая долина строит другую систему познания, пересекающую государственные границы.

Технологические правые боятся, что Антихрист создаст единый мир, но сами участвуют в создании единого мозга для этого мира.

В июле 2025 года эта идеологическая борьба внутри Кремниевой долины начала влиять на политику США. Трамп подписал исполнительный указ "О предотвращении использования федеральным правительством "пробуждённого" ИИ", требующий от федеральных агентств, чтобы закупаемые ими большие языковые модели следовали двум принципам: "стремление к истине" и "идеологический нейтралитет". На поверхности это требование освободить ИИ от политики. Но то, что относится к политике, что — к объективности, какие понятия загрязнят истину, уже предварительно выбрано в самом указе.

В этом заключается отличие AI-продуктов от обычного программного обеспечения. Обычная программа может определить, где разместить кнопку, большая модель должна определить, как она понимает мир.

Компании-разработчики моделей должны решить, что означает честность, как измеряется вред, что имеет приоритет при столкновении личной свободы и общественной безопасности. Эти вопросы раньше были предметом постоянных споров религии, права, новостей и общественной политики, никто не мог решить их раз и навсегда, и ни один институт не обладал изначально правом окончательной интерпретации. Теперь они вписаны в обучение моделей.

Администрация Трампа обвиняет модели в заражённости "идеологией пробуждения", правые предприниматели обещают создать ИИ, который осмелится давать политически некорректные ответы, а основные компании-разработчики моделей через конституции и нормы поведения объясняют, как они стремятся к безопасности, честности и самостоятельности пользователя.

Каждая сторона утверждает, что очищает сознание от навязанных установок.

Тиль опасается, что кто-то использует страх перед концом света, чтобы создать единый мир и запереть человечество в системе, из которой невозможно сбежать.

Но этот мир не обязательно будет внезапно создан одним Антихристом. Он также может быть собран по кусочкам несколькими конкурирующими технологическими компаниями. У каждой компании есть своя модель, своя конституция, набор системных правил и сотни миллионов людей, готовых задавать ей вопросы.

И вот здесь полное значение тех самых старых книг наконец проявляется. Они не просто языковой материал для обучения моделей, но и цивилизационный фундамент, на котором зиждется эта система частного познания. Тот, кто получает эти книги, тот, кто устанавливает правила модели, начинает одновременно контролировать и сырьё знаний, и способ их повторного появления.

Сожжение книг

Эти книги закупают ящиками, везут в центры сканирования. Корешки срезают, переплёты разбирают, машины считывают текст страницу за страницей. Затем книга исчезает, а на сервере появляется файл.

Цель древнего сожжения книг заключалась в том, чтобы определённые тексты исчезли из мира. Огонь сжигал бамбуковые пластины и бумагу, сжигал путь распространения идей; книгу больше нельзя было прочитать, часть истории теряла свидетельства. Правители контролировали то, что люди могли помнить, создавая пустоты.

Сожжение книг в эпоху ИИ происходит наоборот.

Содержание книги не исчезает из мира и даже может однажды появиться в ответе модели, но оно больше не существует в виде книги.

Книга, попавшая в модель, разбирается, смешивается с миллионами статей, веб-страниц, строк кода, нарезается на фрагменты, удобные для вычислений, и участвует в формировании параметров. Никто не может просмотреть полный обучающий набор, трудно узнать, сколько именно оставила та или иная книга. Она могла повлиять на понимание моделью целого исторического периода, а могла лишь добавить несколько синтаксических конструкций, которые затем будут переписаны в ходе дальнейшего обучения и ручной обратной связи.

На этом этапе знания всё ещё существуют, но превращаются из проверяемого текста в возможности компании.

И по мере того, как люди всё больше полагаются на модели, AI-компании получают не только способность сохранять знания. Они также начинают решать, как систематизировать, интерпретировать и распространять эти знания.

Тысячи лет человечество сохраняло знания очень неудобным способом. Книги разбросаны по разным странам, учёные спорят из-за одного слова, читателям приходится тратить много времени на поиск материалов. Это не быстро и не удобно, но одним человеком это контролировать практически невозможно. Издательство обанкротилось — книга остаётся у читателей; одна страна запрещает определённую идею — в другом месте может сохраниться копия.

Знания живы, потому что они рассредоточены.

Модель меняет не только то, где хранятся знания, но и путь, которым люди к ним приходят. Раньше люди от ответа шли к книге, статье, дискуссии; когда модель становится основным входом, люди могут остановиться на самом ответе.

Модели впервые позволяют массово сконцентрировать знания на серверах нескольких компаний. У них есть вычислительные мощности, самые мощные модели и способность превратить материалы, оставленные всем человечеством, в унифицированный язык. Затем они продают эту способность обратно людям по ежемесячной подписке и количеству токенов.

Технологические компании действительно вкладывают огромные средства: покупают чипы, строят центры обработки данных, содержат исследователей и несут расходы на обеспечение безопасности. Само по себе взимание платы не является преступлением.

Настоящая проблема в том, что коммерческие издержки скрывают ещё более масштабные вложения.

Кто писал те книги, кто делал те статьи, кто оставлял те веб-страницы, посты и строки кода на протяжении долгой истории интернета.

AI-компании заплатили за вычислительные мощности, но не заплатили цену человеческой цивилизации, потому что этот счёт просто невозможно подсчитать. Ни одна компания не может выкупить права у всех авторов, переводчиков, программистов и обычных людей за несколько тысяч лет. Поэтому цивилизация по умолчанию считается природным ресурсом, доступным для свободной добычи.

Когда общественные знания попадают в модель, это называется обучением. Когда модель выдаёт знания общественности, это называется услугой.

Вот самый полный цикл приватизации цивилизации.

Вот почему те старые книги со срезанными корешками не должны рассматриваться лишь как спор об авторских правах.

Они — символ.

Бумага уничтожена, содержание сохранено. Видимые публично оригиналы вышли из обращения, знания из них поглотила не поддающаяся проверке модель. Идеи из книги по-прежнему существуют, но постепенно теряют источник, контекст и жизнь, независимую от компании.

Сожжение книг в новую эпоху не требует исчезновения знаний.

Будущий ребёнок, возможно, редко будет открывать эти книги, а некоторые книги, возможно, больше не найдутся.

Он будет напрямую спрашивать у модели, почему началась война, справедлива ли та или иная система, как человек должен жить. Модель за несколько секунд даст ответ, спокойным тоном, с цельной структурой, и не скажет ему, что этот вопрос заставлял спорить поколения людей.

Возможно, он не почувствует, что что-то утрачено, ведь ответ всё ещё здесь.

ИИ не забудет человеческую цивилизацию, но это нехорошо. Забвение хотя бы оставляет пустоту, позволяя людям знать, что что-то потеряно. Более опасная ситуация, когда модель помнит достаточно много и отвечает достаточно естественно, и люди постепенно перестают нуждаться в контакте с изначальным обликом цивилизации.

Память человечества о собственной цивилизации начинает проходить через фильтр нескольких компаний.

ИИ не забудет человеческую цивилизацию, но ИИ может запомнить её для человечества только так, как того хотят немногие технологические элиты.