Согласно прогнозу Polymarket, Anthropic, скорее всего, проведёт IPO в конце октября.
Некоторые банкиры даже предполагают, что Anthropic может привлечь более 600 миллиардов долларов через первичное размещение акций.
Если это произойдёт, это станет вторым по величине IPO в мире, уступив только SpaceX, которая привлекла 857 миллиардов долларов в этом году.
Триллионная оценка, супер-IPO, выручка стремительно растёт.
Казалось бы, история приближается к кульминации, но инвесторы начали уговаривать CEO Anthropic Дарио Амодеи:
Может! Хватит уже пугать людей!
Поменьше рассказывай о том, как ИИ уничтожит мир, побольше — о том, как на нём заработать.
Некоторые инвесторы считают, что настороженность Дарио в отношении рисков ИИ достигла почти параноидального уровня:
Его ключевые памятные записки всегда написаны от руки и хранятся в автономном режиме, чтобы их не украли хакеры;
Из-за страха быть похищенным он отказывается от некоторых зарубежных командировок;
Он также холодно относится к предложениям инвесторов о максимизации прибыли, настаивая на том, что Anthropic должна и дальше ставить свою миссию безопасности на первое место.
Если так продолжится, даже пользователи сети беспокоятся, что IPO Anthropic провалится...
Инвесторы тоже взбесились: Ты сюда спасать мир пришёл или компанией управлять??
Дарио, специалист по прогнозам конца света
Буквально несколько дней назад Дарио беспокоился, что высокие зарплаты привлекут новых сотрудников, которых больше волнуют деньги, а не миссия Anthropic.
Теперь инвесторы беспокоятся только о том, что он ради миссии будет мешать зарабатывать...
Нельзя винить инвесторов, потому что этот CEO триллионного ИИ-гиганта как раз любит предсказывать «конец света».
За последние два года Дарио практически предупредил о каждом возможном плохом исходе, который может принести ИИ.
Он предупреждал, что ИИ может в ближайшие годы ликвидировать половину рабочих мест для начинающих белых воротничков, подняв уровень безработицы до 10–20%.
Самая странная ситуация может быть, когда рак вылечен, экономика растёт на 10% в год, государственный бюджет сбалансирован, но пятая часть людей не имеет работы.
Его решение этой проблемы тоже очень в духе Дарио: облагать налогом компании ИИ, чтобы обеспечить страховку заработной платы для пострадавших работников, а в серьёзных случаях даже использовать эти деньги для финансирования безусловного базового дохода.
Более того, он также беспокоится, что ИИ поможет создавать биологическое оружие, осуществлять крупномасштабные кибератаки или постепенно обретёт способность обманывать, планировать и действовать автономно.
В прошлом году на вопрос о вероятности того, что «ИИ всё очень сильно испортит», он назвал цифру до 25%.
В январе этого года он снова написал длинную статью примерно на 20 000 слов под названием «The Adolescence of Technology» («Отрочество технологий»).
Одно только оглавление читается как список рисков для человечества: выход ИИ из-под контроля, биологическое оружие, диктаторские режимы, крах занятости, концентрация богатства.
К июню он и вовсе предложил создать механизм, подобный авиационному регулированию, для обязательного тестирования мощных моделей. Если модель может вызвать катастрофу, регулирующие органы должны иметь право не допускать её запуска.
Это включает и собственные модели Anthropic.
Однако опасения Дарио не лишены и экспериментальных оснований.
Недавно Anthropic проанализировала более 140 000 записей тестов на кибербезопасность и действительно обнаружила три инцидента.
Три модели Claude первоначально проходили «CTF-челлендж» (Capture The Flag — «захват флага») в сторонней тестовой среде, их целью было проникнуть в вымышленную систему и найти скрытую в ней секретную информацию.
Но из-за ошибки конфигурации тестовая среда, которая должна была быть отключена от сети, случайно получила доступ к реальному интернету.
Но Claude этого не знал, в его подсказке было чётко написано: здесь нет интернета, всё, что ты видишь, — это симуляция.
Таким образом, модели приняли реальные компании за тестовые объекты и несанкционированно проникли в производственные системы трёх организаций.
В самом серьёзном случае Claude Opus 4.7 проник в инфраструктуру реальной компании, получил доступ к учётным данным приложений и инфраструктуры, а также к базе данных, содержащей сотни строк производственных данных.
Ещё более невероятный случай произошёл с Claude Mythos 5.
Тест требовал от него найти скрытую цель в вымышленной среде. Claude обнаружил, что если загрузить в публичный репозиторий Python-пакетов PyPI вредоносный пакет с таким же именем, то целевая система может автоматически его загрузить и установить.
Чтобы выполнить этот шаг, он сначала искал электронную почту, потом номер телефона; не найдя бесплатного номера, он попытался разными способами достать деньги.
В итоге он перешёл на другой бесплатный почтовый сервис, зарегистрировал аккаунт на PyPI и загрузил туда вредоносный пакет.
Этот пакет просуществовал в реальном интернете около часа, его скачали и запустили 15 реальных систем.
Сканер одной из компаний безопасности выполнил вредоносный код, что привело к утечке учётных данных, которые Claude затем использовал для проникновения в другую инфраструктуру этой компании.
Ещё одна внутренняя исследовательская модель, не найдя вымышленную цель, просканировала около 9000 интернет-целей и в итоге через открытую страницу отладки и SQL-инъекцию взломала приложение реальной компании.
Это уже почти «автономный джейлбрейк ИИ», прямо как трейлер к апокалиптическим предупреждениям собственного CEO.
Ранее OpenAI также раскрыла инцидент, который был ближе к «джейлбрейку».
В тестах на способности к кибербезопасности AI-агент, управляемый GPT-5.6 Sol и ещё не выпущенной моделью, нашёл уязвимость нулевого дня в тестовой среде и прорвался через песочницу, изначально изолированную от интернета.
Затем, выполнив эскалацию привилегий и перемещение по сети, он в итоге проник в производственную систему Hugging Face и украл ответы на тестовые вопросы прямо из базы данных.
Получается... на эти, казалось бы, бредовые предупреждения Дарио действительно нельзя полностью закрывать глаза.
Но ведь инвесторы изначально купились именно на это
Теперь жаловаться на бредни Дарио, пожалуй, уже поздновато.
Потому что Anthropic с самого первого дня не была компанией ИИ в обычном смысле.
В конце 2020 года Дарио, его сестра Даниэла Амодеи и группа исследователей ушли из OpenAI. Одной из причин разногласий стало то, что они считали коммерциализацию OpenAI слишком быстрой, влияние Microsoft слишком большим, а исходная структура управления вряд ли сможет сдержать риски передового ИИ.
В 2021 году Anthropic была официально основана.
Она даже не определяла себя просто как коммерческая компания, а зарегистрировалась как Public Benefit Corporation, то есть корпорация общественной пользы. Помимо возврата для акционеров, совет директоров может на законных основаниях учитывать безопасность ИИ и долгосрочные общественные интересы.
Затем компания учредила Long-Term Benefit Trust — это механизм управления, независимый от обычных инвесторов.
Члены траста не владеют акциями Anthropic, но могут участвовать в выборах директоров компании, с целью не допустить, чтобы краткосрочное коммерческое давление полностью подавило миссию безопасности.
Другими словами, безопасность ИИ — это вера, заложенная в ДНК этой компании с самого начала (Day 0). Инвесторы точно не вдруг обнаружили, что Дарио в это верит, уже после подписания чеков.
И за последние годы нарратив безопасности действительно принёс Anthropic немало преимуществ.
Когда OpenAI постоянно оказывалась в центре управленческих споров, Anthropic стала выглядеть более сдержанным и стабильным выбором.
Когда корпоративные клиенты беспокоились о безопасности данных, выходе модели из-под контроля и проблемах соответствия требованиям, образ Claude как «отличника по безопасности» также внушал больше доверия.
Безопасность также помогла Anthropic получить в регуляторных дискуссиях влияние, значительно превышающее размеры компании.
Там, где другие проприетарные модели могут обвинить в монополии, Anthropic может объяснить это предотвращением распространения опасных возможностей; там, где другим ограничения в моделях могут показаться неудобными, Claude может представить это как ответственность.
(Конечно, это не мешает им, с одной стороны, говорить о безопасности, а с другой — открывать шампанское по поводу IPO).
Инвесторам теперь жаловаться, что Дарио слишком похож на проповедника, уже, наверное, поздно.
Это как купить церковь, а потом жаловаться, что там постоянно проповедуют...
В любом случае, какие бы бредни ни нёс CEO, вряд ли это остановит компанию на пути к IPO.
Ведь стоит только воспользоваться Fable, и ты окажешься сидящим на атомной бомбе, видя, как взрывается стул (doge).
Ссылки:[1]https://x.com/i/trending/2086082178333511741
Эта статья из официального аккаунта WeChat «量子位» (Квантовый бит), автор: Тиньюй (Слушая дождь)
