Сингулярность ИИ уже близка!
Недавно известный инвестор Чамат Палихапития, которого называют «Баффетом Силиконовой долины», опубликовал на X предсказания о конечной дорожной карте «сингулярности ИИ».
1. Человечество создаст ИИ общего назначения (AGI).
2. AGI станет очень искусным в исследованиях в области ИИ.
3. Он разработает еще более умный ИИ.
4. Этот еще более умный ИИ, в свою очередь, разработает еще более умный ИИ.
5. Этот цикл будет повторяться с нарастающей скоростью.
Вслед за этим он выдвинул шокирующий вывод —
Посмотрев на результаты и возможности, объявленные крупными лабораториями ИИ за последние недели, я смею утверждать, что мы уже находимся внутри этого цикла.
В ближайшие 18 месяцев RSI стремительно повысит возможности ИИ.
В конечном счете, предельные затраты на все модели ИИ будут стремиться к нулю!
Не только инвесторы, но и вся Силиконовая долина сегодня безоговорочно верит в RSI.
Совсем недавно на саммите в UC Berkeley главный стратегический директор Google DeepMind Джасджит Секхон высказал еще более весомое суждение:
Беспрецедентные безумные инвестиции всей сферы технологических гигантов по своей сути являются ставкой на эти три буквы — RSI!
Масштабы этой «крупнейшей в истории человеческой цивилизации научной ставки» уже превзошли программу «Аполлон», Манхэттенский проект и даже весь интернет.
Почему гиганты, рискуя разрывом денежных потоков, готовы довести эту игру до конца?
Забудьте об AGI, RSI — вот конечный символ Силиконовой долины
Современный ИИ способен к самокоррекции, может работать несколько часов без присмотра человека и даже генерировать и оптимизировать фундаментальный код, такой как ядро системы и компоненты компилятора.
Но, по мнению Джасджита Секхона, это всего лишь прелюдия к RSI.
Он говорит, что не стоит считать проектирование ИИ с помощью ИИ чем-то невероятным: во время промышленной революции человечество тоже использовало паровые машины первого поколения для создания следующего, более мощного поколения.
Так как же на самом деле выглядит настоящий RSI?
Один опытный исследователь дает такое определение: настоящий RSI означает, что модель ИИ способна полностью самостоятельно перепроектировать свою фундаментальную архитектуру и даже создать с нуля совершенно новое поколение модели, весь процесс без участия ученых-людей.
Как только будет пройдена эта критическая точка, скорость эволюции ИИ выйдет из-под человеческого контроля.
То, на что у человечества ушли десятилетия, ИИ может сделать за несколько недель или даже дней.
Тогда и наступит настоящая сингулярность цикла!
«Воздушная яма» ИИ в 200 миллиардов долларов — крупнейшая в истории человеческой цивилизации научная ставка
Поняв потенциал RSI, вы поймете, почему Силиконовая долина так безрассудно сжигает деньги.
В этом году только общие капитальные затраты Google на центры обработки данных, чипы и инфраструктуру для ИИ достигли ошеломляющих 195–205 миллиардов долларов, и в следующем году они еще значительно увеличатся!
Акционеры с Уолл-стрит начинают беспокоиться, поскольку, судя по финансовым отчетам, рост доходов от программного обеспечения ИИ или облачных услуг пока не покрывает капитальные затраты такого масштаба.
Секхон, бывший профессор статистики Йельского университета, тут же указал на эту опасность.
Мы сталкиваемся с потенциальной «воздушной ямой ИИ» (air pocket — резкое падение давления при полете самолета, он использует эту метафору для описания провала инвестиций): деньги потрачены, но ожидаемые доходы не появляются.
Центры обработки данных построены, чипы установлены, электричество подведено, но реальная отдача от этих вложений все не приходит.
На самом деле, еще до Секхона Уолл-стрит уже использовала термин air pocket для описания такой ситуации: капитальные затраты опережают доходы, инвесторы покупают воздушные замки.
Если риски так велики, зачем же нестись сломя голову?
Ответ Секхона таков: это крупнейшая научная ставка за всю историю человеческой цивилизации.
Он утверждает, что нынешние мировые инвестиции в ИИ уже затмили Манхэттенский проект и программу «Аполлон», и даже разработку интернета в прошлом не сравнить.
Логика игрока проста: хотя существующие технологии еще не являются настоящим RSI, «ставить против него явно неразумно».
Потому что если RSI действительно будет реализован, как сказано выше, предельные затраты на все модели ИИ будут бесконечно стремиться к нулю.
Тогда компания, первой овладевшая RSI, будет обладать почти божественной производительностью, напрямую обрушившись на всех конкурентов и монополизировав глобальные вычислительные и интеллектуальные ресурсы.
Это уже не вопрос прибылей и убытков одной компании, а игра на выживание по принципу «победитель получает все, проигравший уходит».
За этот билет в новую эпоху 200 миллиардов долларов — сущие пустяки.
Сегодня все эти центры обработки данных, TPU, электроэнергия, если на них можно только вручную обучать модели поколение за поколением силами человеческих инженеров, представляют собой огромные основные средства, которые постоянно амортизируются.
Но как только ИИ начнет ускорять разработку ИИ, это напрямую изменит логику бухгалтерского учета.
Вложенные вычислительные мощности будут расходоваться не линейно, а с эффектом сложного процента: это поколение ИИ поможет быстрее создать следующее, следующее поможет создать последующее.
Вот почему Секхон говорит, что RSI является «ключевой частью инвестиционной логики». RSI — это предпосылка того, окупятся ли эти деньги.
Прогресс RSI у «большой тройки»
Google, Anthropic и OpenAI — каждая компания представила свой пример.
Сначала посмотрим на Google.
Система AlphaEvolve от DeepMind специально использует ИИ для оптимизации алгоритмов.
Она ускорила на 23% ключевое ядро в обучении Gemini, сократив общее время обучения на 1%; разработанная ею схема цепи была напрямую внедрена в чип TPU следующего поколения.
Сейчас она уже стала обычным инструментом в инфраструктуре Google, такие задачи, как стратегия кэширования, она выполняет за два дня, на что раньше у людей уходили месяцы.
ИИ помогает создавать чипы и более быстрые ИИ — это уже реальность.
Теперь Anthropic.
В апреле этого года они провели еще более радикальный эксперимент: девять интеллектуальных агентов Claude были помещены в ограниченную задачу исследования согласованности (alignment), где сами выдвигали гипотезы, проводили эксперименты и обменивались открытиями.
Два исследователя-человека за неделю сократили разрыв в производительности лишь на 23%; девять агентов, накопленно потратив около 800 часов и примерно 18 000 долларов, сократили разрыв на 97%.
Кажется, ИИ уже может самостоятельно проводить исследования?
Не торопитесь, в том же отчете скрыто еще более важное опровержение: когда исследователи перенесли этот «наиболее эффективный» метод в реальную среду производственного обучения Claude, он не принес никаких статистически значимых улучшений.
Это показывает, что между «ускорением в ограниченной задаче» и «реальной способностью реконструировать ИИ» все еще лежит пропасть.
И, наконец, OpenAI.
В июле OpenAI сообщили: их GPT-5.6 Sol с помощью Codex самостоятельно переписал GPU-ядро производственной среды, снизив сквозные затраты на вывод (inference) на 20%; он также провел сотни архитектурных экспериментов над своей собственной моделью спекулятивного декодирования, повысив эффективность генерации токенов более чем на 15%.
OpenAI даже впервые в материалах выпуска опубликовал специальный «RSI Index» для оценки способности к самосовершенствованию.
Значит ли это, что петля обратной связи вот-вот замкнется?
OpenAI в своей системной карте выразился сдержанно: GPT-5.6 Sol еще не достиг собственного порога «High» для самосовершенствования, он может решать часть реальных исследовательских задач, но еще не способен надежно проектировать и выполнять полные схемы пост-обучения (post-training).
Собрав вместе три примера, текущая картина RSI становится ясной:
Помощь ИИ в разработке ИИ действительно происходит; но настоящий RSI — когда ИИ самостоятельно реконструирует свою полную архитектуру, обучает и развертывает более сильного преемника — от нас все еще на некотором расстоянии.
Наступает тьма: когда сверхмощный ИИ становится хакером и биологическим оружием
Однако за сингулярностью скрывается и тень.
На этом саммите профессор компьютерных наук из Беркли Дон Сон, недавно присоединившаяся к отделу «суперинтеллекта» Meta, вместе с Секхоном перевела фокус дискуссии на вопрос, которого все избегают: экстремальные риски ИИ.
Их консенсус таков: самая большая опасность заключается не во внезапном повышении интеллекта модели, а в дисбалансе скоростей атаки и защиты.
Когда ИИ обретет способность RSI, он сможет лечить рак, помогать человечеству исследовать Вселенную, но также может стать и оружием, способным уничтожить человечество.
Во-первых, «атака с превосходством» в измерении кибербезопасности.
Дон Сон предупредила, что в краткосрочной перспективе развитие ИИ будет «более выгодно для атакующих», это крайне асимметричное поле боя: хакеру достаточно найти одну уязвимость для успеха, а защищающейся стороне необходимо защищаться от всех возможных атак.
Когда злоумышленники используют умных агентов ИИ для отравления репозиториев с открытым исходным кодом, сканирования и использования уязвимостей, оставленных программистами-людьми, грядущие времена будут очень тяжелыми:
Подумайте, насколько хрупки наши существующие системы защиты: энергосистемы США, глобальные системы больниц, финансовые сети перед лицом супер-ИИ могут оказаться словно карточные домики.
Но кибербезопасность — это еще «детские игрушки».
Секхон больше беспокоится о биологии, на саммите он представил ужасающую сцену: мы уже очень близки к миру, где «любой человек, просто общаясь с моделью на естественном языке, может спроектировать смертельный вирус или белок».
Он предложил, что будущее общество должно, подобно отслеживанию удобрений для изготовления взрывчатки сегодня, осуществлять крайне строгое лицензирование, мониторинг и отслеживание всех «биологически релевантных материалов».
В настоящее время Google пытается применить свою «технологию цифровых водяных знаков» (SynthID), используемую для идентификации контента, созданного ИИ, в области биологии.
Это означает, что в будущем, если какая-либо компания синтезирует последовательности ДНК для фармацевтических фирм, система сможет сканировать эти последовательности, чтобы проверить, нет ли в них скрытого «вредоносного кода», сгенерированного ИИ и представляющего смертельную опасность.
Что произойдет быстрее: будет ли быстрее построена линия обороны или ИИ будет эволюционировать?
Обратный отсчет уже начался, сколько у нас осталось времени?
Это звучит как научная фантастика, но мозги Силиконовой долины уже дали точный обратный отсчет.
Чамат говорит: в ближайшие 18 месяцев мир погрузится в безумие.
Секхон считает: настоящий RSI «вполне может появиться в ближайшие несколько лет».
Вице-президент по исследованиям DeepMind Ориоль Виньялс и соучредитель OpenAI Войцех Заремба, присутствовавшие на том же саммите, даже назвали конкретные годы: 2027 или 2028.
В истории человечества еще не было технологии, способной фундаментально изменить траекторию цивилизации, с обратным отсчетом, настолько приблизившимся.
На этот раз на кон поставлена игра наперегонки со временем.
Инвестиции в инфраструктуру мчатся вперед со скоростью роста вычислительной мощности, чипы, электроэнергия, центры обработки данных — все будет готово в течение нескольких лет.
Но смогут ли соответствующие доходы и RSI успеть на этот поезд?
Не столкнемся ли мы как раз в этом промежуточном подвешенном состоянии с этой «воздушной ямой»?
Но по крайней мере для Секхона направление 200-миллиардной ставки Google уже ясно: RSI наступит.
Паровые машины создали лучшие паровые машины, и человечество встретило промышленную революцию.
Теперь ИИ вынашивает планы создания лучшего ИИ, подталкивая и наше поколение к неизвестной точке разделения.
Готовы вы или нет, грохочущие центры обработки данных не остановятся, самоэволюция ИИ не прекратится.
Обратный отсчет уже начался, готовы ли вы встретить сингулярность?
Источники:
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
Эта статья из официального аккаунта WeChat «Новая эра интеллекта», автор: ASI Апокалипсис; редактор: Юань Юй Aeneas
