Предисловие
В последние годы внимание людей к искусственному интеллекту было в основном сосредоточено на одном направлении: какие работы заменяет ИИ и какие новые производственные силы он создаст.
От генерации текстов и написания кода до помощи в научных исследованиях и автоматизации офисной работы — ИИ стал одной из самых обсуждаемых переменных за последние несколько технологических циклов. Однако по сравнению с улучшением самих возможностей моделей, две недавние новости, возможно, указывают на новую тенденцию, более заслуживающую внимания криптоиндустрии: ИИ начинает участвовать в обнаружении проблем в сложных системах.
Недавно компания Anthropic опубликовала исследовательскую статью «Рекурсивное самоулучшение», систематически обсуждая, как ИИ постепенно вовлекается в процессы собственной разработки — от проектирования экспериментов и генерации кода до поиска ошибок и оптимизации производительности. Модели постепенно превращаются из простых инструментов в участников исследовательской экосистемы. Хотя до полностью самостоятельной разработки моделей следующего поколения ещё далеко, тенденция к ускорению итераций с помощью ИИ уже начинает проявляться.
Почти одновременно в криптосообществе широко обсуждалась другая новость. Claude Opus 4.8, анализируя код, связанный с Zcash (ZEC), обнаружил критическую уязвимость, скрытую в системе доказательств с нулевым разглашением. Затем команда разработчиков Zcash и сообщество быстро проверили риски, выполнили срочное обновление и устранили уязвимость, предотвратив дальнейшее расширение потенциального воздействия.
На первый взгляд, эти два события принадлежат к совершенно разным областям.
Первое относится к разработке искусственного интеллекта и обсуждает, как модели помогают совершенствоваться другим моделям; второе касается безопасности блокчейна и связано с технической уязвимостью в протоколе конфиденциальности. Но если удлинить временную шкалу и расширить взгляд от единичного события до общего направления развития технологической индустрии, оба указывают на одно и то же изменение:
ИИ начинает всё глубже участвовать в процессах понимания, анализа и верификации сложных систем.
Для криптоиндустрии это изменение особенно важно.
За последние десять с лишним лет основным способом построения системы безопасности в блокчейн-индустрии была зависимость от экспертов по криптографии, исследователей безопасности и сторонних аудиторских агентств, которые обнаруживали уязвимости, оценивали риски и устраняли их, сочетая ручной анализ с автоматизированными инструментами. Будь то аудит смарт-контрактов, оценка безопасности мостов или верификация систем доказательств с нулевым разглашением — всё это по сути основывается на опыте человеческих экспертов и ограниченных автоматизированных инструментах.
Сейчас в эту экосистему проникает новая способность.
ИИ не только может читать код, но и начинает обладать способностью понимать сложные логические связи, генерировать тестовые сценарии, определять аномальное поведение и даже помогать верифицировать уязвимости. Для крупной системы, состоящей из сотен тысяч или даже миллионов строк кода, это означает изменение ключевой переменной в области безопасности — скорости обнаружения проблем.
Фактически, подавляющее большинство серьёзных инцидентов безопасности в истории произошло не из-за самих уязвимостей, а из-за того, что уязвимости существовали слишком долго до их обнаружения. Разрыв между атакующим и защитником часто заключается не в уровне технических навыков, а в том, кто раньше обнаружит риск и быстрее отреагирует.
Если ИИ помогает исследователям обнаруживать скрытые проблемы с беспрецедентной эффективностью, то он меняет не просто инструменты аудита, а весь механизм обнаружения уязвимостей.
WEEX Labs считает, что «рекурсивное самоулучшение», предложенное Anthropic, возможно, является лишь началом. В криптоиндустрии происходит похожее, но более широкое по влиянию изменение: сама система безопасности начинает получать способность к постоянной эволюции. Будущая конкуренция, возможно, будет заключаться не в том, какой протокол абсолютно безопасен, а в том, кто сможет быстрее обнаруживать риски, быстрее их верифицировать и быстрее устранять.
С этой точки зрения, значимость обнаружения уязвимости ZEC в Claude заключается, возможно, не в обнаружении конкретной уязвимости, а в том, что это позволило всей индустрии заранее увидеть контуры новой эпохи — эпохи «рекурсивной безопасности», движимой ИИ и постоянно эволюционирующей.
ИИ входит в свой собственный период ускорения
Если наблюдать технологические революции последних двухсот лет вместе, можно заметить интересную закономерность: всякий раз, когда производственные инструменты начинают участвовать в создании самих себя, общество часто переживает новый скачок эффективности.
Во время промышленной революции машины использовались для производства других машин, что позволило обрабатывающей промышленности избавиться от зависимости от ручного труда; в эпоху интернета программное обеспечение помогало разрабатывать другое ПО, и цифровая инфраструктура начала расширяться с беспрецедентной скоростью. Сегодня в области искусственного интеллекта происходит похожее изменение — ИИ начинает участвовать в процессе собственной разработки.
Именно поэтому недавнее исследование Anthropic «Рекурсивное самоулучшение» вызвало широкое обсуждение в индустрии.
Буквальное понимание «рекурсивного самоулучшения» может напомнить суперинтеллект из научной фантастики: ИИ постоянно улучшает себя и в конце концов выходит из-под контроля человека. Но Anthropic обсуждает не этот крайний сценарий. Исследование скорее сосредоточено на реальных изменениях — ИИ постепенно внедряется в цепочку разработки и берёт на себя всё больше работы, которую раньше выполняли инженеры.
Раньше разработка крупных моделей была процессом, сильно зависящим от человеческого труда. Исследовательским командам нужно было проектировать эксперименты, писать код, анализировать результаты, находить ошибки, оптимизировать производительность и постоянно повторять этот цикл. Даже при наличии достаточных вычислительных ресурсов эффективность разработки всё равно ограничивалась человеческим временем и когнитивными способностями.
Сейчас ситуация меняется.
От генерации кода и автоматического тестирования до анализа журналов и поиска проблем — всё больше этапов разработки начинают выполняться с помощью ИИ. Инженерам больше не нужно писать каждый фрагмент кода с нуля или вручную просматривать огромные объёмы журналов в поисках аномалий. Модели могут быстро обрабатывать большие контексты, предлагать возможные пути решения проблем и генерировать несколько вариантов решений для проверки разработчиками. Это не означает, что ИИ заменяет инженеров, но он значительно сокращает самую трудоёмкую часть процесса разработки.
Значение этого изменения выходит далеко за рамки простого «повышения эффективности».
По своей сути технологические инновации всегда были циклическим процессом. Исследователи выдвигают гипотезы, проводят эксперименты для их проверки, корректируют направление на основе результатов и переходят к следующей итерации. Скорость каждого цикла напрямую влияет на скорость инноваций. Когда ИИ начинает участвовать в этом процессе, начинает ускоряться и сам цикл.
Сокращается время на обнаружение проблем, на их проверку и на устранение. По отдельности улучшение каждого этапа может показаться ограниченным, но когда эти улучшения складываются вместе, вся система разработки начинает демонстрировать заметный эффект ускорения.
Вот что действительно важно в исследовании Anthropic. По сравнению с увеличением количества параметров модели или улучшением результатов бенчмарков, важнее то, что в исследовательской системе появляется новый эффект маховика: более мощные модели помогают людям создавать более эффективные инструменты разработки, а более эффективные инструменты разработки помогают обучать более мощные модели.
Этот цикл можно кратко описать следующей логикой:
Как только такой маховик начинает вращаться, скорость развития ИИ перестаёт полностью зависеть от количества исследователей и начинает определяться эффективностью обратной связи всей системы.
Другими словами, ИИ постепенно становится частью системы производства знаний.
Это имеет далеко идущие последствия для всей технологической индустрии. Потому что когда ИИ перестаёт быть просто конечным продуктом и начинает участвовать в процессе его создания, его влияние расширяется от точечного улучшения возможностей до повышения эффективности всей производственной цепочки.
Исторический опыт показывает, что прорывы в базовых технологиях сначала затрагивают те отрасли, которые сильно зависят от обработки сложной информации. Интернет изменил финансы, медиа и розничную торговлю, облачные вычисления преобразовали корпоративное программное обеспечение, и влияние искусственного интеллекта также не ограничится чат-ботами или генерацией контента.
Фактически, по мере роста способности моделей к пониманию и рассуждению, всё больше отраслей, требующих анализа сложных систем, становятся важными сценариями применения ИИ. И среди них, возможно, самой заметной является область безопасности.
Причина проста. В отличие от создания новых систем, основная задача работы в области безопасности — это понимание существующих систем. Будь то аудит кода, оценка рисков, обнаружение аномалий или анализ путей атаки — по своей сути всё это поиск небольшого количества непредвиденных состояний в огромных массивах информации. Это типичная работа по распознаванию сложных паттернов, а распознавание паттернов — одна из самых сильных сторон современного ИИ.
За последнее десятилетие интернет-индустрия широко использовала машинное обучение для выявления спама, мошеннических транзакций и сетевых атак. Современные большие модели ещё больше расширяют границы этих возможностей. Они могут не только обнаруживать аномальные результаты, но и понимать в контексте причины их возникновения, а также в некоторой степени предсказывать последующие эффекты.
Это означает возникновение ключевого изменения: ИИ начинает переходить от «обнаружения аномалий» к «пониманию аномалий».
Для индустрии безопасности это изменение не менее важно, чем появление автоматизированных инструментов. Потому что настоящая трудность никогда не заключалась в сборе данных, а в том, чтобы найти в огромных массивах данных те проблемы, которые заслуживают внимания. По мере роста сложности систем человеческим экспертам становится всё труднее справляться с этой задачей в одиночку, и ИИ становится новой вспомогательной силой.
Если исследование Anthropic раскрывает, как ИИ ускоряет развитие самого ИИ, то для блокчейн-индустрии более важным вопросом, возможно, является другое: когда ИИ начинает обладать способностью понимать сложные системы, может ли он также помочь людям быстрее обнаруживать риски, скрытые в этих системах?
Ответ на этот вопрос вскоре получил практическую проверку в криптоиндустрии.
И случай, вызвавший обсуждение во всём сообществе, — это недавний инцидент с уязвимостью в Zcash.
Обнаружение уязвимости ZEC в Claude: важна не сама уязвимость
Если рассматривать только сам факт, то недавний инцидент с уязвимостью в Zcash, вызвавший обсуждение в криптосообществе, не является особо сложным.
При анализе кода, связанного с системой Orchard в Zcash, Claude Opus 4.8 выявил потенциальную проблему, скрытую в логике реализации доказательств с нулевым разглашением. Затем команда разработчиков и исследователи безопасности проверили риск и быстро выполнили исправление и развёртывание обновления, предотвратив дальнейшее расширение проблемы.
С традиционной точки зрения на инциденты безопасности это выглядит как стандартный процесс обнаружения и устранения уязвимости.
За последние десять с лишним лет подобные истории в криптоиндустрии не редкость. Аудиторские агентства находят проблемы, белые хакеры сообщают об уязвимостях, проекты их устраняют — всё это уже стало важной частью системы безопасности индустрии.
Но на этот раз фокус внимания сообщества был не полностью на самой уязвимости.
Настоящим предметом обсуждения стал другой вопрос:
Если субъектом, обнаруживающим уязвимости, становится не только человек, но и ИИ, меняется ли вся система безопасности?
Вот что действительно заставляет задуматься в случае с Zcash.
Прошлая система безопасности блокчейна по своей сути основывалась на опыте человеческих экспертов. Будь то аудит смарт-контрактов, оценка безопасности мостов или верификация систем доказательств с нулевым разглашением — ключевой процесс зависел от того, как исследователи читали код, понимали логику протокола, строили пути атаки и постепенно сужали область рисков.
Эта модель была эффективна на ранних этапах развития индустрии.
Однако с постоянным ростом сложности систем способность человека к анализу начала сталкиваться со всё более заметными границами.
Современные блокчейн-системы уже далеко вышли за рамки простых протоколов перевода. Сети масштабирования второго уровня, протоколы межсетевого взаимодействия, модульные блокчейны и системы доказательств с нулевым разглашением постоянно добавляют новые технологические слои, и каждый новый уровень абстракции означает введение новых поверхностей риска в систему.
Проблема в том, что сложность растёт быстрее, чем возможности по обеспечению безопасности.
Потенциальное пространство состояний современного протокола, состоящего из сотен тысяч строк кода, уже давно вышло за пределы возможностей отдельной исследовательской команды. Даже лучшие аудиторские агентства могут проводить верификацию только по критическим путям, но не могут охватить все возможные варианты взаимодействия.
Именно поэтому индустрия безопасности долгое время сталкивается с фундаментальным противоречием:
Сложность систем продолжает расти, а количество человеческих экспертов увеличивается ограниченно.
С этой точки зрения, важность обнаружения уязвимости Zcash в Claude заключается не в том, что ИИ нашёл конкретную проблему, а в том, что он продемонстрировал новую способность обнаружения рисков.
В отличие от традиционных инструментов сканирования по правилам, ценность больших моделей заключается не только в выполнении предустановленных правил, а в способности понимать контекстные связи и искать потенциальные аномалии в сложной логике.
Она может одновременно анализировать реализацию кода, ограничения протокола, пути выполнения и логику изменения состояния, устанавливая связи между несколькими уровнями.
Эта способность не обязательно означает, что ИИ понимает криптографию лучше, чем эксперты.
Но это означает, что ИИ может с минимальными затратами выполнять большой объём аналитической работы, которая раньше требовала человеческих усилий, и помогать исследователям быстрее определять области, заслуживающие внимания.
Другими словами, ИИ меняет ключевую переменную в исследованиях безопасности:
Стоимость обнаружения рисков.
Исторически каждая важная трансформация в индустрии безопасности по своей сути была связана со снижением стоимости обнаружения.
Так было с инструментами автоматического сканирования уязвимостей.
Так было с системами непрерывного тестирования.
Так было и с облачными системами мониторинга безопасности.
А изменения, привносимые ИИ, могут ещё больше ускорить этот процесс.
Если раньше на обнаружение сложной уязвимости уходили недели или даже месяцы, то в будущем этот цикл может сократиться до дней, часов или даже меньше.
Для атакующих это означает, что будет обнаружено больше уязвимостей.
Для защитников это также означает, что больше уязвимостей будет обнаружено заранее.
Таким образом, ИИ приносит не просто усиление безопасности, а ускорение всего механизма обнаружения рисков.
Именно поэтому случай с Zcash стоит рассматривать в более широком историческом контексте.
Это не просто успешный пример аудита с помощью ИИ.
Это скорее сигнал.
Сигнал о том, что индустрия безопасности постепенно переходит от модели, движимой экспертами, к модели «эксперты + ИИ».
И когда способность обнаружения рисков начинает расти экспоненциально, возникает более глубокий вопрос:
Если ИИ может постоянно помогать людям обнаруживать риски, станет ли сама система безопасности, подобно системе разработки ИИ, переходить в состояние постоянной эволюции?
Этот вопрос является центральным для следующего этапа обсуждения.
От рекурсивного самоулучшения к рекурсивной безопасности
Ключевой вопрос, обсуждаемый Anthropic в «Рекурсивном самоулучшении», — это как ИИ участвует в собственном процессе разработки и помогает всей исследовательской системе приобрести способность к постоянному ускорению.
На первый взгляд, это кажется темой, относящейся только к индустрии искусственного интеллекта, но если посмотреть глубже, то окажется, что важна здесь не сама технология ИИ, а новая структура системы.
Особенность этой структуры в том, что система начинает участвовать в собственном процессе оптимизации: модели помогают исследователям повышать эффективность разработки, более высокая эффективность разработки помогает исследователям обучать более мощные модели, а затем более мощные модели снова участвуют в следующем цикле разработки — вся система формирует непрерывную петлю обратной связи. Это и есть суть «рекурсивного самоулучшения»: оно описывает не единичный прорыв в возможностях, а механизм, способный постоянно генерировать улучшение.
И если мы переключим внимание с разработки ИИ на безопасность блокчейна, то увидим, что появляется похожая структура. Прошлые системы безопасности были в основном линейными: система разрабатывалась, проходила аудит, запускалась в работу; при возникновении проблем выполнялось исправление, после чего снова начинался следующий раунд аудита.
Весь процесс в основном состоял из периодических проверок, а возможности безопасности обеспечивались в основном экспертизой и периодическими оценками.
Но по мере того как ИИ начинает участвовать в анализе уязвимостей, эта структура меняется.
Всё больше работ по идентификации рисков перестают ограничиваться фиксированным моментом времени и становятся постоянной способностью в процессе работы системы.
Система работает и генерирует данные, ИИ постоянно анализирует данные и состояние кода, потенциальные риски идентифицируются заранее, команда разработчиков устраняет их, обновлённая система снова входит в аналитический цикл.
Этот процесс имеет высоко схожую структуру с исследовательским маховиком, описанным Anthropic.
Разница в том, что цели оптимизации разные. Первое фокусируется на росте возможностей, второе — на контроле рисков; первое пытается повысить эффективность разработки, второе — эффективность обнаружения и устранения рисков.
С этой точки зрения, «рекурсивное самоулучшение», предложенное Anthropic, применимо не только к системе разработки ИИ, оно фактически предлагает новый взгляд на эволюцию сложных систем: когда система начинает постоянно участвовать в собственной оптимизации, петля обратной связи становится важной движущей силой её развития.
А в области безопасности блокчейна формируется похожая структура обратной связи.
Работа системы генерирует новые данные и изменения состояния, ИИ постоянно анализирует эти изменения, потенциальные риски идентифицируются заранее, команда разработчиков выполняет исправления и оптимизацию, а обновлённая система снова входит в следующий раунд анализа и верификации.
Этот механизм непрерывного обнаружения, исправления и верификации заметно отличается от традиционной модели безопасности.
Для описания этой возникающей тенденции WEEX Labs называет её:
Рекурсивная безопасность.
Здесь «рекурсивность» означает не то, что система может автоматически устранять все риски, а то, что возможности безопасности начинают постоянно усиливаться за счёт непрерывной обратной связи.
Другими словами, безопасность постепенно превращается из разовой проверки в постоянно работающую системную способность.
Почему безопасность станет первой отраслью, которую ИИ радикально изменит
Когда универсальная технология начинает проникать в производственную систему общества, она обычно не меняет все отрасли одновременно.
Исторически, будь то интернет, облачные вычисления или мобильные технологии, они всегда сначала оказывали структурное влияние на определённые области, а затем постепенно распространялись на более широкие индустрии. Развитие ИИ следует той же закономерности.
Возникает вопрос: если ИИ обладает такой широкой применимостью, почему одна из самых заметных перемен последних лет в первую очередь проявилась именно в области безопасности?
Ответ, возможно, кроется в сути работы по безопасности.
Вопреки распространённому мнению, суть работы по безопасности заключается не в создании новых систем, а в понимании уже существующих. Будь то аудит кода, анализ уязвимостей, обнаружение аномалий или моделирование путей атаки — по своей сути всё это поиск тех моделей поведения в сложных системах, которые не соответствуют ожиданиям.
У такой работы есть общая черта: необходимо обрабатывать огромное количество информации, но искать лишь крайне небольшое количество аномальных точек.
Для исследователей-людей это чрезвычайно трудоёмкая задача. Крупный протокол может содержать сотни тысяч строк кода, сотни модулей и бесчисленные потенциальные пути взаимодействия, в то время как реальные проблемы, приводящие к рискам, часто скрыты в очень небольшой части этой логики. Исследователям приходится тратить много времени на чтение, понимание, верификацию и исключение ложных следов, чтобы в итоге определить действительно важные проблемы.
А с точки зрения обработки информации, это как раз та проблема, которую ИИ решает лучше всего.
Сила больших моделей заключается не только в генерации контента, но и в способности одновременно обрабатывать огромные объёмы контекста и устанавливать связи в сложной информации. Они могут быстро понимать структуру системы, отслеживать логические цепочки и искать потенциальные несоответствия между несколькими уровнями.
Для индустрии безопасности это означает появление новой способности.
Раньше узким местом в работе по безопасности обычно была недостаточная аналитическая способность; в будущем узким местом может стать способность к верификации и принятию решений.
Другими словами, ИИ снижает стоимость «обнаружения проблем», а люди всё больше сосредотачиваются на определении того, действительно ли эти проблемы существуют, какова их степень риска и как на них следует реагировать.
Это изменение особенно заметно в блокчейн-индустрии.
С развитием решений второго уровня, модульных архитектур, межсетевых протоколов и систем доказательств с нулевым разглашением, блокчейн-сети уже не являются просто одиночными ончейн-программами, а представляют собой сложные системы, состоящие из нескольких технологических слоёв. Каждый новый модуль усиливает функциональность системы, но одновременно расширяет и потенциальную поверхность для атак.
Исторический опыт показывает, что сложность почти всегда является источником рисков.
Чем сложнее система, тем труднее провести её полную верификацию чисто человеческими силами; а чем труднее верифицировать систему, тем больше она нуждается в новых инструментах, помогающих людям понять скрытые в ней риски.
Таким образом, то, что ИИ в первую очередь влияет на индустрию безопасности, не случайно.
Это происходит не потому, что индустрию безопасности легче всего изменить, а потому, что она острее всего нуждается в инструменте, расширяющем познавательные способности. Когда скорость роста сложности систем превышает скорость роста человеческих аналитических способностей, новая вспомогательная система появляется естественным образом.
С этой точки зрения, случай с Zcash — не изолированный пример, а скорее ранний намёк на будущие тенденции.
По мере постоянного усиления возможностей моделей ИИ в будущем может участвовать не только в обнаружении уязвимостей, но и в более сложных задачах, таких как оценка протоколов, прогнозирование рисков, моделирование путей атаки и постоянный мониторинг. А это означает, что система безопасности постепенно переходит от традиционной модели, движимой человеческими силами, к новой модели сотрудничества, состоящей из ИИ и людей.
Именно в этом контексте индустрия безопасности стала одной из первых областей, где проявились рекурсивные эволюционные черты.
Потому что в отличие от создания контента, генерации изображений или ответов на вопросы, суть работы по безопасности ближе к пониманию сложных систем. А понимание сложных систем — это именно то направление, где большие модели начинают приносить ценность по мере роста их возможностей.
Жизненный цикл уязвимости переосмысляется
Если ИИ меняет индустрию безопасности, то первое, что меняется, — это не сама уязвимость, а весь её жизненный цикл: от появления до устранения.
Долгое время индустрия программного обеспечения следовала относительно фиксированному процессу обеспечения безопасности. После запуска система проходила периодические аудиты, получала сообщения об уязвимостях, отзывы сообщества и анализ исследователей безопасности для выявления потенциальных рисков. Затем команда разработчиков проводила верификацию и исправление, выпуская обновление версии для решения проблемы.
Эта модель хорошо работала последние десятилетия, но по своей сути она линейна.
Уязвимость обнаруживается, верифицируется, устраняется; каждый этап имеет чёткие границы и сильно зависит от человеческого участия. И периодичность аудита, и скорость реакции ограничены человеческими ресурсами и профессиональными возможностями.
Однако, когда ИИ начинает участвовать в анализе безопасности, эта линейная цепочка постепенно превращается в систему с непрерывной циклической обратной связью.
Раньше процесс безопасности выглядел примерно так:
Разработка -> аудит -> запуск системы -> обнаружение уязвимости в процессе работы -> процесс исправления -> возврат к стабильному состоянию.
А с участием ИИ анализ безопасности перестаёт ограничиваться одним моментом времени.
Данные, генерируемые в процессе работы системы, записи об обновлениях кода и информация об изменениях состояния могут постоянно включаться в сферу анализа. Обнаружение рисков превращается из разового действия в непрерывный процесс, скорость верификации уязвимостей постоянно растёт, а предложения по исправлению могут генерироваться быстрее.
Это означает, что система безопасности начинает обладать способностью, которую раньше было трудно реализовать — постоянно наблюдать за собственным состоянием.
В традиционной модели уязвимость могла существовать месяцы или даже годы до её обнаружения; в модели рекурсивной безопасности система постоянно находится в состоянии анализа, и период воздействия риска значительно сокращается.
Важность этого изменения выходит далеко за рамки простого повышения эффективности аудита.
Потому что для большинства инцидентов безопасности реальный масштаб ущерба часто определяется не наличием уязвимости, а тем, как долго она существовала до её обнаружения.
Если критической уязвимости требуется год, чтобы быть обнаруженной, у неё достаточно времени, чтобы быть использованной атакующим; а если та же уязвимость обнаруживается за несколько дней или даже часов, уровень риска кардинально меняется.
Таким образом, ИИ меняет не просто инструменты безопасности, а временное измерение в системе безопасности.
Раньше индустрия стремилась «обнаружить уязвимость».
В будущем индустрия, возможно, будет больше фокусироваться на «сокращении времени существования уязвимости».
Этот сдвиг будет способствовать дальнейшему развитию систем безопасности в сторону модели непрерывного мониторинга.
В будущем запуск протокола не будет означать переход в так называемое «безопасное состояние», а скорее в состояние постоянного анализа. Каждое обновление системы, каждый новый модуль и каждое изменение ключевых параметров могут запускать новый процесс оценки рисков.
В этом смысле безопасность всё больше будет походить на работающую в реальном времени инфраструктуру, а не на разовую работу, выполняемую перед запуском.
Это изменение также объясняет, почему «рекурсивная безопасность» не означает исчезновения уязвимостей.
Фактически, любую сложную систему невозможно полностью избавить от уязвимостей.
Настоящее изменение происходит в отношениях между системой и уязвимостями.
Раньше система безопасности в основном реагировала на уже проявившиеся уязвимости; в будущем система безопасности постепенно приобретает способность к активному обнаружению, постоянному анализу и быстрой обратной связи.
Когда скорость обнаружения рисков продолжает расти, а жизненный цикл уязвимостей постоянно сокращается, понимание «безопасности» всей индустрией также будет меняться.
Безопасность перестанет быть просто шагом, который нужно выполнить перед запуском проекта, и станет постоянной способностью, пронизывающей весь жизненный цикл системы.
Именно это является основным механизмом, который начинает действовать в рекурсивной безопасности.
Риски и выводы для индустрии
Когда ИИ начинает внедряться в систему безопасности, легко возникает заблуждение: будущие системы станут безопаснее.
На самом деле, всё не так просто.
Оглядываясь на историю технологического развития последних десятилетий, каждая важная революция в инструментах одновременно усиливала возможности как защитников, так и атакующих. Интернет снизил стоимость получения информации, но также снизил и стоимость распространения атак; облачные вычисления повысили масштабируемость систем, но и расширили область воздействия атак. Изменения, привносимые ИИ, также следуют этой закономерности.
Он повышает не только возможности по безопасности, но и способность всей системы «атака-защита» обрабатывать информацию.
Для защитников ИИ может помочь анализировать огромные объёмы кода, обнаруживать аномальную логику, строить тестовые сценарии и прогнозировать потенциальные риски. Многие задачи, на которые раньше командам безопасности требовались недели, теперь могут быть предварительно проверены за гораздо более короткое время.
Но в то же время у атакующих есть те же технологические инструменты.
Теоретически, любая модель, которая может помочь исследователям найти уязвимости, также может помочь атакующим найти пути атаки; любая возможность, используемая для анализа протокола, также может быть использована для поиска слабых мест системы. ИИ по своей природе не на стороне защитников, он просто повышает эффективность понимания сложных систем обеими сторонами.
Следовательно, самое важное изменение в будущем индустрии безопасности, возможно, будет не в уменьшении рисков, а в ускорении скорости их проявления.
С этой точки зрения, проблемы безопасности в эпоху ИИ можно свести к четырём основным аспектам.
Первый — технологические риски.
По мере роста аналитических возможностей ИИ многие исторические проблемы и скрытые недостатки могут быть вновь обнаружены. Некоторые риски, которые раньше из-за высокой сложности долгое время оставались без внимания, постепенно будут выявляться. Это означает, что в ближайшие годы количество обнаруживаемых уязвимостей может не уменьшиться, а даже временно увеличиться.
Второй — риски сложности.
Направление развития блокчейн-индустрии постоянно повышает сложность систем. Модульные архитектуры, межсетевое взаимодействие, масштабирование второго уровня и технологии доказательств с нулевым разглашением строят всё более обширные инфраструктурные сети. Повышение сложности означает усиление функциональности, но одновременно и расширение поверхностей риска.
Третий — риски способности реагировать.
Если скорость обнаружения уязвимостей продолжит расти, а способность проектов к управлению, разработке и обновлению не будет развиваться синхронно, возникнет новое узкое место. Ключевым фактором, определяющим уровень безопасности в будущем, может стать не возможность обнаружения проблем, а возможность их быстрого решения.
Четвёртый — риски управления.
Для децентрализованных систем решение технических проблем часто выходит за рамки инженерных задач. Многие критические обновления требуют обсуждения в сообществе, голосования по управлению и даже координации в экосистеме. Когда ИИ сжимает цикл проявления рисков до более коротких временных масштабов, способность системы управления успевать за техническими изменениями станет новой проблемой.
Эти риски не исчезнут автоматически с появлением ИИ.
Напротив, они усиливаются, ускоряются и перестраиваются.
Но одновременно формируется и новая парадигма безопасности.
Всё больше проектов переходят от «периодического аудита» к «непрерывному мониторингу»; всё больше команд разработчиков внедряют инструменты автоматической верификации, формальной верификации и аудита с помощью ИИ; всё больше работ по безопасности превращаются из разовых проверок в долгосрочные работающие механизмы.
Суть этого изменения не в том, чтобы сделать систему абсолютно безопасной.
А в том, чтобы способность управлять рисками стала частью самой системы.
Раньше уровень безопасности проекта часто определялся тем, сколько раз он проходил аудит; в будущем уровень безопасности проекта, возможно, будет больше зависеть от его постоянной способности обнаруживать риски, реагировать на них и устранять их.
Для всей индустрии это означает изменение измерений конкуренции.
Будущие ведущие протоколы не обязательно будут протоколами с наименьшим количеством уязвимостей, а скорее протоколами, которые быстрее всех обнаруживают риски, эффективнее их устраняют и обладают наибольшей устойчивостью системы.
Именно к этому направлению и указывает рекурсивная безопасность.
Её цель никогда не заключалась в устранении рисков, а в постоянном повышении способности системы справляться с ними.
В заключение
Если совместить исследование Anthropic о «рекурсивном самоулучшении» с недавним инцидентом с уязвимостью в Zcash, можно заметить, что хотя они происходят в разных областях, оба указывают на одну и ту же тенденцию.
ИИ превращается из инструмента в участника процесса работы сложных систем.
В области исследований он начинает помогать людям проектировать эксперименты, писать код, анализировать результаты и оптимизировать модели; в области безопасности он начинает помогать людям понимать системы, обнаруживать риски и проверять проблемы.
Важнейшее значение этого изменения заключается не в единичном прорыве возможностей, а в формировании новой структуры обратной связи.
Система начинает участвовать в собственной оптимизации.
Разработка приобретает способность к постоянному ускорению.
Безопасность приобретает способность к постоянной эволюции.
И когда эти две способности появляются одновременно, вся технологическая индустрия вступает в новую фазу развития.
Для криптоиндустрии это изменение особенно важно.
За последние десять с лишним лет одной из самых обсуждаемых проблем в индустрии всегда была безопасность. Будь то уязвимости смарт-контрактов, атаки на мосты или недостатки в криптографических реализациях, всё это отражает одну реальность: скорость роста сложности систем часто опережает скорость обнаружения рисков человеком.
А ИИ меняет это соотношение.
Он не обязательно может устранить уязвимости и не гарантирует абсолютную безопасность системы, но он помогает индустрии понимать сложные системы с беспрецедентной эффективностью и сокращать время между возникновением риска и его обнаружением.
Возможно, это одно из самых важных изменений в ближайшие годы.
Потому что во всё более сложном цифровом мире действительно дефицитным ресурсом становится не только вычислительная мощность, капитал или код, а способность обнаруживать проблемы.
Тот, кто сможет раньше распознать риск и быстрее на него отреагировать, сможет сохранить большую стабильность в постоянно меняющейся среде.
С этой точки зрения, обнаружение уязвимости Zcash в Claude, возможно, не является изолированным событием.
Это скорее ранний сигнал об изменении эпохи.
Сигнал о том, что ИИ начинает внедряться в систему безопасности, начинает участвовать в обнаружении рисков и постепенно преобразовывает способ функционирования индустрии.
Рекурсивная безопасность, возможно, ещё не стала широко принятым отраслевым термином, но явление, которое она описывает, уже начинает проявляться.
Будущая система безопасности перестанет быть просто разовым аудитом перед запуском или экстренным реагированием после появления уязвимости.
Она всё больше будет походить на систему, которая работает непрерывно, постоянно получает обратную связь и постоянно развивается.
А то, что мы наблюдаем, возможно, является именно началом этого процесса.
Если вам также интересно пересечение ИИ и крипто, подписывайтесь на нас — WEEX Labs, мы ежедневно делимся новостями о передовых технологиях ИИ!
Больше интересного контента в X:@WEEXAILabs Глубокие статьи на Medium:@WEEXLabs_cn
