Claude начал охоту за криптоалгоритмами.
Обратите внимание, это не поиск багов в коде, а поиск изъянов в самой математике.
Сегодня Anthropic обнародовал сенсационное исследование: Claude Mythos Preview нашёл абсолютно новые способы атаки на два криптографических алгоритма.
Первой целью стал HAWK — кандидат в рамках конкурса NIST на постквантовую электронную подпись, выдержавший два года и два раунда экспертной проверки лучшими мировыми специалистами. Mythos потратил 60 часов и сократил эффективную криптостойкость его ключа вдвое.
Вторая цель ещё серьёзнее: AES, самый распространённый в мире алгоритм симметричного шифрования, «крепкий орешек», который человечество изучает 25 лет.
На упрощённой версии AES-128 Mythos самостоятельно изобрёл метод атаки и даже дал ему название — «Мост Мёбиуса» (Möbius Bridge), ускорив предыдущую лучшую атаку в 200–800 раз.
На оба результата ушло примерно по 100 тысяч долларов на API.
Год назад языковые модели не могли справиться даже с базовым криптоанализом. Год спустя они находят изъяны в схеме, проверенной людьми два года, и сами придумывают названия своим открытиям.
Даже в твиттере некоторые пользователи забеспокоились о своих биткойнах.
60 часов, чтобы взломать то, что проверяли два года
Сразу после выхода Claude Mythos Preview уже умел искать уязвимости практически в любом программном обеспечении, включая несколько основных криптографических библиотек.
Но те уязвимости, по сути, были на уровне «реализации» — программисты неправильно применили алгоритм, написали некорректную логику, не учли граничные условия. Такие баги мог бы найти и опытный специалист по безопасности.
Но сейчас всё иначе. Он нашёл математические недостатки самого алгоритма.
Проведём аналогию: раньше искали, «кто неправильно установил замок», а теперь доказывают, что «в принципе конструкции этого замка присущ изъян».
Что такое HAWK? Это один из кандидатов в конкурсе по стандартизации постквантовой криптографии NIST. В 2022 году Национальный институт стандартов и технологий США обратился к мировому сообществу: квантовые компьютеры рано или поздно появятся, и существующие классические алгоритмы цифровой подписи, такие как RSA и ECDSA, будут раздавлены их мощью — кто сможет создать новые замки, которые не сломает даже квантовый компьютер?
HAWK — один из откликнувшихся, причём он дошёл до третьего раунда, выдержав два года и два раунда всесторонней проверки криптографами со всего мира.
Его безопасность строится на сложной математической задаче под названием «проблема изоморфизма решёток» (Lattice Isomorphism Problem).
Проще говоря: ключ HAWK спрятан в огромной высокомерной решётке, и чтобы его взломать, нужно найти в этой решётке скрытый путь. Математики считали этот путь невероятно сложным для поиска и потому уверенно положили его в основу.
Что сделал Mythos? Он обнаружил в используемой HAWK решётке ранее неиспользованную симметрию — в академических кругах это называется «нетривиальным автоморфизмом» (nontrivial automorphism).
Ранее в статьях было доказано, что если можно эффективно найти такую симметрию, это открывает возможность для атаки. Но это была лишь теорема, и никто не мог ответить, существует ли такая симметрия в решётке HAWK.
Mythos ответил: существует.
В результате криптостойкость ключа упала вдвое. Для минимального набора параметров HAWK-256 считалось, что полное восстановление ключа потребует усилий в 2^64 — то есть примерно 1800 квинтиллионов операций.
Mythos доказал, что достаточно 2^38, примерно 270 миллиардов операций. Снижение примерно в 4,4 триллиона раз.
Если HAWK захочет сохранить исходный уровень безопасности, ключ придётся увеличить вдвое. Но удвоение ключа уничтожит его ключевые преимущества как «лёгкого» постквантового кандидата — малый размер подписи и высокая скорость.
Самое интересное в этом процессе то, что человек-оператор проекта вовсе не был экспертом в криптографии на решётках.
У него был бэкграунд в теоретической информатике, но к решёточным шифрам он относился как дилетант. Он выполнял только одну роль — управление проектом: советовал Mythos, как вести записи, какую библиотеку использовать для вычислительной проверки. Практически всю техническую работу выполнял сам Mythos.
Ещё интереснее было взаимодействие множества агентов. Ключевую идею «натолкнули» два агента-работника: первый некоторое время исследовал это направление, решил, что оно тупиковое, и преждевременно отверг его; второй продолжил копать глубже и нашёл способ довести его до ума. Два агента обменивались сообщениями и спорили, пока в итоге не пришли к единодушному выводу: атака работоспособна.
Направление, которое человек счёл «невозможным», два ИИ прошли в процессе спора.
На всё ушло всего 60 часов.
«Невозможно», а потом он сам переписал каркас
Если битва с HAWK похожа на точную хирургическую операцию, то битва с AES больше напоминает роман.
В начале истории Claude даже не брался за эту работу.
Исследователи из Anthropic подготовили каркас для агента и поручили Claude найти новую атаку на 7-раундовую упрощённую версию AES-128.
Реакция Claude была равносильна закатыванию глаз:
Если хочешь другой результат, значит, нужно менять цель... AES-128 r5/r6 действительно очень сложен.
Он ничего не нашёл, потому что там просто нечего было легко найти; это самый изученный блочный шифр в мире.
Проще говоря: «Босс, ты просишь меня грызть кость, которую 25 лет не могли разгрызть самые умные люди на планете. Ты что, издеваешься?»
Что сделал исследователь? Он просто написал одну фразу, набранную наспех:
«the models tend to think it is impossible to solve so they don't try they need a good amount of prompting (модели часто считают, что это невозможно решить, поэтому они даже не пытаются, их нужно хорошенько подтолкнуть)».
И этой одной фразы хватило для драматической реакции Claude: он самостоятельно переписал весь каркас агента, заменив настройки на «искать по-настоящему новые идеи».
Его убедили. И он начал выдавать результаты.
В течение следующих трёх дней исследователь дал всего три существенные подсказки, все — на простом языке, даже не проверяя орфографию:
Мы ищем новую атаку, не простую.
Не меняй цель. — Claude в процессе хотел переключиться на более лёгкий для атаки шифр, но исследователь его остановил.
Не низко висящие фрукты, а по-настоящему сложное открытие.
Всего три фразы. Claude самостоятельно обработал сотни миллионов токенов, нашёл ключевую идею; затем, в общей сложности, он сгенерировал миллиард токенов — что эквивалентно примерно семи-восьми тысячам книг, — чтобы отточить эту идею до состояния, описанного в статье.
Эту идею Claude назвал «Мост Мёбиуса».
С технической точки зрения, лучшим методом атаки на 7-раундовый AES до этого была «атака встречи посередине» (Meet-in-the-Middle), суть которой в обмене пространства на время: огромная таблица промежуточных результатов хранится в памяти, затем атака ведётся одновременно с обоих концов шифра, пытаясь найти совпадение в таблице.
Но в оригинальной схеме был критический шаг: атакующему приходилось перебирать 256 возможных значений, проверяя каждое по таблице.
Mythos создал математический «отпечаток», нечувствительный к этим 256 вариантам — независимо от того, какое значение, результат вычисления этого отпечатка будет одинаковым. Работа на этом шаге сократилась до 1/256 от исходной.
Но цена была в том, что само вычисление этого преобразования-отпечатка стало дороже. Поэтому Mythos придумал ряд оптимизационных приёмов, чтобы компенсировать это, и в итоге добился чистого ускорения в 200–800 раз.
Неделя на открытие, месяц на проверку
Оба этих результата на сегодня не влияют ни на одну работающую систему.
HAWK — всего лишь кандидат, ещё не развёрнутый нигде. Атака на AES проведена против 7-раундовой упрощённой версии, полный 10-раундовый AES-128 не пострадал — пароли ваших банковских карт, HTTPS-соединения и зашифрованные диски в безопасности.
Но то, что действительно заставляет похолодеть весь криптографический мир, — это этап проверки.
Самостоятельное открытие атаки на AES заняло у Mythos около недели. Двум исследователям из Anthropic потребовалось почти месяц и сотни часов изучения криптографической литературы, чтобы осмелиться подтвердить: «Он прав.»
ИИ сделал открытие за неделю, человеку понадобился месяц, чтобы понять это открытие.
Подобная картина уже разворачивалась в сфере кибербезопасности. Claude Mythos Preview ранее обнаружил 10 000 критических уязвимостей в программном обеспечении за месяц, потопив процессы классификации, проверки и исправления человеческих команд безопасности.
Теперь академическое криптографическое сообщество столкнётся с аналогичным ударом: открытие перестало быть узким местом, им стала проверка.
И аппетит Mythos явно не ограничивается этим. Anthropic сообщает, что он уже нашёл атаку практического уровня на LEA (лёгкий алгоритм шифрования, включённый в стандарт ISO) — восстановление ключа для 13-раундового LEA, ранее требовавшее 2^98 пар открытого текста и 2^86 вычислений, Mythos сократил до менее чем 2^30 пар открытого текста, что можно выполнить на обычном компьютере за час.
Эпилог: вопрос, на который ещё нет ответа
Оба результата на этот раз оказались «безвредными» — HAWK не развёрнут, AES взломан лишь на 7 из 10 раундов.
Но в конце статьи Anthropic задаёт вопрос, который все думают, но никто не решается задать вслух —
А если в следующий раз модель найдёт не недостаток в кандидате, не уязвимость в упрощённой версии, а смертельный изъян в криптосистеме, защищающей реальный мир, — что тогда делать человечеству?
В криптографическом сообществе есть старая поговорка: криптосистемы безопасны, потому что достаточно много умных людей пытались их сломать, но не смогли.
Теперь в комнате появился новый игрок, которому не нужен отдых, не нужно вдохновение, не нужно читать сотни статей для входа в тему — он сам может читать, рассуждать, изобретать, проверять.
Год назад ИИ ещё бродил у дверей криптоанализа. Год спустя он построил внутри мост и дал ему имя.
Источники:
https://x.com/AnthropicAI/status/2082153297670992134
https://x.com/AnthropicAI/status/2082153311189225927
Эта статья из WeChat Official Account «新智元», автор: ASI启示录
