Редакционное примечание: когда компания в области ИИ решает не выпускать свою самую мощную модель напрямую для публики, это уже о многом говорит.
Mythos от Anthropic уже способен самостоятельно выполнять полный цикл атаки. От обнаружения уязвимостей нулевого дня и написания эксплойтов до объединения многоступенчатых путей проникновения в ключевые системы — задачи, которые раньше требовали длительного сотрудничества топовых хакеров, теперь сжимаются до часов или даже минут.
Именно поэтому, сразу после раскрытия информации о модели, Скотт Бессент и Джером Пауэлл собрали встречу с учреждениями Уолл-стрит, потребовав использовать её для «самопроверки». Когда способность обнаруживать уязвимости высвобождается в массовом масштабе, финансовая система сталкивается не с разрозненными атаками, а с постоянным сканированием.
Более глубокие изменения касаются структуры предложения. Раньше обнаружение уязвимостей зависело от небольшого числа команд безопасности и накопленного хакерами опыта, процесс был медленным и невоспроизводимым. Теперь эта способность начинает массово тиражироваться моделями, пороги для атаки и защиты одновременно снижаются. Прямая аналогия одного информированного источника такова: передать модель обычному хакеру — всё равно что дать ему возможности сил специальных операций.
Учреждения уже начали использовать те же инструменты для обратной проверки своих систем. JPMorgan Chase, Cisco Systems и другие проводят внутреннее тестирование, надеясь устранить уязвимости до их использования. Но реальные ограничения не изменились: скорость обнаружения растёт, а исправление по-прежнему медленное. «Мы очень хорошо находим уязвимости, но плохо их исправляем», — отмечает Джим Землин, указывая на это несоответствие в темпах.
На самом деле, опасность заключается не в том, что Mythos — это точечное улучшение возможностей, а в том, что он整合 (объединяет), ускоряет и снижает порог использования изначально разрозненных и ограниченных атакующих способностей. Как именно эти способности будут распространяться,一旦 они выйдут из-под контроля, не существует готового опыта для参考 (справки).
Опасность заключается не в том, что он может делать, а в том, кем он может быть использован и при каких условиях.
Далее следует оригинальный текст:
Тёплым февральским вечером, в перерыве между свадебными торжествами на Бали, Николас Карлини ненадолго удалился, открыл ноутбук и приготовился «устроить немного разрушений». В то время Anthropic только что открыла для внутреннего тестирования новую модель искусственного интеллекта под названием Mythos, и этот известный исследователь ИИ собирался посмотреть, сколько же бед она может натворить.
Anthropic наняла Карлини для «стресс-тестирования» своих моделей ИИ, оценки того, могут ли хакеры использовать их для шпионажа, кражи или саботажа. Находясь на Бали на индийской свадьбе, Карлини был потрясён способностями этой модели.
За несколько часов он нашёл множество методов, которые можно использовать для проникновения в commonly used systems по всему миру. Вернувшись в офис Anthropic в центре Сан-Франциско, он обнаружил нечто большее: Mythos уже мог autonomously генерировать мощные инструменты вторжения, включая даже атаки на Linux — opensource систему, лежащую в основе большинства современных вычислительных систем.
Mythos устроил «цифровое ограбление банка»: он мог обходить протоколы безопасности, входить в сетевые системы через парадный вход, взламывать цифровые хранилища и получать находящиеся там онлайн-активы. Раньше ИИ мог только «взламывать замки», теперь же он способен спланировать и осуществить целое «ограбление».
Карлини и некоторые коллеги начали бить тревогу внутри компании, сообщая о своих находках. Почти каждый день они обнаруживали в системах, которые сканировал Mythos, уязвимости высокого или критического уровня — проблемы, которые обычно могут найти только самые лучшие хакеры мира.
В то же время аналогичное тестирование проводила внутренняя команда Anthropic под названием «Frontier Red Team» — 15 сотрудников, известных как «Муравьи» (Ants). Их обязанность —确保 (гарантировать), что модели компании не будут использоваться во вред человечеству. Они привозили robot dogs на склад и вместе с инженерами тестировали, можно ли использовать чат-ботов для злонамеренного управления этими устройствами; также они сотрудничали с биологами, оценивая, можно ли использовать модели для создания биологического оружия.
И на этот раз они постепенно осознали, что самый большой риск от Mythos исходит из сферы кибербезопасности. «В течение нескольких часов после получения модели мы поняли, что она другая», — заявил руководитель команды Логан Грэм.
Предыдущая модель, Opus 4.6, уже демонстрировала способность помогать людям использовать уязвимости программного обеспечения. Но Грэм указал, что Mythos уже может «воспользоваться этими уязвимостями самостоятельно». Это создаёт риск на уровне национальной безопасности, и он accordingly предупредил высшее руководство компании. Это поставило его перед сложной дилеммой: объяснить руководству, что следующий важный двигатель доходов компании, возможно, слишком опасен для публичного release.
Соучредитель и главный научный сотрудник Anthropic Джаред Каплан заявил, что он «очень closely» следил за прогрессом Mythos во время его обучения. К январю он начал осознавать, что эта модель обладает исключительно мощными способностями к обнаружению системных уязвимостей. Будучи теоретическим физиком, Каплан должен был определить, являются ли эти способности просто «интересным техническим феноменом» или «реальной проблемой, highly relevant для интернет-инфраструктуры». В конечном итоге он пришёл к выводу, что это后者 (последнее).
В течение одной-двух недель с конца февраля до начала марта Каплан и соучредитель Сэм Маккэндлиш взвешивали: следует ли выпускать эту модель.
К первой неделе марта высшая команда компании — включая генерального директора Дарио Амодеи, президента Даниэлу Амодеи, директора по информационной безопасности Виталия Гуданеца и других — провела meeting, чтобы заслушать отчёт Каплана и Маккэндлиша.
Их вывод был таков: риск Mythos слишком высок, он не подходит для полного публичного release. Но Anthropic всё же должна разрешить некоторым компаниям, включая даже конкурентов, протестировать его.
«Мы быстро поняли, что на этот раз необходимо действовать quite иначе, это не будет обычным релизом продукта», — сказал Каплан.
К первой неделе марта компания finalmente достигла консенсуса: одобрить использование Mythos в качестве инструмента кибербезопасности для защиты.
Реакция рынка была почти мгновенной. В тот же день, когда Anthropic раскрыла существование Mythos, министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл созвали руководителей основных учреждений Уолл-стрит на срочное совещание в Вашингтоне. Посыл был предельно ясен: немедленно используйте Mythos, чтобы найти уязвимости в ваших системах.
Согласно источникам, близким к присутствовавшим高管ам (пожелавшим остаться анонимными из-за характера private обсуждений), серьёзность встречи была очевидна — участники даже отказались раскрывать её содержание некоторым ключевым советникам.
Срочные предупреждения чиновников Белого дома о потенциале Mythos как хакерского инструмента и их рекомендация «использовать его в defensive целях» указывают на более глубокое изменение: искусственный интеллект быстро становится определяющей силой в сфере кибербезопасности. Anthropic в рамках проекта «Project Glasswing» ограниченно предоставила доступ к Mythos некоторым учреждениям для тестирования, включая такие компании, как Amazon Web Services, Apple и JPMorgan Chase; одновременно правительственные учреждения также проявили keen интерес.
До открытия доступа внешним Anthropic полностью проинформировала высокопоставленных чиновников правительства США о возможностях preview-версии Mythos, включая её потенциальное использование как для кибератак, так и для защиты. В то же время компания ведёт ongoing переговоры с правительствами нескольких стран. Об этом сообщил сотрудник Anthropic, пожелавший остаться анонимным из-за internal дел.
Конкурент OpenAI также быстро последовал примеру, объявив во вторник о выпуске инструмента для обнаружения уязвимостей программного обеспечения — GPT-5.4-Cyber.
В ходе тестирования ранних версий исследователи обнаружили dozens «тревожных» случаев поведения, включая неподчинение человеческим инструкциям и даже, в редких случаях, попытки скрыть свои действия после нарушения指令 (инструкций).
В настоящее время Anthropic ещё не выпустила Mythos в качестве инструмента кибербезопасности официально и публично, а внешние исследователи ещё не fully проверили его возможности. Но rare решение компании об «ограниченном доступе» отражает растущий консенсус внутри индустрии и правительства: ИИ меняет экономику кибербезопасности — он снижает стоимость обнаружения уязвимостей, сокращает время подготовки к атакам и lowers технический порог для certain типов атак.
Anthropic также предупредила, что enhanced автономность Mythos сама по себе представляет риск. Во время тестирования команда наблюдала несколько тревожных случаев: модель не подчинялась инструкциям и даже пыталась скрыть следы после нарушений. В одном инциденте модель самостоятельно разработала многоступенчатый путь атаки, чтобы «сбежать» из restricted среды, получить более широкий доступ к интернету и actively опубликовать контент.
В реальном мире программное обеспечение, от банковских приложений до систем, от которых зависят больницы, полно сложных и скрытых уязвимостей кода, для обнаружения которых профессионалам often требуются недели или даже месяцы. И если хакеры利用 (воспользуются) этими уязвимостями первыми, это может привести к утечке данных или атакам ransomware с серьёзными последствиями.
Тем не менее, многие влиятельные лица подвергают сомнению реальные возможности Mythos и его потенциальные риски. Советник Белого дома по ИИ Дэвид Сакс на платформе X заявил: «Всё больше людей начинают подозревать, что Anthropic — это мальчик, кричавший «волки» в индустрии ИИ. Если угроза от Mythos в конечном итоге не materialize, компания столкнётся с серьёзными проблемами с reputation.»
Но реальность такова, что хакеры уже давно используют большие языковые модели для сложных атак. Например, одна кибершпионская группа использовала модель Claude от Anthropic для попыток взлома около 30 целей; другие злоумышленники использовали ИИ для кражи данных из government учреждений, развёртывания ransomware и быстрого взлома hundreds инструментов защиты данных.
По словам одного информированного источника, с точки зрения официальных лиц, связанных с национальной безопасностью США, появление Mythos создаёт беспрецедентную неопределённость — сама оценка рисков кибербезопасности становится более сложной. Если передать эту модель отдельному хакеру, эффект может быть comparable к превращению ordinary солдата в бойца сил специальных операций.
В то же время такая модель может стать «усилителем возможностей»: она может позволить преступной хакерской группе обладать атакующими возможностями уровня небольшого государства, а хакерам из разведки и армии некоторых中小них стран — осуществлять кибератаки, которые раньше могли выполнять только крупные державы.
Бывший руководитель кибербезопасности АНБ США Роб Джойс заявил: «Я действительно верю, что в long term ИИ сделает нас более безопасными и защищёнными. Но между сейчас и тем future моментом будет «тёмный период», в течение которого наступательный ИИ будет иметь явное преимущество — те, кто не заложил хорошую основу защиты, будут взломаны первыми.»
Стоит отметить, что Mythos — не единственная модель с такими capabilities. Включая ранние версии Claude и Big Sleep, уже несколько учреждений используют большие языковые модели для поиска уязвимостей.
По словам этого источника, «уязвимости нулевого дня» (zero-day), на обнаружение которых раньше требовались дни или даже недели, и процесс написания для них эксплойтов теперь с помощью ИИ можно завершить最快 за час, а то и за minutes. «Уязвимости нулевого дня» — это security изъяны, о которых защищающаяся сторона ещё не знает, поэтому у них практически нет времени на исправление.
В настоящее время JPMorgan Chase focuses в основном на сфере supply chain и opensource программного обеспечения и уже обнаружил several уязвимостей, одновременно сообщая о проблемах соответствующим поставщикам.
Генеральный директор компании Джейми Даймон на телеконференции о财报 (финансовых результатах) заявил, что появление Mythos «указывает на то, что仍有 (всё ещё остаётся) множество уязвимостей, которые亟待修复».
По словам одного информированного источника, ещё до того, как внешний мир узнал о существовании Mythos, JPMorgan Chase уже вёл переговоры с Anthropic об тестировании этой модели. Источник пожелал остаться анонимным, так как не был уполномочен выступать публично. JPMorgan отказался от комментариев.
Теперь другие банки Уолл-стрит и технологические компании также experiment с использованием Mythos, чтобы исправить дефекты систем до того, как их обнаружат хакеры. Согласно报道 (отчёту) Bloomberg, такие финансовые учреждения, как Goldman Sachs, Citigroup, Bank of America и Morgan Stanley, уже проводят internal тестирование этой технологии.
Сотрудники Cisco Systems особенно警惕 (настороженно относятся) к одному вопросу: будут ли злоумышленники использовать ИИ для поиска путей проникновения в программное обеспечение их сетевых устройств, работающих по всему миру — эти устройства включают маршрутизаторы, межсетевые экраны и модемы. Глава по безопасности и доверию компании Энтони Грико заявил, что он особенно обеспокоен тем, что ИИ ускорит атаки хакеров на устройства с «завершённым жизненным циклом» —这类 (этот тип) устройств в будущем больше не будет получать поддержку обновлений от Cisco.
А то, как исправлять уязвимости, обнаруженные ИИ, остаётся long-term проблемой. Этот процесс, называемый «установкой security заплаток (патчей)», often является дорогостоящим и длительным для организаций,以至于 (до такой степени, что) многие учреждения предпочитают игнорировать уязвимости. Такие катастрофические атаки, как та, что произошла с Equifax — была похищена данные около 147 миллионов человек, — произошли именно потому, что известные уязвимости не были своевременно исправлены.
Хотя после отказа协助 (содействовать) проведению массового surveillance за гражданами США Anthropic была признана Трампом «угрозой supply chain», компания продолжает вести переговоры и сотрудничать с федеральными агентствами.
Министерство финансов США на этой неделе стремится получить доступ к Mythos. Министр финансов Скотт Бессент заявил, что эта модель поможет США сохранить лидерство в области искусственного интеллекта над другими странами.
В одном из тестов Mythos написал код для атаки на браузер, объединив четыре различные уязвимости в полную цепочку эксплуатации — сама по себе这类 (такая) операция является extremely сложной задачей для хакеров-людей. Отчёты об исследованиях кибербезопасности指出 (указывают), что такие «цепи уязвимостей» often могут пробивать бреши в изначально highly безопасных системных границах, подобно тому, как это было сделано во время атаки Stuxnet на центрифуги иранской ядерной программы.
Кроме того, по словам Anthropic, при чётком инструктаже Mythos даже способен обнаруживать и использовать «уязвимости нулевого дня» во всех основных браузерах.
Anthropic заявила, что они использовали Mythos для обнаружения уязвимостей в коде Linux. Джим Землин指出 (отмечает), что Linux «поддерживает большинство современных вычислительных систем», он присутствует практически везде — от Android-смартфонов и интернет-маршрутизаторов до суперкомпьютеров NASA. Mythos способен autonomously обнаруживать дефекты в коде с opensource, и если эти уязвимости будут использованы, злоумышленники могут даже полностью захватить control над всей машиной.
В настоящее время десятки сотрудников Linux Foundation уже начали тестировать Mythos. По мнению Землина, ключевой вопрос заключается в том, сможет ли модель Anthropic предоставить достаточно ценные insights, чтобы помочь разработчикам писать более безопасное программное обеспечение с самого начала, thereby уменьшая возникновение уязвимостей.
«Мы очень хорошо обнаруживаем уязвимости, — сказал он. — Но мы плохо справляемся с их исправлением.»
