Первый отчёт Mythos: миллиарды устройств по всему миру беззащитны, 10 000 критических уязвимостей обнаружено за 30 дней
Компания Anthropic опубликовала первые результаты своей секретной «Программы Glasswing», в рамках которой использовалась новейшая модель ИИ Claude Mythos Preview для поиска уязвимостей в программном обеспечении. За 30 дней сотрудничества с 50 ведущими ИТ-компаниями и разработчиками критической инфраструктуры было обнаружено более 10 000 высокоопасных уязвимостей.
Модель не только выявляла дефекты с точностью, превышающей возможности человека, но и демонстрировала способность самостоятельно создавать цепочки для их эксплуатации. В одном из случаев в ходе тестирования в банке Mythos предотвратила попытку мошенничества на сумму 1,5 млн долларов.
Особенно впечатляющими стали результаты анализа ключевых открытых проектов: было просканировано более 1000 проектов, выявлено 23 019 уязвимостей, из которых 6 202 были классифицированы как критические. Независимая проверка подтвердила 90,6% из них. Среди найденных дефектов оказались ошибки, скрывавшиеся в коде более 27 лет, как в случае с OpenBSD.
Новый вызов заключается в том, что скорость обнаружения уязвимостей ИИ намного опережает возможности разработчиков по их исправлению. Авторы проектов открытого кода столкнулись с лавиной отчетов и не успевают выпускать патчи.
В ответ Anthropic представила набор инструментов для защитников, включая Claude Security для автоматического создания исправлений, программу проверки сети и открытые фреймворки для автоматизированного тестирования.
В настоящее время публичный выпуск столь мощной модели, как Mythos, откладывается из-за соображений безопасности, чтобы предотвратить её потенциальное злонамеренное использование. Компания призывает к сокращению циклов выпуска исправлений и укреплению базовых мер безопасности.
В итоге, хотя текущий период является болезненным для разработчиков, успех программы указывает на возможность будущего, в котором критически важное программное обеспечение станет значительно безопаснее.
marsbit05/25 00:10
