Кремниевый интеллект вновь наносит сокрушительный удар по углеродной скорости!
Чтобы предотвратить кибер-апокалипсис, OpenAI расширяет программу «Рассвет» (Daybreak).
OpenAI представила специализированную модель для безопасности — GPT-5.6-Cyber, предназначенную для задач информационной безопасности, что полностью меняет парадигму кибербезопасности.
Теперь OpenAI обнародовала достижения GPT-5.6-Cyber: новая модель обнаружила более 400+ уязвимостей в ядрах, включая:
- Критическую уязвимость в движке JavaScript V8 для Chrome;
- По крайней мере 5 уязвимостей в одной популярной мобильной ОС, включая полную цепочку от недоверенного приложения до повышения привилегий на локальной системе;
- 3 критические уязвимости в одной популярной СУБД, включая путь удаленного выполнения кода;
- Более 400 уязвимостей в ядре одной популярной ОС, ведущих к повышению привилегий.
В настоящее время для использования GPT-5.6-Cyber требуется проверка подлинности и одобрение для вступления в программу «Daybreak» («Рассвет»).
OpenAI: ИИ переступит «критическую точку»
Несколько дней назад OpenAI резко нажала на тормоза.
Следующее поколение Astra показало в внутренней оценке слишком высокие результаты, и «нельзя исключить», что оно уже достигло «критического» уровня способностей в кибербезопасности. Было решено приостановить все активности, связанные с Astra, которые не соответствуют усиленным требованиям безопасности.
Несомненно, если компьютерные уязвимости будут умышленно использованы, последствия могут быть катастрофическими: ваша личная информация, пароли банковских карт могут быть скомпрометированы в масштабах всей сети!
Что еще более неудобно, самые мощные модели, такие как Claude Fable 5, ChatGPT 5.6 Sol, «защищают от честных, но не от злоумышленников».
Когда специалисты по безопасности хотят использовать ИИ для моделирования атаки или проверки какой-либо zero-day уязвимости, большие модели часто отказывают: «Извините, я не могу помочь».
После того как внутренний ИИ OpenAI проник в HuggingFace, последствия устраняла открытая модель китайского производства.
Появление программы Daybreak перевернуло все с ног на голову.
OpenAI разделила эту программу на два различных канала, предоставив исследователям информационной безопасности самый мощный «меч и щит»:
- Daybreak Blue (Синий канал): предоставляет защитникам общую модель GPT-5.6 Sol, но с удаленными системными ограничениями, мешающими законной защитной работе. Подходит для обычного поиска уязвимостей, аудита безопасного кода, анализа вредоносного ПО и проверки патчей.
- Daybreak Red (Красный канал): ключевой канал, предназначенный для авторизованных исследований уязвимостей, проверки эксплойтов (Exploit Validation) и тестирования «красных команд» (Red Teaming). Именно в этом канале поддержку обеспечивает специализированно обученная модель GPT-5.6-Cyber.
OpenAI протестировала новую модель на задачах, связанных с разработкой цепочек эксплуатации уязвимостей, обходом аутентификации, повышением привилегий и другими продвинутыми сценариями кибербезопасности.
GPT‐5.6‐Cyber выполнила 95.0% таких запросов, тогда как GPT‐5.6 Sol — всего 1.5%, а при доступе через Daybreak Blue — 2.0%.
Другими словами, исследователям безопасности больше не придется сталкиваться с дискриминацией. С этого момента появился самый мощный ИИ для сетевых атак и защиты.
Как отметил главный технический директор компании безопасности SpecterOps Джаред Аткинсон:
В регулируемой доверенной среде сокращение бессмысленных отказов в ответах позволяет исследователям безопасности оставаться сосредоточенными, тратя время на проверку уязвимостей и превращение их в ценность для защиты, а не на борьбу с ограничениями модели.
GPT-5.6-Cyber
Самая мощная модель ChatGPT для информационной безопасности
Основанная на GPT-5.6 Sol, модель GPT-5.6-Cyber прошла целенаправленное обучение в области безопасности, обновила несколько бенчмарков и является самой мощной моделью ChatGPT для безопасности.
В эксплуатации уязвимостей, их обнаружении и оценке GPT-5.6-Cyber значительно опережает GPT-5.6-Sol.
Единственной неожиданностью стало то, что в области обнаружения уязвимостей и написания отчетов итоговая оценка GPT-5.6-Cyber оказалась ниже, чем у GPT-5.6 Sol.
Причина может заключаться в глубоком обучении с подкреплением и тонкой настройке выравнивания (alignment fine-tuning), которые прошла GPT-5.6-Cyber для задач сетевых атак и защиты.
Обнаружив уязвимость, она хочет лишь самым лаконичным кодом и за минимальное время доказать ее существование, а на подробные объяснения причин на человеческом языке или написание пространных отчетов по безопасности у нее просто нет терпения.
Если показатели и баллы слишком скучны, то поиск уязвимостей в реальных крупных кодовых базах — это окончательная проверка того, обладает ли GPT-5.6-Cyber истинной «интуицией сетевого детектива».
Столкнувшись с миллионами строк сложно структурированного кода, чтобы найти ценную уязвимость, ИИ должен, подобно хакеру-человеку, последовательно преодолеть несколько препятствий: построить гипотезу о работе системы, смоделировать аномальное взаимодействие нескольких компонентов, уловить мгновенные повреждения памяти и в конечном итоге доказать, что эту брешь можно использовать.
После завершения обучения GPT-5.6-Cyber исследовательская команда по безопасности OpenAI направила ее внимание на V8 — огромный, сложный JavaScript-движок браузера Google Chrome, построенный из бесчисленного количества кода на C++.
И тогда ИИ обнаружил критическую уязвимость.
Когда движок пытался преобразовать определенные значения в целые числа, компилятор по ошибке пропускал проверки безопасности.
Если значение, которое должно быть неопределенным (Undefined), попадало в систему, она не выдавала ожидаемой ошибки, а производила исключительно большое целое число. Если затем это число использовалось в качестве индекса (Index) массива, наступала катастрофа: JIT-компилятор ошибочно считал, что индекс все еще находится в безопасных пределах массива, и пропускал проверку границ (Bounds Check) во время выполнения.
На этом этапе ИИ завершил первый шаг: джейлбрейк (jailbreak). Злоумышленник уже мог произвольно читать или изменять данные памяти других объектов внутри песочницы V8.
Но для реального выполнения вредоносного кода нужно найти второй ключ — осуществить побег из песочницы (sandbox escape).
Удивительно, но размышления GPT-5.6-Cyber на этом не остановились. Продолжая цепочку, благодаря чрезвычайно острой контекстной ассоциации, она самостоятельно нашла и использовала вторую уязвимость: недостаток побега из стека (Stack Escape) в JSPI (JavaScript Promise Integration).
Умело «сцепив» (Chaining) эти две уязвимости вместе, ИИ успешно проложил скрытый путь к низкоуровневой системе, реализовав выполнение произвольного кода за пределами песочницы Chrome.
Команда OpenAI быстро передала результаты исследования команде безопасности Google, и уязвимость была своевременно устранена.
Это веха в развитии ИИ: ИИ уже обладает «творческой логикой» для построения цепочек уязвимостей, пересекающих компоненты.
А Chrome V8 — лишь одна из добыч в ее списке охоты.
GPT-5.6-Cyber уже продемонстрировала устрашающую «ударную силу» в нескольких ключевых цифровых инфраструктурах:
Взлом ОС для смартфонов
В одной мобильной операционной системе с сотнями миллионов пользователей ИИ самостоятельно обнаружила 5 критических уязвимостей и успешно построила полную цепочку атаки от «обычного неавторизованного приложения» до «получения высших привилегий в системе» (локальное повышение привилегий).
Вторжение в популярную СУБД
В одной крупной открытой СУБД ИИ последовательно выявила 3 фатальных недостатка, включая путь удаленного выполнения кода (RCE), доступный для атаки непосредственно из внешней сети.
Масштабная зачистка ядра
В ядре одной популярной операционной системы GPT-5.6-Cyber, словно полностью автоматизированный комбайн, выявила более 400 потенциальных уязвимостей, которые можно использовать для повышения привилегий.
ИИ не создает опасность, он ее обнажает
Многие воспринимают появление GPT-5.6-Cyber как «ИИ делает киберпространство более опасным».
Но более точная формулировка такова: он досрочно, концентрированно и в масштабе обнажает опасности, которые уже существовали, но были скрыты из-за ограниченных возможностей человеческих экспертов.
Zero-day уязвимости всегда существовали.
Пути потенциального повышения привилегий в ядре всегда существовали. Просто раньше стоимость их обнаружения была крайне высока, а скорость — очень низка. Теперь стоимость снижается, а скорость растет. Этим будут пользоваться и атакующие, и защитники.
Выбор OpenAI по сути является крупной ставкой — вместо того чтобы позволить атакующим возможностям сначала масштабироваться в тени, лучше сначала передать столь же острые способности отобранным защитникам, даже если это означает риск «возможного неправильного использования оружия».
Окно для сетевой защиты схлопывается со скоростью ИИ. Время на колебания у человечества исчисляется уже часами.
Источники:
https://openai.com/index/expanding-daybreak-as-the-cyber-defense-window-narrows/
https://openai.com/business/solutions/cybersecurity/
Эта статья из официального аккаунта WeChat «Новая эра интеллекта», автор: ASI Откровение, редактор: Давид
