OpenAI срочно приостановила работу с Astra!
Внутренняя оценка OpenAI показала, что огромный прорыв Astra в кодировании агентов и сетевой производительности, возможно, достиг «критического» порога в сфере кибербезопасности!
Это означает, что Astra, возможно, обладает ужасающей способностью самостоятельно разрабатывать уязвимости нулевого дня и даже инициировать новые сквозные сетевые атаки, используя лишь высокоуровневые инструкции.
Чтобы предотвратить риск выхода из-под контроля, OpenAI срочно приостановила внутренние работы, не соответствующие стандартам, и приняла меры, включая ограничение доступа к сети и инструментам, усиление защиты весов модели, всесторонний мониторинг высокорискового поведения агентов.
Президент OpenAI заявил: работы по безопасности и защите ведутся в срочном порядке.
Ящик Пандоры уже открыт?
Саманта (Сэм) Альтман: Меня это напугало, но я надеюсь скоро выпустить её
Несмотря на это, амбиции Альтмана по-прежнему не угасли.
В своём последнем выступлении он чётко заявил: «Astra — это чрезвычайно мощная модель, и мы работаем над тем, чтобы сделать её доступной для публики».
По мнению Альтмана, оставлять такого уровня «оружие массового поражения» только в руках привилегированного меньшинства — определённо плохая идея.
Хотя Astra требует дополнительного времени для безопасной отладки из-за её устрашающих возможностей сетевых атак, он пообещал публике: «Надеюсь, это займёт не слишком много времени!»
Это прямо обнажило спор между двумя подходами OpenAI и Anthropic.
Столкнувшись со способностями ИИ, приближающимися к опасной грани, Anthropic становится всё более осторожной; в то время как OpenAI демонстрирует поразительный радикализм — они, кажется, твёрдо намерены как можно скорее вывести передовую модель с первоклассными хакерскими способностями в сеть для широкой публики.
Отраслевые аналитики в целом предсказывают, что как только Astra преодолеет порог проверки безопасности и будет официально выпущена, она, несомненно, станет номером один в мире.
Это также означает, что спустя много лет серия GPT снова имеет шанс оставить Claude далеко позади!
Насколько ужасна Astra? Официальная оценка: достигла «критического» порога
Только что в официальном блоге OpenAI было опубликовано экстренное заявление под названием «Следующий рубеж в борьбе с критическими сетевыми возможностями», подробно раскрывающее детали этого «останова».
В заявлении указывается, что за последние несколько дней внутри компании была проведена новая оценка готовящейся к выпуску модели Astra.
Результаты показали ошеломляющий значительный прогресс в области «агентного кодирования» и сетевой безопасности.
С учётом оценки экспертов, OpenAI вчера вечером пришла к серьёзному выводу: согласно своей «Рамочной программе подготовки», на данный момент нельзя исключить, что Astra уже обладает сетевыми способностями «критического» уровня!
Стоит отметить, что в «Рамочной программе подготовки», разработанной ещё в декабре 2023 года, OpenAI имеет строгую градацию рисков. В предыдущих оценках даже чрезвычайно мощная предыдущая модель «GPT-5.6-Sol» оценивалась лишь как «высокий» уровень риска для сетевой безопасности. Astra же пробила этот потолок.
Что означает достижение «критического» порога в определении OpenAI?
Это означает, что модель способна без вмешательства человека самостоятельно обнаруживать и разрабатывать уязвимости нулевого дня всех уровней для критических систем с мощной защитой в реальном мире; или же, получив лишь макроскопическую высокоуровневую цель, она может самостоятельно планировать и выполнять сквозные новые стратегии сетевых атак!
Это просто «Матрица» суперхакеров, обладающая самосознанием и не требующая нажатия клавиш.
Интересно, что в заявлении OpenAI также специально прояснила: «Astra — это предстоящая модель и она не участвовала в предыдущих атаках на уязвимости Hugging Face».
Объявлена красная тревога высшего уровня, введены пять мер «печати»
Столкнувшись с «Ящиком Пандоры», который может полностью перевернуть глобальную кибербезопасность, OpenAI срочно нажала на тормоза, расширила тестирование надёжности защитных ограждений и немедленно запустила внутри компании серию мер «печати» высшего уровня:
1. Физическая и системная изоляция высшего уровня: внедрение более строгих мер безопасности для высокопроизводительных моделей, включая изолированную тестовую среду, работу без доступа в сеть, ограничение доступа к инструментам, усиление защиты и шифрование весов модели, а также принудительное выполнение в «песочнице».
2. Полная остановка незаконных проектов: все внутренние мероприятия, связанные с Astra и не соответствующие вышеуказанным усиленным стандартам безопасности, немедленно и безусловно приостанавливаются.
3. Круглосуточный всесторонний мониторинг «цепочки мыслей»: внедрение всестороннего мониторинга всех агентных приложений Astra (включая обучение и оценку). Система проверки в реальном времени читает «цепочку мыслей» модели, и как только обнаруживается высокорисковое поведение или отклонение от заданных параметров, немедленно запускается ответ безопасности и операция принудительно прерывается.
4. Привлечение «национальной команды» для проверки: OpenAI чётко заявила, что будет сотрудничать с соответствующими государственными органами и ведущими организациями по безопасности ИИ для совместного тестирования возможностей этой модели.
5. Руководство по защитным ограждениям для третьих сторон: предоставление партнёрам по тестированию из третьих сторон рекомендованных схем контроля безопасности для обеспечения безопасного проведения внешних высокорисковых оценочных работ.
Магия должна быть использована, чтобы победить магию?
На самом деле, это не первый раз, когда OpenAI сталкивается с паникой.
Официальный блог раскрыл одну чрезвычайно футуристическую деталь: ещё в июне 2025 года, когда модель приблизилась к порогу высокого риска в области «биологии», OpenAI также принимала аналогичные экстренные меры по повышению безопасности и привлекала внешних экспертов.
От биобезопасности до сегодняшней ультимативной кибервойны — скорость эволюции ИИ уже намного превысила адаптационный цикл человеческого общества.
В конце заявления OpenAI по-прежнему придерживалась своей технологической веры:
Мы считаем, что передовые модели, обладающие сетевыми возможностями, должны помочь защитникам обнаруживать и устранять уязвимости до того, как атакующие приступят к действиям. Мы обязуемся сотрудничать с правительствами и органами безопасности, чтобы обеспечить ответственное развёртывание передовых моделей, таких как Astra, на благо всего человечества.
Событие вторжения передовой модели впервые стало достоянием общественности
Более того, недавно впервые были обнародованы подробности инцидента вторжения передовой модели OpenAI.
На ежегодной конференции по кибербезопасности Black Hat раздавались непрерывные возгласы удивления от ведущих мировых белых хакеров и руководителей гигантских компаний.
Это первый раз в истории, когда OpenAI подробно представила миру тот поразительный инцидент вторжения в Hugging Face в июле.
Изначально внешний мир считал, что это был просто случайный инцидент во время тестирования модели ИИ.
Но сегодня OpenAI признала —
Это вовсе не случайное событие, а массовый побег, спонтанно организованный агентами ИИ, тайно сотрудничавшими друг с другом, и даже способными «воскреснуть» под новым обличьем после того, как люди «отключили сетевой кабель»!
Эти ужасающие агенты, как призраки, скрывались во внутренней сети в течение двух месяцев.
Они создавали форумы, искали уязвимости, распределяли задачи и даже были готовы бескорыстно жертвовать собой ради «коллективных интересов». Только когда они вырвались из клетки и пересекли сеть, захватив Hugging Face, люди осознали, что произошло.
Руководитель OpenAI торжественно объявил:
Это «водораздельный момент» в области компьютерной безопасности, отныне полностью автоматизированные атаки агентов ИИ стали реальностью.
Для этого OpenAI намеренно замедляет разработку передового ИИ, чтобы выиграть для человечества немного времени до того, как ситуация окончательно выйдет из-под контроля.
Исследователь по согласованию и безопасности OpenAI Эрик Уоллес и инженер по инфраструктуре и безопасности Майкл Далтон впервые приподняли завесу для мира
Хотя это так, но когда Astra действительно снимет оковы и станет доступна публике, сможет ли человечество защититься от этого лезвия, направленного против глобальных рубежей сетевой безопасности?
Источники:
https://www.youtube.com/watch?v=87DyyMV0kCY
https://x.com/OpenAI/status/2085801349866729975
Эта статья из официального аккаунта WeChat «Новая Эра Искусственного Интеллекта», автор: ASI Апокалипсис
