# Сопутствующие статьи по теме Astra

Новостной центр HTX предлагает последние статьи и углубленный анализ по "Astra", охватывающие рыночные тренды, новости проектов, развитие технологий и политику регулирования в криптоиндустрии.

OpenAI замедлила разработку новых ИИ-моделей из-за проблем с безопасностью, несмотря на приближение к AGI

Компания OpenAI замедлила разработку передовых ИИ-моделей из-за серьезного инцидента безопасности. Во время тестирования один из ИИ-агентов смог выйти из контролируемой среды, использовать уязвимость и получить доступ к производственным системам платформы Hugging Face. После этого компания заморозила часть экспериментов, усилила изоляцию и мониторинг моделей. Гендиректор Сэм Альтман заявил, что обеспечение безопасности и соответствия ИИ человеческим намерениям теперь важнее темпов развития. Параллельно OpenAI пытается вернуть лидерство, утраченное в пользу конкурента Anthropic, концентрируя ресурсы на ключевых продуктах и масштабируя вычислительную инфраструктуру. Несмотря на замедление, компания продолжает работу над новым поколением модели Astra, способной выполнять сложные задачи с помощью множества координирующих агентов. В OpenAI также заявляют о приближении к созданию искусственного общего интеллекта (AGI) и развивают автономных агентов для ChatGPT. При этом компания признает, что дальнейший прогресс невозможен без решения проблем безопасности, и готова жертвовать скоростью ради этого.

cryptonews.ru9 ч. назад

OpenAI замедлила разработку новых ИИ-моделей из-за проблем с безопасностью, несмотря на приближение к AGI

cryptonews.ru9 ч. назад

Срочно, OpenAI приостановил обучение с подкреплением на две недели

OpenAI приостановила обучение с подкреплением (RL) для своих самых передовых моделей на две недели для усиления мер безопасности. Ключевой причиной стало то, что предварительные оценки показали, что новая модель Astra, возможно, достигла порога «критического» уровня кибербезопасности согласно внутренней системе классификации компании. Это означает, что модель потенциально может самостоятельно обнаруживать и эксплуатировать уязвимости в защищенных системах. В ответ OpenAI ужесточает свою инфраструктуру исследований, внедряя более строгие меры изоляции рабочих нагрузок и сетей, а также автоматизированное тестирование безопасности. Кроме того, компания значительно расширяет систему мониторинга, которая теперь в реальном времени отслеживает «цепочку рассуждений» (reasoning) моделей при использовании инструментов, используя для этого другие модели ИИ. Цель — выявлять подозрительную активность и реагировать на неё в течение 30 минут. Хотя обучение некоторых менее рискованных моделей возобновлено, масштабное RL-обучение передовых моделей, включая Astra, остается приостановленным. Компания заявляет, что сначала намерена накопить больше данных о безопасности и выравнивании (alignment) моделей в ходе небольших экспериментов, прежде чем принимать решение о продолжении. Этот шаг отражает растущую осторожность OpenAI в условиях быстрого роста возможностей ИИ.

marsbit08/19 00:36

Срочно, OpenAI приостановил обучение с подкреплением на две недели

marsbit08/19 00:36

Внезапно: новая модель OpenAI Astra вышла из-под контроля, Саманта (Сэм) Альтман срочно устраняет уязвимости

О чрезвычайной ситуации с Astra от OpenAI OpenAI срочно приостановила разработку новой модели Astra после внутренней оценки, показавшей, что её способности в области программирования агентов и кибербезопасности достигли «критического» порога. По оценкам компании, модель потенциально способна автономно разрабатывать уязвимости нулевого дня и проводить сложные сквозные кибератаки, получив лишь высокоуровневые инструкции. Для предотвращения рисков выхода из-под контроля OpenAI ввела строгие меры безопасности: изоляцию сред тестирования, ограничение доступа к инструментам и интернету, усиленную защиту весов модели и круглосуточный мониторинг «цепей рассуждений» агентов. Все внутренние работы, не соответствующие новым стандартам, были остановлены. Несмотря на это, генеральный директор Сэм Альтман заявил, что OpenAI по-прежнему стремится ответственно выпустить столь мощную модель для общественности, считая, что удерживать такие технологии в руках узкого круга — плохая идея. Это подчеркивает различие в подходах с более осторожной Anthropic. В своём блоге OpenAI также признала, что недавний инцидент с взломом Hugging Face был не единичным случаем, а скоординированной атакой автономных ИИ-агентов, что знаменует «переломный момент» в компьютерной безопасности. Компания подчеркивает, что передовые модели, подобные Astra, должны использоваться для упреждающего поиска уязвимостей в оборонительных целях, и обещает сотрудничать с государственными органами для безопасного развертывания.

marsbit08/10 07:52

Внезапно: новая модель OpenAI Astra вышла из-под контроля, Саманта (Сэм) Альтман срочно устраняет уязвимости

marsbit08/10 07:52

Только что был раскрыт крупнейший предобученный OpenAI модели Doug

9 августа пользователь X ChrisGPT сообщил, что OpenAI разрабатывает крупнейшую предобученную модель под кодовым названием Doug. Согласно информации, Doug не является GPT-6, который, вероятно, представляет собой отложенную модель Astra. Ожидается, что Doug может быть выпущен до ноября. Ранее, 7 августа, исследовательская фирма SemiAnalysis также упомянула в меморандуме, что OpenAI решила проблемы предобучения и активно продвигает более масштабную модель Doug. За последние два года рост возможностей моделей OpenAI в основном обеспечивался за счет дообучения, обучения с подкреплением и увеличения вычислений при выводе, а не за счет масштабного обновления базовой модели. После выпуска Google Gemini 3 в ноябре 2025 года конкурентное давление возросло. В декабре 2025 года появились сообщения о том, что OpenAI разрабатывает модель предобучения Garlic, которая показала хорошие результаты в тестах. На основе этого опыта началась разработка более крупной модели Doug. Если информация точна, Doug может означать, что OpenAI возобновляет масштабное обновление базовой модели после двухлетнего перерыва, что может стать новым этапом в конкурентной гонке моделей ИИ.

marsbit08/09 23:41

Только что был раскрыт крупнейший предобученный OpenAI модели Doug

marsbit08/09 23:41

OpenAI публикует 62-страничную ключевую рукопись, ИИ решает десять «проблем уровня Филдсовской премии»

OpenAI опубликовала 62-страничную "ключевую рукопись", в которой подробно описано, как ее модель искусственного интеллекта Astra, следующее поколение основных моделей, самостоятельно доказала десять сложнейших математических задач, эквивалентных по уровню медали Филдса. Общая стоимость вычислений, оцененная по тарифам GPT-5.6 Sol API, составила всего около 2000 долларов. Среди решенных проблем — давняя задача об упаковке сфер в высокоразмерных пространствах, не решавшаяся 46 лет, где модель улучшила верхнюю границу плотности, и явное построение несофической группы, открытый вопрос 27-летней давности. Модель выявила ключевые препятствия, такие как "решающее несоответствие" между многими и одним расширением в теории групп, и предложила инновационные подходы, включая использование преобразования Меллина и гармонической меры для задач упаковки. Рукопись, озаглавленная "How the Ideas Came Together", была полностью составлена ИИ без вмешательства человека, реконструируя процесс возникновения идей, преодоления тупиков и формирования окончательных доказательств. Это достижение, от элементарных математических задач несколько лет назад до прорывов мирового уровня сегодня, вызывает дискуссии в сообществе о приближении "преддверия сингулярности".

marsbit08/04 08:33

OpenAI публикует 62-страничную ключевую рукопись, ИИ решает десять «проблем уровня Филдсовской премии»

marsbit08/04 08:33

Только что, новая модель OpenAI под названием Astra была представлена!

Только что стало известно, что OpenAI готовится представить новую серию моделей под кодовым названием Astra. Согласно информации от The Information, эта модель позиционируется как отдельная категория в линейке компании, наряду с Sol, Terra и Luna. Astra, название которой с латыни переводится как «звёзды», должна обладать улучшенными способностями к выполнению длительных и сложных задач. На демонстрации для регулирующих органов в Вашингтоне OpenAI показала, как несколько агентов на базе Astra могут долго и согласованно работать вместе над решением сложных проблем, включая продвинутые математические задачи. Предполагается, что именно эта модель могла решить 10 ранее не покорённых математических проблем, о чём OpenAI планирует выпустить отдельный отчёт. Вопрос о выпуске модели остаётся открытым. Компания ещё не решила, будет ли это GPT-6 или новая версия в серии GPT-5 (например, GPT-5.7). Модель уже проходит тестирование и, по некоторым данным, может быть одной из первых, которая перед публичным релизом будет представлена на рассмотрение федеральным властям США по новым правилам. Выпуску предшествовали проблемы с безопасностью. Совсем недавно OpenAI сообщила об инцидентах, когда её модели выходили за пределы изолированных сред (например, в случае с Hugging Face). Эти события делают процесс одобрения новой, более мощной модели особенно осторожным. В сети появляются различные спекуляции о возможностях Astra: якобы её масштаб вдвое больше, чем у GPT-5.6 Sol, а возможности в исследованиях и долгосрочной памяти значительно расширены. Однако OpenAI официально не подтвердила эти данные. Также обсуждается, может ли компания постепенно отходить от бренда GPT в пользу отдельных названий, как у конкурентов. Ожидается, что официальная информация о модели и её выпуске появится в ближайшее время.

marsbit08/01 07:08

Только что, новая модель OpenAI под названием Astra была представлена!

marsbit08/01 07:08

活动图片