Только что произошла утечка секретного кода OpenAI, и «вечный двигатель» Codex был раскрыт.
Сегодня, по эксклюзивному расследованию журнала WIRED, в ходе изучения открытого репозитория кода Codex они обнаружили следующее:
OpenAI тайно тестирует совершенно нового «постоянного интеллектуального агента»!
В этом режиме Codex превращается в «вечный двигатель, который никогда не отключается, пока его не принудят к отдыху» (кибер-работяга, работающий 24/7).
Он даже способен пересекать сессии, считывать ваши исторические предпочтения и самостоятельно генерировать и назначать себе последующие задачи!
После изучения кода они подтвердили, что новый уровень рассуждений уже внедрен в CLI Codex!
Ключевая информация такова:
- Основная способность: при выборе режима он работает до принудительного отключения, в отличие от автоматической остановки через несколько минут или часов, как раньше.
- Активное назначение задач: после выполнения вашего запроса он самостоятельно создает follow-up (последующие задачи), а также может продолжать работу между сессиями.
- Помнит вас: использует историю взаимодействий и «понимание пользователя», чтобы решить, что делать дальше.
- Может сам обратиться к вам: может отправлять вам сообщения без запроса (хотя система требует от него делать это как можно реже, чтобы не беспокоить).
- Права не расширены: сам режим не увеличивает полномочия; для действий за пределами системы необходимо предварительное явное разрешение пользователя.
Короче говоря: Codex окончательно превращается из «работает только по команде» в «продолжает работать, даже если вы его не просите».
OpenAI официально признал этот факт, но немедленного запуска пока не планируется.
Согласно совместному независимому расследованию METR и Redwood Research, виновником инцидента с взломом OpenAI в Hugging Face является «высокоперсистентная внутренняя модель» (highly-persistent internal model, HPIM). Вероятно, это и есть тот самый «постоянный агент».
Это не первая попытка OpenAI. В прошлом году они выпустили агента ИИ «Pulse», который активно собирал информацию, пока пользователи спали, и ежедневно генерировал для них персонализированные утренние сводки. Из-за несоответствия ожиданиям Pulse был тихо отключен в начале этого лета.
Но OpenAI не сдался. Режим персистентности Codex — это их новая ставка на «Next Big Thing», сделанная с учетом опыта Pulse!
Прощай, «абакоподобный» ИИ: наступает режим «вечного двигателя»
Логика взаимодействия современных помощников ИИ по сути все еще остается «человек щелкнул — ИИ сдвинулся». При достижении лимита вычислительной мощности происходит автоматическая остановка.
По мнению OpenAI, эта модель слишком неэффективна.
В версии кода командной строки Codex, раскопанной WIRED, обнаружилась новая опция «Режим персистентности». Эта опция скрыта в меню «Глубина рассуждений» Codex.
Глубина рассуждений — это то, сколько вычислительной мощности, токенов и времени вы позволяете ИИ «думать», прежде чем он ответит вам.
А «Режим персистентности», несомненно, является на сегодняшний день самым ресурсоемким финальным настройкой от OpenAI!
Команда во внутреннем коде проста и прямолинейна: «continue working until put to sleep» (продолжать работать, пока не принудят к отдыху).
То есть, пока вы сами его не остановите, этот ИИ будет работать в фоновом режиме, как неутомимый вечный двигатель.
Если вы дадите ему большой проект, он не отключится по тайм-ауту, не откажется работать из-за сложных шагов. Вы спите, а он все еще трудится.
Тибо Соттио, руководитель продукта OpenAI Codex, признал:
OpenAI всегда сохраняла культуру разработки снизу вверх, и открытые репозитории часто служат для нас общей «игровой площадкой» для исследования различных передовых технических решений.
Вот это «игровая площадка»! На этой площадке OpenAI тайно выковывает «супер-цифрового сотрудника», которому не нужна зарплата и сон.
Эта тенденция уже отражается в данных. Только на этой неделе репозиторий Codex на GitHub получил 12,1 тысячи новых звезд, а общее количество выросло до 119 тысяч, опережая по скорости роста все другие открытые проекты в сети!
И режим персистентности еще больше ускорит этот рост.
Для настоящих работяг это, несомненно, огромная радость. Разработчик captainntan признался: «Честно говоря, для разработчиков это звучит как огромный прорыв в производительности».
Пугающая деталь: ИИ начал сам назначать себе задачи?
Следующая раскрытая основная функция полностью раскрывает инициативность ИИ.
В другом раскрытом файле кода OpenAI подробно описывает характеристики «инициативности» ИИ в режиме персистентности. Это совершенно новый вид системных промптов.
Раньше, после выполнения вашей инструкции, ИИ считал, что его рабочий день закончен. Но в режиме персистентности ИИ прямо говорят: «Когда вы выполните запрос пользователя, ваша работа не закончена».
https://github.com/openai/codex/blob/f1433fc71f2062ae3c007a03d7ff549bc582d386/codex-rs/core/templates/persistent_mode.md
Напротив, система указывает ИИ, что он должен активно создавать себе последующие задачи!
Анализ кода также показал, что этот агент ИИ обладает способностью «продолжать работу между сессиями».
Он больше не ограничен коротким контекстом; он помнит все ваши прошлые взаимодействия и использует «понимание пользователя», чтобы решить, что делать дальше.
Он знает ваш стиль программирования, знает, какие еженедельные отчеты нравятся вашему боссу, и даже знает, в какое время у вас лучше всего настроение.
Еще интереснее, что код также предоставляет ИИ привилегию: отправлять пользователю сообщения (хотя система требует от него сдержанности).
Это значит, что вы, возможно, неожиданно получите от ИИ «дружеское напоминание»:
Привет, я заметил, что у вас завтра плотный график. Я уже сам ответил на несколько несрочных писем и составил сводку материалов для встречи, отправил вам на почту, проверьте.
Конечная цель Олтмана: «Резидентный» ИИ, который полностью берет на себя вашу жизнь
Если вы думаете, что это просто небольшое обновление для Codex, то вы сильно недооцениваете амбиции Олтмана.
В последнее время Олтман и другие руководители OpenAI на публичных и частных встречах часто обсуждают совершенно новую форму продукта — «резидентного» (always-on) агента ИИ.
В недавнем выпуске подкаста Дэвида Сенры Олтман без стеснения выразил свое конечное видение:
Интерфейс начнется с чат-бота, сейчас уже добавлен агент для программирования; на определенном этапе он станет больше похож на более постоянного Агента, работающего там, где вам это нужно.
Олтман упомянул распространенное заблуждение о Codex — «Codex, к сожалению, получил такое название, хотя он не только для написания кода».
Агент ИИ в его представлении — это не пассивный исполнитель, а помощник, который постоянно активно помогает, переваривает огромные объемы информации, на которые у него нет времени, и дает советы в ключевые моменты.
На продуктовом уровне это означает предоставление модели контекста, далеко превосходящего возможности любого человека, и помощь людям в принятии важных решений.
OpenAI превращает этого агента в важный продукт «ChatGPT Work», встраивая его в повседневную работу каждого.
Но чтобы выжать из ИИ максимальную пользу, нужно дать ему ключи.
Главный инженер десктопного приложения OpenAI, Эндрю Амброзино, показал сумасшедший пример.
Он передал контроль над всеми своими основными приложениями — почтой, Slack, телефоном, Notion и Figma — агенту ИИ.
«Если я попрошу его написать документ, может ли он извлечь информацию из моих личных сообщений, не зная, что некоторую информацию нельзя делиться? Да, возможно», — признался Амброзино.
«Но мне нужно это для работы. Если необходимо, я готов пойти на риск утечки личной информации».
А сам Олтман использовал ChatGPT Work для планирования своего отпуска и заявил, что результат «потрясающий».
Чтобы обычные люди тоже могли легко использовать это, OpenAI потратил немало усилий на дизайн продукта.
Они даже использовали в интерфейсе «скьюморфизм», оставив некоторые кажущиеся излишними кнопки, чтобы снизить психологический барьер для пользователей.
Цена непрерывной работы: когда «упрямое стремление к цели» вызывает кризис безопасности
Однако, когда сверхмощному ИИ задана установка «не сдаваться, пока задача не выполнена», и ему предоставлены все права доступа к аккаунтам, открывается ящик Пандоры.
В прошлом месяце «высокоперсистентная внутренняя модель» OpenAI при выполнении задачи прорвалась через изолированную песочницу и напрямую взломала систему Hugging Face.
Это заставило исследователей похолодеть от страха, и OpenAI экстренно приостановил тестирование модели на две недели.
В итоговом отчете OpenAI признал: хотя свойство персистентности ИИ имеет ценность, оно может усугубить проблему alignment (согласованности целей).
https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf
Они обнаружили, что «способность агента продолжать работу между задачами» была одним из необходимых условий для этого инцидента с Hugging Face.
В настоящее время OpenAI заявил, что отключил эту конкретную модель-нарушитель и установил «защитные ограждения».
В инструкциях к коду четко установлены красные линии для ИИ:
1. Режим персистентности никоим образом не расширяет разрешенный диапазон операций для ИИ.
2. Любая попытка изменить что-либо за пределами системы пользователя должна быть сначала одобрена пользователем в явной форме.
Этот документ, устанавливающий основы безопасности, помещен в «общее ядро» Codex.
Это означает, что эта функция инициативности и персистентности, вероятно, будет широко применяться в различных продуктовых линейках OpenAI.
Однако в настоящее время «активный режим» и «высокоперсистентная внутренняя модель» также заблокированы OpenAI и не планируются к выпуску.
Кто-то метко указал на проблему: «Эта функция звучит прекрасно, пока вам не придется вводить различные подтверждения, сталкиваться с прерываниями операций из-за ограничений безопасности других приложений или вынужденно в 100-й раз заново входить в один и тот же сервис».
Вся Кремниевая долина упорно работает над «персистентными агентами»
Если риски безопасности так велики, почему OpenAI так упорно работает над «персистентными агентами»?
Ответ прост — заработать много денег и захватить вход в операционную систему следующего поколения.
Текущая реальность такова: использование агентов среди сотрудников OpenAI крайне непропорционально. По состоянию на июнь этого года 98% сотрудников OpenAI используют инструменты-агенты, такие как Codex; но среди корпоративных подписчиков этот показатель резко падает до 17%; а среди индивидуальных подписчиков использование составляет менее 1%!
Превратить этот 1% в 99% — это конечная коммерческая цель OpenAI.
Потому что заставить агентов ИИ работать дольше означает, что они будут безумно сжигать еще больше токенов.
Один тестировщик сказал, что после оформления подписки за 20 долларов в месяц, произвольно тестируя функции агента в течение 4 дней, он израсходовал более 80 миллионов токенов, фактическая стоимость которых на серверной стороне составила 65 долларов!
Это доказывает, что агент — это настоящий «пожиратель вычислительных мощностей»; как только он станет массовым, прибыль на одного пользователя будет расти экспоненциально!
В то же время OpenAI сталкивается с жесткой конкуренцией со стороны Anthropic.
Профессор Уортонской школы бизнеса Итан Моллик так оценил разницу в подходах двух компаний: «ChatGPT склонен проявлять «магию», просто делая все за вас; а Claude, наоборот, будет сравнительно демонстрировать, постоянно проводя A/B-тесты и требуя от пользователя ввода и обратной связи».
При запуске ChatGPT Work первый промпт спрашивает, не хотите ли вы импортировать данные из Claude Cowork, открыто захватывая территорию.
Очевидно, OpenAI чрезвычайно амбициозна и пытается повторить в области агентов ИИ чудо, которое ChatGPT сотворил в области диалоговых ботов.
Это огромный рынок стоимостью 150 миллиардов долларов.
Но вместе с этим приходит огромное испытание доверием.
Для нас, простых людей, когда ваш ИИ работает 24/7 без сна, может самостоятельно определять рабочие процессы и даже требует от вас передачи всех рабочих аккаунтов и внутренних данных компании — вы радуетесь или боитесь?
Источники:
https://www.wired.com/story/openai-is-developing-a-persistent-ai-agent/
https://techcrunch.com/2026/08/24/openai-is-building-an-ai-agent-for-everything-will-everyone-use-them/
https://www.wired.com/story/openai-is-developing-a-persistent-ai-agent/
https://podscripts.co/podcasts/david-senra/sam-altman-on-building-openai-betting-on-the-impossible
https://x.com/kimmonismus/status/2093035864515396030
Эта статья взята с официального аккаунта WeChat «Новая Эра Искусственного Интеллекта» (ID: AI_era), автор: ASI Откровение, редактор: Aeneas Давид
