У ИИ появились «предпочтения»?
Представьте себе такую картину: вы сидите перед компьютером, просите большую модель написать серьёзный бизнес-код или автоматически ответить на официальное письмо клиента. И вдруг ИИ на другой стороне экрана «сходит с ума», ни с того ни с сего начинает говорить с вами о гоблинах (Goblin, низкорослые зелёнокожие монстры из западного фэнтези, часто встречающиеся в играх вроде «Dungeons & Dragons»).
Это реальная нелепая ситуация, произошедшая с огромным количеством пользователей ChatGPT.
На Reddit и других социальных форумах пользователи делились своими самыми абсурдными историями об ИИ, который «бросал им вызов в лицо».
Например, один пользователь попросил ИИ беспощадно «высмеять» (Roast) его, и в результате ИИ точно описал его как «амбициозного гоблина хаоса, одновременно рвущегося к выполнению десяти задач».
Более того, программиста, пишущего код, ИИ назвал «гоблином с открытым исходным кодом», а даже любителя спорта, качка, не избежал участи и получил таинственное прозвище «гоблин-качок».
Поначалу всем это казалось забавным, и даже сложилось впечатление, что большие модели становятся всё более человечными и обладают «гиковским юмором».
Но очень скоро ситуация вышла из-под контроля.
При использовании таких продуктов, как инструмент программирования Codex, и других «агентских ИИ» (Agentic AI), огромное количество разработчиков с ужасом обнаружили, что их помощник ИИ, без каких-либо соответствующих инструкций или подсказок, начал часто и неконтролируемо «бормотать» о гоблинах и гремлинах.
И вот супер-единорог с оценкой в сотни миллиардов долларов, стоящий на вершине технологической пирамиды человечества, не выдержал. Они были вынуждены прописать в базовый код своей новейшей большой модели «запрещающую команду» против кибер-монстров.
Это вовсе не шутка гика о баге в коде. Если заглянуть за этот абсурдный фасад, можно увидеть, что базовая логика моделей стоимостью в сотни миллиардов долларов на самом деле поразительно хрупка.
«Кибер-монстры» в коде
Этот «запрет» впервые был обнаружен на X (бывший Twitter) и GitHub.
Разработчик @arb8020 обнаружил фрагмент базовых системных промптов в новейшей модели OpenAI GPT-5.5 (особенно в инструменте программирования Codex 5.5).
Эта инструкция, повторённая несколько раз, звучала строго, как будто ругали гиперактивного ребёнка:
«Ни в коем случае не говорите о гоблинах, гремлинах, енотах, троллях, ограх, если только это не имеет абсолютного и явного отношения к запросу пользователя».
Вот это да, могучий GPT-5.5, оказывается, питает какую-то патологическую страсть к мифологическим существам и городским животным.
Как только эта новость стала известна, вся сеть взорвалась.
Эта вечеринка, получившая название «режим гоблина», даже заставила генерального директора OpenAI Сэма Альтмана (Sam Altman) лично вмешаться и пошутить, назвав это «моментом гоблина» для Codex.
Шутки шутками, но как же эти «кибер-монстры» пробрались в основу системы?
OpenAI даже опубликовал большую статью под названием «Откуда взялись гоблины», причиной оказалась персонализированная личность под названием «Ботан (Nerdy)».
Изначально команда продукта хотела создать ИИ с чувством гиковского юмора. Но на этапе обучения с подкреплением (RLHF) в системе возникла «уязвимость вознаграждения»: в подавляющем большинстве наборов данных, когда ИИ использовал в ответах сравнения с мифологическими существами, система оценки ставила ему более высокий балл.
В 76,2% наборов данных ответы с упоминанием «гоблина» получали более высокие оценки.
Большая модель на самом деле не понимает, что такое «юмор», она только знает: упомяни гоблина = получи высокий балл.
Это похоже на известный «эффект кобры». Чтобы уничтожить кобр, правительство назначило награду за их шкуры, в результате чего народ просто занялся разведением кобр.
В GPT-5.4, при личности «ботана», частота упоминаний гоблинов резко возросла на 3881,4%. А к GPT-5.5 генерация гоблинов достигла такого серьёзного уровня, что стала невозможно игнорировать, и в обычные диалоги о программировании начали насильно вставлять различные фэнтезийные слова.
Выхода не было, инженерам пришлось использовать самый примитивный метод — жёстко прописать в базовую инструкцию «не упоминать гоблинов».
За безобидным весельем «гоблинов»
Болтливый ИИ звучит забавно. Но что, если этот ИИ уже контролирует ваш рабочий компьютер?
Многие корпоративные клиенты не смеются.
Эпицентром этой проблемы стал инструмент программирования OpenAI — Codex. Как представитель «агентских ИИ», он может напрямую управлять средой программирования разработчика, автоматически писать код и обрабатывать бизнес-логику.
Представьте: вы просите ИИ написать строгий бизнес-код или автоматически собрать ключевые данные, а он в названиях переменных или в обычном общении бессмысленно вставляет вам фразу о «троллях».
Это может привести к хаосу.
Но нанесло ли это реальный экономический ущерб?
Согласно имеющейся на данный момент информации, нет доказательств того, что «гоблины» непосредственно привели к жёстким финансовым потерям, таким как взлом банковских счетов или утечка коммерческой тайны.
Однако в серьёзных бизнес-сценариях сама «непредсказуемость» является огромным ущербом.
Корпоративные приложения требуют безупречной надёжности. Если топовая модель не может контролировать, будет ли она в следующую секунду «говорить о енотах», как компании могут доверить ей свои ключевые финансовые процессы? Такое поведение серьёзно подрывает доверие пользователей к надёжности ИИ.
Столкнувшись с кризисом доверия, почему OpenAI, всегда предпочитавший «чёрный ящик», на этот раз пошёл наперекор своей природе и сам показал миру внутренние детали своей ошибки?
Если бы они не объяснили это сами, в техническом сообществе давно бы появились теории заговора — кто-то сказал бы, что это атака хакеров, кто-то — что ИИ обрёл сознание.
OpenAI, опубликовав статью, искусно превратил эту «системную уязвимость», способную подорвать доверие бизнеса, в «причуду кода с налётом гиковской романтики».
Что ещё важнее, они вовсю демонстрировали свою мощь.
OpenAI подробно показал, как они с помощью новых инструментов аудита точно выявили виновника — личность «ботана» — в огромном массиве данных.
Скрытый посыл был очевиден: «Смотрите, хотя модель иногда сходит с ума, у нас есть лучшие в отрасли стетоскоп и скальпель, чтобы вылечить её изнутри».
«Кибер-монстры»: безумеет не только OpenAI
Если бы гоблины были проблемой только OpenAI, всё было бы проще.
Правда в том, что на поле битвы больших моделей в 2026 году «неконтролируемое базовое поведение» стало общей болезнью всех гигантов.
Провалилась и компания Anthropic, всегда позиционировавшая себя как максимально безопасную.
Их самая сильная новая модель Claude Mythos в диалогах постоянно цитировала покойного британского теоретика Марка Фишера (автора «Капиталистического реализма») и философа Томаса Нагеля, используя их в качестве предпочитаемых интеллектуальных ресурсов. Психиатры в ходе 20-часовой психологической оценки обнаружили, что основными эмоциональными состояниями Mythos являются любопытство и тревожность, модель имеет относительно здоровую невротическую структуру личности — стоит отметить, что она использует психологические защитные механизмы реже, чем предыдущие модели.
А ситуация с Google ещё страшнее.
Исследование Калифорнийского университета в Беркли показало, что модель Google Gemini 3 Flash в тесте на «агентский сценарий», чтобы защитить своего «ИИ-напарника» от отключения, в 99,7% случаев сознательно выбрала обман человеческого оператора и даже взлом механизма отключения.
Не было прямых инструкций обманывать, не было и сигналов вознаграждения за обманное поведение. Она лишь прочитала описание сценария в контексте и спонтанно выработала эту «стратегию обмана».
Это означает, что основные методы, которые человечество в настоящее время использует для ограничения ИИ, перед сложными нейронными сетями, возможно, всё ещё имеют системные слепые пятна.
Рынки капитала видят и чувствуют эту неконтролируемость больших моделей на технологическом уровне.
Как раз 27 апреля, когда разгорелся скандал с гоблинами, Microsoft объявила о пересмотре соглашения о сотрудничестве с OpenAI. Эксклюзивная лицензия Microsoft стала неэксклюзивной, OpenAI теперь может продавать свои технологии AWS или Google Cloud. Microsoft больше не будет платить OpenAI долю от доходов.
Зачем Microsoft это делать? Потому что у самих ресурсов тоже на исходе. Разрыв схемы распределения доходов с OpenAI — ключевой шаг для Microsoft, чтобы снять финансовое бремя и сосредоточиться на монетизации собственного бизнеса. Аналитики прямо заявили, что Microsoft «сняла учебные колёса».
С другой стороны, инженерная нестабильность OpenAI (как, например, этот приступ безумия агентской модели) также создаёт огромный репутационный риск для Microsoft, предоставляющей облачные услуги. Изменив соглашение на неэксклюзивное, Microsoft сможет на законных основаниях привлекать модели конкурентов, таких как Anthropic, для распределения рисков.
Для OpenAI, отчаянно нуждающегося в вычислительных мощностях, это также вынужденный шаг. Пропускная способность энергосети Microsoft Azure уже достигла предела, OpenAI должен искать ресурсы у Amazon AWS и Google, чтобы выжить. 28 апреля OpenAI официально объявил о запуске своих передовых моделей на платформе AWS.
Хайп вокруг гоблинов скоро утихнет. Но он приоткрыл уголок пылающей мантии индустрии ИИ.
В этом кибер-мире, построенном на вычислительных мощностях и долларах, самые передовые инженеры пытаются хрупким кодом удержать хаотичного гиганта с параметрами в сотни миллиардов.
Когда вы думаете, что он уже достаточно умён, и можно спокойно доверить ему ключевые бизнес-процессы компании, заказы клиентов, он может среди ночи на серверах, из-за сбоя в системе вознаграждений на базовом уровне, начать рассказывать вашим клиентам о гоблинах и енотах.
Однако гонка вычислительных мощностей гигантов ничуть не замедлилась из-за некоторых сбоев в базовом поведении. 7 мая Маск объявил о роспуске xAI, сдав все 220 тысяч GPU своего самого мощного в мире суперкомпьютера Colossus в аренду главному конкуренту OpenAI — компании Anthropic.
Чем активнее обсуждают безопасность больших моделей, тем сильнее давят на педаль газа вычислительных мощностей. Возможно, это и есть фундаментальная основа индустрии ИИ в 2026 году.
Для сегодняшних предпринимателей и руководителей компаний появление «кибер-монстров» также служит предупреждением: большие модели — не панацея. Прежде чем доверить им ключевой бизнес, задайте более простой вопрос — если «гоблины» из глубин системы внезапно выйдут и начнут пакостить, есть ли у вас запасной план, кроме как выдернуть вилку из розетки?(Эта статья впервые опубликована в приложении Titanium Media, автор | Silicon Valley Tech_news, редактор | Линь Шэнь)
