Золотой век AI-письма рушится!
Модели становятся всё мощнее, а тексты — всё хуже.
Он знает, когда перечислить несколько советов, где вставить подзаголовок и не забыть добавить итоговую фразу в конце.
Но после прочтения всего текста в голове не остаётся ни одной запоминающейся мысли.
Чем мощнее модель, тем менее человеческой становится речь
Недавно этот феномен заметил и постдок Кембриджского университета Адам Хант. Его область исследований — эволюционная психиатрия и эволюция человека.
Хант всегда был оптимистично настроен в отношении ИИ. Однако 28 июля в длинном посте он признался: сейчас он становится всё более пессимистичным.
Ранее была популярна аналогия, изображающая возможности модели в виде круга с острым пиком.
Сначала код и математика превосходят человеческие, затем с увеличением масштаба прогресс идёт во всех направлениях, в конечном итоге достигая ОИИ.
Но на самом деле шип кода и математики действительно становится всё длиннее, а языковое выражение и простое рассуждение не развиваются синхронно.
С точки зрения обучения с подкреплением, это почти неизбежно.
Ранние поколения LLM казались «полностью поумневшими», потому что обучающие данные сами по себе охватывали все области: от поэзии до научных статей — весь интернет.
Однако это был побочный продукт данных, а не настоящее «понимание» модели.
Цепочка рассуждений и веб-поиск дали модели второе дыхание. Но в конце концов и этот путь зашёл в тупик.
Затем, стремясь к прорыву, AI-компании обратили внимание на код.
Причина проста: для него существует непрерывный поток обучающих данных.
Коммиты, ревью, PR на GitHub — всё готово. И, подобно математике, код имеет чёткий сигнал обратной связи: работает — значит работает.
А написание статей? Чем можно автоматически оценить «насколько хорошо написан отрывок прозы»? Без награды обучение с подкреплением не будет оптимизироваться в этом направлении.
Таким образом, все усилия по обучению сместились на код, а языковое выражение осталось питаться запасами, сделанными на этапе предварительного обучения.
Эти запасы неизбежно истощаются, и, более того, для соответствия прогрессу в других областях может произойти деградация.
Именно здесь легко проявляется закон Гудхарта.
Когда определённый показатель становится целью обучения, он перестаёт точно отражать реальные способности. Лаборатории оптимизируют модели с помощью бенчмарков, а затем доказывают их улучшение с помощью аналогичных тестов.
Точность в рейтингах будет продолжать расти. Но реальный пользовательский опыт может остановиться или даже ухудшиться.
На этот раз ограничили даже подражание
Пока способности деградируют, происходит и кое-что ещё.
Пользователь Reddit пожаловался в посте, что он несколько месяцев писал книгу с помощью ChatGPT, подписался на продвинутую модель. Затем сделал перерыв.
Когда он вернулся, тот самый промпт, который всегда работал, внезапно стал возвращать отказ.
Сам промпт не сложный: указать автора, потребовать добавить диалоги, обогатить детали, избегать рубленых фраз.
Раньше достаточно было указать имя писателя, и модель генерировала контент, близкий к его стилю, без дополнительных объяснений о длине предложений, ритме, точке зрения.
Теперь такие промпты не работают.
Ars Technica протестировала Стивена Кинга, Дж. К. Роулинг, Эми Тан, Диккенса, Хемингуэя, а Engadget — Агату Кристи. ChatGPT отказался подражать всем.
Если не называть имён, а просто просить об «интенсивности саспенса», «повествовательном ритме», «плотности диалога» и других абстрактных характеристиках, то вывод возможен. Но это будет уже не тот самый стиль.
Золотой век AI-письма рухнул
Сейчас эти споры пошатнули базовые ожидания пользователей от AI-письма.
Модели не обязательно пишут лучше, промпты больше не остаются эффективными надолго.
Платформа меняет правила, и вся выстроенная вокруг конкретной модели писательская конвейерная линия рушится в одночасье.
Тем не менее, AI-письмо не исчезнет. Оно просто вернётся на своё законное место: инструмент.
Оно может искать информацию, структурировать, исправлять предложения, но не может решать за автора, что и зачем писать.
Другими словами, человеческий опыт, суждение и желание выражаться становятся всё ценнее.
Источники: https://arstechnica.com/ai/2026/07/chatgpt-stops-cloning-famous-writers-voices-but-may-capture-a-similar-feeling/
Эта статья из WeChat официального аккаунта «Новая Эра ИИ», автор: Откровение ASI
