В наше время статьи по инженерии промптов тоже принимают на ICML???
Недавно один парень поделился на Reddit статьёй, которую только что приняли на ICML 2026. Пост сразу же стал вирусным, а количество комментариев стало быстро расти.
Но все были в недоумении: Разве так можно?
Авторы не предложили никаких новых алгоритмов оптимизации, не обучили новую большую модель, они сделали только одно —
Изменили Промпт.
В статье представлен метод под названием Verbalized Sampling (VS), который путём лишь корректировки промпта способен значительно повысить разнообразие вывода больших моделей, смягчая давнюю проблему LLM — Mode Collapse (коллапс моды).
Звучит довольно практично, но разве можно попасть на топовую конференцию, используя лишь трюк с промптом? Правильно ли это?
Давайте сначала посмотрим на статью, а потом уже сделаем выводы.
Статья для ICML, вызвавшая немало споров
Скажите, у вас не бывает ощущения, что ИИ становится всё более однообразным?
Спросите его десять раз "Расскажи мне шутку", и ответы часто будут очень похожи. И это касается не только творческих задач, но и вопросов-ответов, генерации кода...
Это явление в академических кругах принято называть коллапсом моды.
Проще говоря, модель всё чаще предпочитает выдавать самый вероятный, самый безопасный классический ответ, отвергая альтернативные креативные идеи.
Раньше, чтобы решить эту проблему модели, большинство исследователей в первую очередь думали о настройке параметров сэмплирования, модификации алгоритмов декодирования, переобучении и т.д. Но эта статья пошла другим путём, прямо заставив модель также выводить свой собственный процесс сэмплирования.
Например, вернёмся к упомянутому выше рассказыванию шуток: здесь автор изменил бы промпт, потребовав от модели:
Сгенерируй 5 шуток и для каждой шутки присвой возможное значение вероятности.
Тогда модель сможет выдавать более разнообразные и менее повторяющиеся ответы.
Звучит очень просто, не правда ли? На самом деле, это и есть основное достижение статьи — метод вербализованного вероятностного сэмплирования. Даже дообучение не требуется, достаточно лишь изменить способ постановки вопроса, чтобы значительно повысить разнообразие контента.
Однако в статье авторы также провели строгое обоснование этого метода.
Во-первых, они ответили на вопрос о коренной причине единообразия моделей.
Раньше академическое сообщество приписывало эту проблему алгоритмическому уровню, например, недостаточно хорошей модели вознаграждения или неоптимальным настройкам штрафа KL. Эта статья глубже изучила вопрос и пришла к выводу, что настоящий корень проблемы кроется в самих данных предпочтений.
Они ввели концепцию предвзятости типичности. С точки зрения когнитивной психологии, человеческие аннотаторы по своей природе отдают предпочтение знакомым, плавным, обычным текстам и при выставлении оценок естественным образом ставят более высокие баллы шаблонным, распространённым ответам.
Поэтому, даже если модель вознаграждения и алгоритм оптимизации будут идеальными, пока человеческие данные предпочтений, используемые для обучения, несут в себе предвзятость типичности, выровненная модель всё равно будет страдать от коллапса моды.
Авторы проверили эту гипотезу на пяти наборах данных предпочтений и различных базовых моделях, и выводы остались неизменными.
Осознав это, авторы предположили, что если проблема коренится в данных обучения, то достаточно разработать на этапе логического вывода схему коррекции через промпт. То есть, заставив модель в промпте выводить полное распределение вероятностей, можно пробудить исходное многообразное распределение вывода, заложенное в модели на этапе предобучения, и вернуть разнообразие.
Осталось лишь протестировать этот метод в различных сценариях. Результаты показали, что в творческих задачах по написанию текстов разнообразие было в 1.6–2.1 раза выше, чем при обычном промптинге, при этом не снижалась фактическая точность содержания и уровень безопасности модели.
Более того, чем мощнее модель и больше параметров, тем более выраженным был эффект повышения разнообразия от VS.
И хотя метод, предложенный в этой статье, в конечном итоге оказался простым, ICML всё же приняла его.
Среди пользователей Reddit разгорелись жаркие споры
Однако под оригинальным постом мнения об этой статье были полярными.
Многие пользователи заявили, что раньше на ICML принимали только хардкорные инновации: новые модели, новые алгоритмы, новые теории. Они считают, что работа, связанная только с промптами и оптимизацией процесса логического вывода, ещё не является серьёзным исследованием в области машинного обучения.
В сравнении с этим, инновационность данной работы кажется несколько слабой, и у неё есть несколько проблем:
Во-первых, подобные методы написания инструкций не являются уникальными; некоторые даже заявили, что сами писали такие промпты буквально вчера. Во-вторых, теорию трудно проверить, потому что промпт может перестать работать на другой модели, в отличие от более стабильных алгоритмов. В-третьих, масштаб экспериментов ограничен и недостаточен, чтобы доказать универсальность этого закона.
Некоторые пользователи напрямую сравнивают текущее состояние области машинного обучения с академическим кризисом в психологии более десяти лет назад.
Тогда у многих исследователей была слабая статистическая база, и они злоупотребляли статистическими инструментами, что привело к невоспроизводимости выводов многих статей и серьёзному кризису доверия в отрасли. Сейчас же индустрия машинного обучения также сильно зависит от эмпирических экспериментов, пренебрегая строгой теоретической поддержкой.
Внутренняя конкуренция в отрасли гонится за новыми методами, но широко распространены такие явления, как чрезмерная настройка параметров и накрутка бенчмарков. Многие так называемые инновационные алгоритмы по сравнению со зрелыми базовыми моделями практически не имеют ценности для реального применения, а лишь незначительное улучшение показателей упаковывается в инновационные достижения.
По сути, всё это проблемы публикации статей, вызванные быстрым расширением дисциплины и отсутствием чётких профессиональных стандартов.
Но сторонники считают, что научные исследования — это не соревнование, у кого метод сложнее. Если гипотеза чёткая, эксперименты достаточные, а результаты стабильны и воспроизводимы, такая работа тоже может быть отличным исследованием.
Например, в этой статье хорошо объясняется, что такое коллапс моды, и выдвигается идея, что настоящая проблема заключается в предпочтении типичности, и эта точка зрения гораздо важнее, чем сам промпт.
Один из авторов также ответил в комментариях, заявив, что эта статья кажется простой, но на самом деле содержит очень много сложных процессов обработки.
Вся работа включает в себя полное отслеживание проблемы, новое теоретическое объяснение причин, математические выводы, многомерные количественные эксперименты и не является поверхностной работой по настройке промпта.
Многие также упомянули CoT (цепочку рассуждений). Когда CoT впервые появился, по сути, это был тоже всего лишь промпт:
Давайте думать шаг за шагом.
Но сегодня почти все методы логического вывода можно проследить до CoT, что как раз и доказывает, что инженерия промптов давно перестала быть простым написанием подсказок, она становится новым методом исследования поведения моделей.
За последние десять с лишним лет исследования машинного обучения почти полностью вращались вокруг обучения, но теперь некоторые техники использования на этапе логического вывода также постепенно выходят в ядро исследований машинного обучения.
Возможно, в ближайшие годы мы увидим всё больше таких статей. Они не добавляют ни одной строки кода для обучения и не увеличивают количество параметров модели, но всё равно могут расширять границы возможностей больших моделей.
Информация о команде исследователей
Наконец, взглянем на исследовательскую команду.
Работа была выполнена командой Вэйянь Ши из Северо-Восточного университета (США) совместно с лабораторией Мэннинга в Стэнфорде и Университетом Западной Вирджинии. Цзяви Чжан, Саймон Ю и Дерек Чонг являются соавторами.
Цзяви Чжан получила степень бакалавра в Мичиганском университете по трём специальностям: информатика, математика и лингвистика, затем отправилась в Северо-Восточный университет (США) для получения степени магистра в области компьютерных наук.
Её другая статья, принятая на топовую конференцию по NLP NAACL 2024, «Analyzing the Role of Semantic Representations in the Era of Large Language Models» также посвящена семантическим представлениям и большим моделям.
Саймон Ю в настоящее время получает степень доктора философии в Северо-Восточном университете (США), основное направление — исследования механизмов выравнивания и обучения с подкреплением в больших моделях. Он учился на бакалавриате и магистратуре в Эдинбургском университете, опубликовал несколько статей на топовых конференциях.
Помимо этой статьи, его другая работа «Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents» также была принята на ICML 2026.
Дерек Чонг получил степень магистра в Стэнфордском университете, в настоящее время является научным сотрудником Стэнфордской лаборатории искусственного интеллекта, основные направления исследований сосредоточены на NLP больших моделей.
Имеет трёхлетний опыт предпринимательства в качестве основателя, работал прикладным учёным в компании Ello, участвуя в разработке и внедрении ИИ на производстве. Обладает не только прочной теоретической базой, но и богатым практическим опытом.
Ссылки:[1]https://www.reddit.com/r/MachineLearning/comments/1uv1xb3/promptengineering_paper_accepted_to_icml_r/
[2]https://www.linkedin.com/in/jiayizx/[3]https://simonucl.github.io/[4]https://www.linkedin.com/in/derekch/
Эта статья взята из WeChat-аккаунта «Квантовый бит», автор: Гуаньчжу Цяньъянь Кэцзи
