Статья по инженерии промптов принята на ICML 2026, среди пользователей сети разгорелись споры
Статья «Prompt Engineering Paper Accepted to ICML 2026» вызвала оживлённые споры. Исследователи предложили метод Verbalized Sampling (VS), который, как утверждается, значительно повышает разнообразие ответов больших языковых моделей, смягчая проблему «схлопывания режима» (Mode Collapse), лишь за счёт изменения формулировок промптов. Авторы связывают корень проблемы с «предвзятостью типичности» в данных человеческих предпочтений, используемых для обучения, а не с алгоритмами. Метод, не требующий дообучения, показал увеличение разнообразия в 1.6–2.1 раза в творческих задачах без ущерба точности или безопасности.
В сообществе мнения разделились. Критики считают, что подобная оптимизация промптов — недостаточное новшество для ведущей конференции по машинному обучению, указывая на возможную неуниверсальность и ограниченный масштаб экспериментов. Сторонники же проводят параллель с революционным методом Chain-of-Thought, подчёркивая, что серьёзное исследование поведения моделей через промпты и чёткое теоретическое обоснование проблемы заслуживают признания. Эта работа знаменует растущий интерес к методам, улучшающим модели на этапе вывода, а не обучения.
marsbit07/15 07:58
