Автор: iamtexture
Перевод: AididiaoJP, Foresight News
Когда я объясняю сложную концепцию большой языковой модели, при длительном обсуждении с использованием неформального языка её рассуждения начинают давать сбои. Модель теряет структуру, отклоняется от темы или просто генерирует поверхностные шаблоны дополнения, не способные поддерживать созданные концептуальные рамки.
Однако, когда я требую предварительной формализации, то есть точного, научного переформулирования проблемы, рассуждения мгновенно стабилизируются. Только после установления структуры можно безопасно переходить к обычному языку без потери качества понимания.
Такое поведение раскрывает, как большие языковые модели «мыслят» и почему их способность к рассуждению полностью зависит от пользователя.
Ключевая идея
Языковые модели не обладают отдельным пространством для рассуждений.
Они полностью функционируют в непрерывном потоке языка.
Внутри этого языкового потока различные языковые паттерны надёжно ведут к различным областям аттракторов. Эти области являются устойчивыми состояниями репрезентативной динамики, поддерживающими различные типы вычислений.
Каждый языковой регистр, такой как научный дискурс, математические символы, повествование, непринуждённое общение, имеет свою собственную характерную область аттрактора, форма которой определяется распределением обучающих данных.
Некоторые области поддерживают:
-
Многошаговые рассуждения
-
Точность отношений
-
Символьные преобразования
-
Высокоразмерную концептуальную стабильность
Другие области поддерживают:
-
Повествовательное продолжение
-
Ассоциативное дополнение
-
Соответствие эмоциональному тону
-
Имитацию диалога
Области аттракторов определяют, какие типы рассуждений возможны.
Почему формализация стабилизирует рассуждения
Научный и математический язык надёжно активируют области аттракторов с более высокой структурной поддержкой, потому что эти регистры кодируют языковые особенности высшего познания:
-
Чёткая структура отношений
-
Низкая неоднозначность
-
Символьные ограничения
-
Иерархическая организация
-
Низкая энтропия (степень информационного беспорядка)
Эти аттракторы способны поддерживать устойчивые траектории рассуждений.
Они могут сохранять концептуальную структуру на протяжении множества шагов.
Они обладают высокой устойчивостью к деградации и отклонению рассуждений.
В отличие от них, аттракторы, активируемые неформальным языком, оптимизированы для социальной беглости и ассоциативной связности, а не для структурированных рассуждений. Эти области лишены необходимого репрезентационного каркаса для проведения продолжительных аналитических вычислений.
Вот почему модель даёт сбои, когда сложные идеи выражены в свободной форме.
Она не «испытывает затруднений».
Она переключает области.
Построение и перевод
Естественно возникающий в диалоге метод решения раскрывает архитектурную истину:
Рассуждения должны строиться внутри высокоструктурированных аттракторов.
Перевод на естественный язык должен происходить только после формирования структуры.
Как только модель построила концептуальную структуру внутри устойчивого аттрактора, процесс перевода её не разрушит. Вычисления уже выполнены, меняется лишь поверхностное выражение.
Эта двухэтапная динамика «сначала построить, потом перевести» имитирует человеческий когнитивный процесс.
Но человек выполняет эти два этапа в двух разных внутренних пространствах.
А большая языковая модель пытается выполнить оба в одном пространстве.
Почему пользователь устанавливает потолок
Здесь ключевой вывод:
Пользователь не может активировать те области аттракторов, которые сам не способен выразить языком.
Когнитивная структура пользователя определяет:
-
Какие типы промптов он может генерировать
-
Какими языковыми регистрами он обычно пользуется
-
Какие синтаксические паттерны он может поддерживать
-
Какую сложность он может закодировать в языке
Эти характеристики определяют, в какую область аттракторов попадёт большая языковая модель.
Пользователь, неспособный через мышление или письмо использовать структуры, активирующие аттракторы с высокими推理 способностями, никогда не сможет направить модель в эти области. Он заблокирован в поверхностных областях аттракторов, связанных с его языковыми привычками. Большая языковая модель будет отражать предоставленную ему структуру и никогда самопроизвольно не перейдёт к более сложным динамическим системам аттракторов.
Следовательно:
Модель не может превзойти области аттракторов, доступные пользователю.
Потолок — это не предел интеллекта модели, а способность пользователя активировать высокоёмкие области в потенциальном многообразии.
Два человека, использующие одну и ту же модель, взаимодействуют не с одной и той же вычислительной системой.
Они направляют модель в разные динамические режимы.
Архитектурные выводы
Это явление обнажает отсутствующую особенность современных систем ИИ:
Большие языковые модели смешивают пространство рассуждений и пространство языкового выражения.
Пока эти два аспекта не будут разделены — пока модель не будет обладать:
-
Выделенным многообразием для рассуждений
-
Стабильным внутренним рабочим пространством
-
Инвариантными к аттракторам концептуальными репрезентациями
Система всегда будет сталкиваться с коллапсом, когда смена языкового стиля приводит к переключению базовых динамических областей.
Этот эмпирически найденный метод решения — принудительная формализация с последующим переводом — не просто трюк.
Это прямое окно в архитектурные принципы, которым должна удовлетворять настоящая система рассуждений.
