В новом блоге Вэн Ли предлагает «Самосовершенствование следует начинать с Harness», Цуй Тяньи из DeepSeek распространяет и поддерживает
Бывший вице-президент OpenAI по безопасности и соучредитель Thinking Machines Lab Лилия Вэн предложила новый взгляд на саморазвитие ИИ (RSI). Она утверждает, что наиболее реалистичный путь начинается не с прямой модификации весов модели, а с эволюции **Harness** — внешней системы управления, которая отвечает за вызов инструментов, управление контекстом, планирование задач и верификацию результатов.
Исследователь DeepSeek Цуй Тяньи поддержал эту идею, отметив, что самосовершенствование на уровне Harness, как и на уровне модели, — многообещающее направление.
Вэн выделяет прогресс от инженерии контекста (ACE, MCE) и дизайна рабочих процессов (AI Scientist, ADAS, AFlow) до **Self-Improving Harness**. Последнее включает в себя цикл: поиск слабых мест, предложение модификаций кода Harness и их валидацию. Такие системы, как DGM, показали, что эволюция Harness способна значительно повысить производительность агентов в задачах кодирования без изменения весов модели.
Однако путь к полноценному RSI сталкивается с проблемами: слабые или нечеткие оценочные функции, риск взлома системы вознаграждений (reward hacking), коллапс разнообразия решений и противоречие между краткосрочным успехом и долгосрочной устойчивостью системы. Роль человека, по мнению Вэн, смещается в сторону надзора на более высоком уровне абстракции.
Вывод: Harness становится критически важным фактором, определяющим конечные возможности ИИ-систем, и представляет собой практическую точку входа для исследований в области саморазвития искусственного интеллекта.
marsbit1 ч. назад
