Ну что ж, ну что ж.
Официальная версия DeepSeek еще в пути, а народный «лучший Harness» уже вырвался вперед! (Загнали-таки.jpg)
Проект называется «Pi» — это открытый программирующий агент, собравший на GitHub около 86 тысяч звезд.
Проект стал настолько популярным в основном потому, что эта штука слишком уж экономичная...
Взгляните на разработчика Эвана Кима — после подключения DeepSeek к Pi, примерно 99.93% входных токенов успешно попадают в кэш.
Другими словами, промах кэша составляет всего 0.07%, и большая часть повторяющегося контекста не требует пересчета???
Более того, команда Composio недавно провела сравнительный тест 8 популярных Agent Harness, просто запустив DeepSeek V4 Flash в них с реальными задачами.
Результаты оказались довольно драматичными —
Средняя стоимость одного успешного задания у Pi оказалась самой низкой, всего около 0.028 долларов.
Claude Code: Как так, меня обогнали в 7 раз по цене Pi!!!
DeepSeek : Мои токены и так уже очень дешевые.
Pi и другие экономные проекты: Ничего, мы еще можем помочь пользователям покупать их меньше.
Четыре инструмента с DeepSeek, промах кэша снижен до 0.07%
Прежде чем говорить о Pi, давайте немного обсудим, что же такое Harness.
Как мы знаем, большие языковые модели сами по себе больше похожи на мозг, отвечающий за мышление —
Чтобы заставить их реально работать в репозитории кода, нужно снабдить их глазами, руками и рабочим процессом.
Например, кто будет читать файлы, как вызывать терминал, как запускать тесты после изменения кода — все эти инженерные системы, вращающиеся вокруг модели, называются Harness.
Именно поэтому одна и та же модель с разным Harness может демонстрировать огромную разницу в реальной производительности и стоимости вызовов!!
А разработчик Марио Зехнер создал этот «Pi» именно для постройки такой рабочей платформы для больших моделей.
Я просмотрел проект и вкратце подвел итог: подход Pi довольно прямой —
А именно, эта штука с самого начала не планировала запихивать «все функции» в ядро...
Конкретнее, по умолчанию Pi дает модели всего четыре инструмента — чтение файла, запись файла, изменение файла и выполнение команды.
Если пользователю нужен режим планирования, саб-агенты, MCP, контрольные точки Git или управление правами, то их можно по одной устанавливать через расширения и Skills~
Ммм... наверное, это как сдать черновую квартиру с коммуникациями, где Pi отвечает за возведение стен, а окончательный ремонт под студию, игровую комнату или трехкомнатную квартиру — на усмотрение пользователя??
И, как назло, это как раз совпало с потребностями DeepSeek ...
Как известно, DeepSeek обладает сильными способностями к рассуждению и программированию, но вызов инструментов, управление контекстом и воспроизведение рассуждений имеют свои правила интерфейса.
Из-за этого, если мы просто засуним его в универсальный Harness, разработанный для OpenAI или Claude, легко столкнуться с проблемами несовместимости форматов инструментов, ошибками воспроизведения рассуждений и неэффективностью кэширования.
Вот и получается, что официальный продукт DeepSeek еще в пути, а Pi уже начал адаптацию —
В апреле этого года Pi добавил поддержку нативного провайдера DeepSeek , одновременно исправив ошибку 400 в воспроизведении сессий V4.
Он сохраняет reasoning_content в соответствии с требованиями интерфейса DeepSeek , и отображает внутреннюю интенсивность рассуждений Pi на поддерживаемый DeepSeek уровень мышления.
Истинно народная кастомизация.
Но! То, что действительно сделало Pi и DeepSeek идеальными партнерами, — это «кэширование».
Ведь Coding Agent на каждом шаге выполнения должен отправлять модели системный промпт, определения инструментов, историю диалога и код заново, что приводит к тому, что —
Чем дольше выполняется задача модели, тем длиннее становится запрос, и большую часть этого контента DeepSeek уже видел...
Тут-то и пригождается автоматическое кэширование префикса.
Оно временно запоминает уже вычисленное начало запроса, и при следующем вызове, пока системный промпт, определения инструментов и история диалога остаются неизменными, этот большой фрагмент можно напрямую повторно использовать, и модели нужно обрабатывать только добавленную в конце новую информацию.
А «эффективность попадания в кэш» как раз и измеряет, сколько токенов во входных данных успешно повторно использовали предыдущие вычисления.
Чем выше эффективность попадания, тем меньше токенов нужно пересчитывать, и, естественно, ниже стоимость вызова.
Но проблема тоже здесь: лишняя временная метка в промпте, другой порядок инструментов — и кэш может тут же забыть все и начать вычисления с нуля.
Но преимущество Pi именно в его достаточной простоте: инструментов по умолчанию мало, содержание диалога постоянно дополняется в конец, редко возвращаясь к возне с предыдущим содержанием.
Таким образом, DeepSeek , открыв журнал, может пропустить уже прочитанные сотни страниц и обработать только несколько новых, добавленных в конце, что значительно снижает промах кэша~
Вот и пользователь Эван Ким подтверждает на личном опыте —
После подключения DeepSeek к Pi промах кэша упал до 0.03%, что соответствует примерно 99.97% эффективности попадания в кэш.
Пересчитав, получаем, что стоимость обработки 10 миллиардов токенов составляет всего около 19 юаней, а без использования кэша она бы превысила 900 юаней.
Кроме того, команда Composio недавно провела сравнительный тест 8 популярных Agent Harness, просто запустив DeepSeek V4 Flash в них с реальными задачами.
Результаты оказались довольно драматичными: один и тот же DeepSeek с разным Harness может иметь разницу в стоимости до 7 раз???
На первый взгляд, действительно, «средняя стоимость» одного успешного задания у Pi Agent самая низкая, всего около 0.028 долларов.
Следом идут Deep Agents, Hermes Agent, OpenCode, Codex, Oh My Pi и Prime Agent.
Давайте посмотрим на любимчика от A, Claude Code, бесспорного «самого дорогого игрока» —
Средняя стоимость одного успешного задания составляет около 0.195 долларов, да, почти в 7 раз дороже Pi... (Конец света)
Конечно, эта цифра не означает, что Claude Code не способен, ведь он сам по себе представляет собой полную инженерную систему, созданную вокруг модели Claude.
Просто, когда базовая модель меняется на DeepSeek , рабочий процесс, оптимизированный под экосистему Claude, не полностью использует преимущества низкой стоимости и высокой эффективности кэширования DeepSeek .
Модель все та же DeepSeek , Pi просто заставляет ее меньше читать уже прочитанное.
Pi: Спокойно жду, пока официальный Harness превзойдет меня.
Официальный Harness уже собирает команду, цель — Claude Code
Конечно, каким бы подходящим для DeepSeek ни был Pi, на данный момент это все еще стороннее решение.
Ведь сам DeepSeek тоже решил лично заняться созданием Harness, и, вероятно, день его запуска уже не за горами? (Предполагаю)
В мае этого года старший исследователь DeepSeek Чэнь Дэли подтвердил, что внутри компании формируется команда по разработке Agent Harness, и кратко сформулировал их цель —
Создать Harness для DeepSeek Code с нуля, ориентируясь на Claude Code.
Затем в течение последующих месяцев на официальном сайте массово публиковались и обновлялись вакансии для продакт-менеджеров и инженеров-разработчиков Harness, например:
А в конце июля руководитель команды DeepSeek Agent Harness, золотой медалист ACM Цуй Тяньи, все еще искал разработчиков для соответствующих проектов в сети.
Похоже, дело близится к завершению.
Собрав все подсказки воедино, путь DeepSeek становится все более ясным.
V4 отвечает за усиление базовых возможностей рассуждения, программирования и агентов; официальный Harness отвечает за подключение модели к терминалу, репозиторию кода и инструментарию; управление контекстом и обратная связь по тестам могут отправлять реальные случаи неудач пользователей обратно команде разработчиков моделей.
Конечно, честно говоря, после запуска официального продукта Pi не потеряет своего места.
Harness от DeepSeek ориентирован на готовность к использованию из коробки и более глубокую синергию с собственными моделями.
Pi же оставляет рабочий стол пользователю для самостоятельной доработки, что больше подходит разработчикам, которые любят контролировать инструменты, настраивать рабочие процессы и随时 менять модели.
Ведь Pi изначально не привязывал себя к DeepSeek ...
Он поддерживает Claude, OpenAI, Gemini, Kimi , MiniMax и другие. Сегодня используйте DeepSeek для экономии токенов, завтра меняйте на другую модель для выполнения особых задач — пользователь может в любой момент переключить провайдера.
Ммм... Это также означает, что официальному Harness от DeepSeek придется столкнуться не только с продуктами типа Claude Code, но и с такими открытыми рабочими столами, как Pi, которые уже были удобно доработаны разработчиками. (doge)
Итак, теперь давление официально переходит к официальной версии —
Harness, созданный DeepSeek для самого себя, никак не может экономить токены хуже, чем сторонние решения??? (doge)
Ссылки:
[1]https://x.com/composio/status/2086814488162972027?s=20
[2]https://github.com/earendil-works/pi
Эта статья взята с официального аккаунта WeChat «量子位», автор: Мэн Яо
