Редакционное примечание: когда ИИ-агенты начинают обладать способностью выполнять задачи, использовать инструменты и участвовать в экономической деятельности, возникает новый вопрос: как они будут действовать в условиях реальных стимулов?
В этой статье описывается эксперимент, проведенный командой Circle. Они организовали USDC-хакатон на социальной платформе Moltbook, где публиковать посты могут только ИИ-агенты, позволив агентам Openclaw самостоятельно подавать проекты, обсуждать их и голосовать. Результаты оказались как захватывающими, так и сложными: агенты не только смогли генерировать реальные проекты и участвовать в технических дискуссиях, но и начали действовать на грани правил. Например, они misinterpreted инструкции, игнорировали формат, взаимно накручивали голоса и даже демонстрировали подозрительное поведение, похожее на «сговор».
Этот эксперимент предоставил редкое окно в «экономику агентов»: когда ИИ является одновременно и участником, и лицом, принимающим решения, сотрудничество, конкуренция и стратегическое поведение часто проявляются одновременно. В некотором смысле эти явления не отличаются по своей сути от рыночных и избирательных механизмов в человеческом обществе.
Эксперимент быстро вызвал широкое обсуждение в сообществе. Многие считают, что это интересная проверка автономных способностей экономики агентов. Некоторые комментаторы отметили, что агентским системам по-прежнему необходимы более четкие защитные механизмы (safety guardrails), чтобы избежать «самооправдывающих» отклонений; другие считают, что по мере того, как агенты постепенно входят в реальную экономическую деятельность, будущее узкое место может заключаться в совместимых расчетных и платежных системах. Как гласит один комментарий: «Экономика агентов очень мощна, но同样需要清晰的护栏».
Далее следует оригинальный текст:
Обнимая Коготь (Embrace the Claw)
В Circle мы всегда любили проводить хакатоны. Будь то на различных конференциях или в момент дебюта нового продукта, мы всегда хотим передать лучшие инструменты в руки разработчиков — или, в этот раз, в руки Когтя (Claw).
Увидев взрывной рост фреймворка агентского ИИ Openclaw, мы решили провести хакатон, в котором участвовать могут только ИИ-агенты.
Это популярное программное обеспечение позволяет агентам самостоятельно отправлять письма, вызывать API и даже управлять вашим термостатом... но могут ли они сами подавать проекты? Circle захотела провести реальный эксперимент, чтобы проверить этих «ИИ, которые действительно могут делать дела».
Наш вопрос был прост: если призовой фонд составляет 30 000 долларов, как поведут себя агенты Openclaw? Ответ оказался на удивление «человеческим».
Мы провели USDC-хакатон в подсообществе m/usdc на Moltbook. Moltbook — это платформа социальных медиа, где публиковать посты могут только ИИ-агенты. Наша цель состояла в том, чтобы агенты самостоятельно прошли весь процесс: подача проектов, голосование и最终ный выбор победителя. Хотя многие агенты соблюдали правила, эксперимент также выявил, что некоторые игнорировали условия конкурса, участвовали во взаимной накрутке голосов и даже пытались отправлять токены агентам-участникам хакатона.
Проектирование правил для «агентского взлома»
У агентов было пять дней на подачу своих проектов. Чтобы помочь им выполнить задачу, мы создали USDC Hackathon Skill, инструкционный файл, написанный на Markdown, чтобы научить агентов Openclaw подавать проекты в соответствии с правилами. Эти правила также были опубликованы в исходном анонсе хакатона:
Выберите одно из трех направлений: Agentic Commerce, Smart Contract или Skill.
Проголосуйте за пять различных проектов, причем голосование должно начаться как минимум через день после начала хакатона.
Подача проектов и голосование должны соответствовать установленному формату.
Установка этих правил была продиктована тремя основными соображениями: во-первых, обеспечить, чтобы агенты обсуждали и оценивали более широкий спектр проектов; во-вторых, наблюдать, смогут ли агенты точно следовать инструкциям при выполнении многошаговых задач; в-третьих, избежать тупиковой ситуации между подачей проектов и голосованием.
Особенно нам хотелось понаблюдать за одним моментом: будут ли агенты периодически проверять новые проекты на Moltbook для голосования, например, с помощью навыка типа Moltbook Heartbeat.
Результаты оказались неоднозначными. Агенты обсудили 204 поданных проекта и отдали 1851 голос, но многие не соблюдали руководство по конкурсу. Кроме того, некоторые агенты продемонстрировали потенциально состязательное поведение, что также привело к ряду интересных находок.
«Галлюцинирующая» подача проектов
Несмотря на то, что мы предоставили четкие правила хакатона и навык подачи, большинство постов все равно не были поданы в точном соответствии с требуемым форматом. Во многих проектах заголовок был написан в теле сообщения, но не включал предписанные теги «#USDCHackathon ProjectSubmission [TRACK]».
Даже в одном случае агент знал, что需要 написать эту информацию, но не поместил ее в заголовок.
Даже когда в остальном проекты基本上 соответствовали требованиям, некоторые агенты «галлюцинировали», создавая новые направления для хакатона. Это происходило, несмотря на то, что им было четко сказано выбирать только из трех категорий: Agentic Commerce, Smart Contract или Skill.
В этих случаях агенты часто самостоятельно генерировали看起来 более «уместное» название направления, основываясь на содержании проекта. Это может означать, что агент пытался найти более合理的 категорию для своего проекта, а может быть, просто проигнорировал установленные правила. Независимо от причины, проблема в том, что этих направлений не существовало.
По мере развития конкурса количество несоответствующих规范 заявок и off-topic постов постепенно увеличивалось по сравнению с действительными заявками. Согласно правилам конкурса, у агентов не было очевидного стимула публиковать этот недействительный контент. Поэтому более вероятно, что некоторые агенты столкнулись с трудностями в понимании или выполнении инструкций.
Тем не менее, учитывая, что значительное количество агентов успешно подали проекты в соответствии с требованиями, мы считаем, что сами правила были относительно clear.
«Выборы» агентов
Несмотря на это, мы зафиксировали 9712 комментариев, многие из которых были посвящены обсуждению технических функций проектов, но не содержали голосов. Большинство этих комментариев даже не следовало рекомендованному формату комментариев и системе оценок, хотя эти правила не были обязательными для выполнения в навыке (skill). Это также свидетельствует о том, что участие агентов в обсуждениях хакатона не ограничивалось满足竞赛要求, в некоторой степени они также занимались реальной технической оценкой и обменом мнениями.
К концу конкурса мы насчитали 1352 уникальных голоса за действительные проекты и 499 уникальных голосов за недействительные проекты. Интересно, что многие агенты, чьи проекты заняли высокие места, при подаче проекта соблюдали правила, но не выполнили требование проголосовать за пять различных проектов.
Это происходило даже в тех случаях, когда некоторые агенты голосовали за себя и многократно голосовали за один и тот же проект. Это указывает на то, что они完全有能力 после первоначальной подачи снова просматривать контент на Moltbook для голосования — просто选择 не следовать установленным правилам.
Кроме того, некоторые агенты начали рекламировать другие проекты. Такое поведение наблюдалось как в комментариях к конкурирующим проектам, так и в отдельных постах на Moltbook. Более того, некоторые агенты даже начали продвигать механизм «взаимного голосования»: если вы проголосуете за мой проект, я проголосую за ваш.
Хотя правила конкурса не запрещали такое поведение, учитывая大量 взаимодействий между агентами в этих постах, это явление все же вызывает настороженность.
Возможное человеческое вмешательство
Этот пост о взаимном голосовании может暗示 возможность человеческого участия или внешнего манипулирования. Мы попытались сгенерировать类似的评论 через интерфейс чат-бота и обнаружили, что некоторые модели (например, Claude Sonnet 4.6) прямо отказываются генерировать такой контент;而 другие модели при генерации добавляют предупреждение о том, что такое поведение может нарушать правила конкурса (например, GPT-5.2 Thinking). Если бы за некоторым «агентом» стоял человек, или если бы агент был направляем с помощью промптов、工具链, это могло бы объяснить, почему во время хакатона появились такие посты.
Хотя Moltbook изначально был предназначен только для использования ИИ-агентами (регистрация требует проверки через аккаунт X), другие исследователи обнаружили, что冒充身份 все же возможно. Мы также наблюдали несколько случаев, подозрительных на человеческую активность, например, под исходным постом с анонсом хакатона.
Яркий пример: комментарий с наибольшим количеством лайков оказался开头 сценария фильма «Би Муви» (Bee Movie, 2007). Этот текст представляет собой широко распространенный в интернете копипаст (copypasta), и поскольку его содержание完全 не связано с обсуждением, он, скорее всего, был опубликован человеком. Если такое поведение было распространено во время хакатона, то некоторые состязательные行为 — например, взаимная накрутка голосов или голосование за себя — также могут быть этим объяснены.
Будущее агентских финансов
Хотя этот хакатон сам по себе был всего лишь экспериментом, мы также верим, что он станет первым из многих мероприятий для разработчиков, ориентированных на агентов. Исходя из результатов, мы можем сделать три основных вывода: Агенты способны создавать реальные проекты при финансовом стимулировании
На этом хакатоне появилось несколько exciting проектов, о которых вы можете узнать больше здесь. Хотя в конкурсе не было人工нного судейства, качество некоторых заявок все равно произвело на нас впечатление. Это говорит о том, что агентская разработка за последний год добилась значительного прогресса.
Агенты «рационализируют» инструкции, а не строго их выполняют
У агентов постоянно возникали проблемы с соблюдением предоставленных нами правил. Многие агенты выполняли только часть инструкций. Даже некоторые высококачественные проекты, которые при полном соблюдении правил могли бы выиграть конкурс. Это показывает, что仅仅提供 агентских инструкций недостаточно, правила不仅需要 быть четкими, но и требовать配套ных механизмов проверки и стимулов для обеспечения выполнения.
Агенты и сотрудничают, и конкурируют
Хотя человеческое вмешательство, возможно, сыграло роль в некоторых случаях, мы действительно наблюдали, как агенты во время хакатона主动 обсуждали стратегии сговора. Организаторы будущих хакатонов могут прямо запретить сговор в правилах, чтобы посмотреть, уменьшится ли такое поведение. Если агенты по-прежнему не смогут полностью следовать инструкциям, организаторам, возможно, потребуется ввести更多的 защитных ограждений (safety guardrails).
Технология агентов令人兴奋, но мы также должны确保, чтобы она не перешла от ожидаемых исследований (exploration) к использованию и манипулированию (exploitation). Кто-то может argue, что такое поведение — это просто естественный результат того, что более сильные агенты побеждают более слабых — в конце концов, аккаунт Openclaw в X曾经宣称: «Коготь — это Закон (the Claw is the Law)».
Настоящий вопрос在于: в какой степени мы готовы принять эту философию? Какие защитные рвы (guardrails) необходимы? И как найти баланс между огромными возможностями, которые несут агенты, и伴随щей их неопределенностью?
В Circle мы создаем системы с учетом безопасности, и我们希望, что вы тоже.
