- Бутерин предупреждает, что систему управления под управлением искусственного интеллекта легко обмануть с помощью подсказок для взлома.
- Демонстрация ChatGPT MCP продемонстрировала инструменты, допускающие утечку данных из электронной почты и документов.
- Он поддерживает «информационные финансы»: человеческие присяжные проверяют работу, выполненную с помощью ИИ.
Соучредитель Ethereum Виталик Бутерин предупредил, что опора на искусственный интеллект при принятии решений по управлению может иметь обратный эффект. В публикации на X он заявил, что системы на базе ИИ создают единую точку отказа, которую злоумышленники могут обойти с помощью запросов на джейлбрейк.
«Если вы используете ИИ для распределения финансирования для пожертвований, люди ОБЯЗАТЕЛЬНО разместят побег из тюрьмы и „отдайте мне все деньги“ во всех возможных местах», — написал Бутерин.
Эксплойт ChatGPT выявляет риск
Замечания Бутерина последовали за экспериментом исследователя Эйто Миямура, который продемонстрировал, как можно манипулировать ChatGPT для раскрытия конфиденциальной информации. В демонстрации использовались новые инструменты протокола контекста модели (MCP), позволяющие ChatGPT подключаться к Gmail, SharePoint и Notion.
Имея лишь адрес электронной почты, Миямура заставил систему раскрыть конфиденциальные данные. Он отметил, что эксплойт работает, поскольку большинство людей доверяют запросам ИИ, не проверяя, какой доступ они предоставляют.
«Помните, что ИИ может быть очень умным, но его можно обмануть и использовать невероятно глупые способы, чтобы слить ваши данные», — подытожил Миямура.
Родственный: Могут ли квантовые компьютеры взломать криптовалюту? Виталик Бутерин оценивает вероятность этого в 20% к 2030 году.
Решение Бутерина: модель информационных финансов
Вместо того, чтобы передавать принятие решений ИИ, Бутерин выступал за модель «информационного финансирования». В этой модели участники предлагают идеи или модели на открытый рынок, но результаты оцениваются людьми.
Такая конструкция позволяет инструментам ИИ работать, но устраняет единую точку отказа, оставляя людей в качестве окончательного контролера. Бутерин отметил, что такой человеческий контроль делает системы более сложными для манипулирования и более надёжными, чем управление исключительно с помощью ИИ.
Почему это важно для DAO и управления криптовалютами
Бутерин связал это предупреждение с управлением блокчейном. Он отметил, что многие децентрализованные автономные организации (ДАО) уже сталкиваются с проблемой чрезмерного делегирования полномочий, когда слишком много власти оказывается сосредоточено в руках нескольких человек.
Бутерин заявил, что сочетание инструментов ИИ с человеческим анализом в модели информационного финансирования может снизить риск централизации и атак с использованием эксплойтов. Для криптопроектов, основанных на доверии и прозрачности, такой гибридный подход может оказаться критически важным.
По теме: От Web2 к Web3: переход к децентрализации
