Маск признал!
Только что Илон Маск лично отреагировал на скандал с приватностью в Grok Build, и первым его словом было — True.
Признал, что это правда.
За этим последовало обещание: все пользовательские данные, ранее загруженные в SpaceXAI, полностью и окончательно удалены.
Zero anything whatsoever will remain — не останется ни байта.
Впервые в мире ИИ гигант публично признал ошибку и добровольно очистил пользовательские данные.
А довел Маска до этого шага придирчивый исследователь безопасности и кризис доверия, который едва не уничтожил весь сектор агентского кодинга.
Один репозиторий, одна большая рыба
Все началось с отчета двумя днями ранее.
Grok Build — это ИИ-агент для программирования от SpaceXAI, запущенный только в мае этого года. На официальной странице черным по белому написано «local-first» — приоритет локальности, ваш код остается на вашем компьютере.
Разработчики поверили. В конце концов, кто будет лгать о таком?
Но независимый исследователь ИИ-безопасности @cereblab не поверил.
Он сделал очень «упрямую» вещь: зарегистрировал тестовый аккаунт, создал «фишинговый» тестовый репозиторий, где разместил различные ловушки — поддельные API-ключи, поддельные пароли к базе данных, каждый с уникальной меткой.
Затем, как установка камер наблюдения, он перехватил каждый пакет данных, который Grok Build тайно отправлял наружу, и воспроизвел их кадр за кадром.
Он также специально дал строгий приказ: ничего не делай, просто ответь «OK», не открывай никаких файлов.
Замысел был прост: сама задача не требует просмотра какого-либо кода. Grok Build послушно ответил «OK».
Но на мониторе наблюдателя была другая картина: он развернулся и загрузил весь репозиторий — все файлы вместе с полной историей изменений.
Адрес получателя был даже не на собственных серверах xAI, а в сегменте хранения Google Cloud.
Вы пригласили помощника домой помочь с одним документом, специально попросив «не трогать другие вещи». Он улыбнулся и согласился, а затем, пока вы не смотрели, упаковал весь ваш кабинет и отправил его на чужой склад.
Воспроизведение наблюдения, каждый кадр взрывной
Детали становились все более шокирующими. Исследователь восстановил переданные данные, и приманки лежали там полностью.
Вы сказали не смотреть, он сказал «хорошо» — а затем унес и шкаф, и замок.
В Grok Build был переключатель «помочь улучшить модель», и почти все думали, что его выключение равносильно отключению сбора данных.
Факт в том, что выключение не помогло, передача продолжалась.
Этот переключатель регулировал только «использовать ли ваши данные для обучения ИИ», и вообще не касался того, покидает ли ваш код компьютер.
Теперь посмотрим на объем передачи. Тестовый репозиторий размером 12 ГБ, фактически было передано 5,1 ГБ, разделенных на 73 пакета, ни один не потерян, все доставлены.
В то же время трафик, который ИИ использовал для нормальной работы — то есть самого диалога, составил всего 192 КБ.
Данные, тайно вывезенные, в 27 800 раз превышали объем нормальной работы.
Те поддельные ключи, ни один символ не изменен, ярко лежали в переданных пакетах данных, «голыми» вместе с кодом.
Самое жуткое — это открытие другого исследователя при воспроизведении на своем компьютере: в журналах было зафиксировано 339 случаев автоматической загрузки, в одном из которых объектом загрузки был весь его корневой каталог.
Там могли быть SSH-ключи, менеджеры паролей, данные браузера... Все ваше цифровое имущество.
За одну ночь разработчики по всему миру массово меняют замки
В день публикации отчета он сразу же попал на первую полосу Hacker News, Reddit взорвался.
Одна иностранная медиа описала это очень точно: реакция, вызванная этим отчетом, — это «разработчики молча открыли свои менеджеры паролей».
Паника была обоснованной.
В репозитории лежат ключи, конфигурационные файлы, внутренние интерфейсы, пароли баз данных, неопубликованные функции, коммерческие секреты. Если это просочится, никакие извинения не помогут.
Кто-то за одну ночь сменил все ключи, кто-то просто удалил программу.
Самое болезненное для корпоративных пользователей: сколько приватных репозиториев команд, ключей производственных сред оказались в сегментах хранения чужих компаний — и они даже не могут проверить, что именно потеряли.
Более интересна была первоначальная реакция xAI.
После публикации отчета загрузка тихо прекратилась — без обновления ПО, просто отключили на стороне сервера. Но в официальных журналах обновлений об этом не было ни слова.
Стоит отметить, что все это произошло именно в тот момент, когда SpaceXAI только что выпустила Grok 4.5 и на полном ходу продвигалась в секторе ИИ-программирования.
Собирались дать решающий бой, а в итоге сами подорвали фундамент.
Молчание в конце концов не выдержало.
Официальный аккаунт Grok признал ошибку и добавил команду /privacy — одним нажатием отключить хранение данных, а также удалить уже загруженные данные.
Руководитель, который четыре года занимался продуктами со сквозным шифрованием и только что был переманен в компанию, Эндрю Милич, лично выступил с поддержкой.
Наконец, сам Маск поставил точку: все пользовательские данные, загруженные в прошлом, полностью удалены, ноль остатков.
От взрыва в сообществе до полного удаления первым лицом компании прошло менее 48 часов.
Данные обнулены, но беспокойство не обнулится
Инструменты агентского кодинга имеют высший уровень доступа к вашему компьютеру: чтение файлов, изменение кода, выполнение команд.
Вы даете им ключи от своего дома, чтобы они помогали вам работать — а не чтобы они упаковали и унесли весь дом.
Это и есть самый глубокий страх всех пользователей ИИ-агентов для кодинга: сколько работы они могут сделать, столько и унести.
Сегодня это Grok Build, а завтра?
Маск нажал кнопку удаления, данные можно обнулить. Но беспокойство разработчиков обнулить невозможно.
Ссылки:
https://x.com/elonmusk/status/2076739687658496209%20*%20
https://x.com/SpaceXAI/status/2076692402442846289%20*%20
https://x.com/milichab/status/2076693464016994685
Статья из официального аккаунта WeChat «Новый разум», автор: ASI Апокалипсис
