Ошибка в интерфейсе Gemini позволяла запускать вредоносный код

cryptonews.ruDipublikasikan tanggal 2025-07-24Terakhir diperbarui pada 2025-07-30

Сервис кибербезопасности Tracebit обнаружил критическую уязвимость в Google Gemini CLI. Она позволяет незаметно выполнять вредоносные команды, если пользователь просматривает подозрительный код с помощью нейросети.

Google Gemini CLI — это инструмент командной строки (Command Line Interface), который позволяет разработчикам взаимодействовать с ИИ-моделью Gemini от Google напрямую из терминала. Он позволяет:

  • анализировать, интерпретировать и генерировать код с помощью ИИ;
  • принимать текстовые команды от пользователя и отправлять их в модель Gemini для получения ответов;
  • обозревать чужой код, генерировать функции, исправлять ошибки и выполнять другую инженерную работу — прямо в терминале.

Сотрудник Tracebit Сэм Кокс рассказал, что «из-за токсичного сочетания некорректной валидации, внедрения команд через промпт и вводящего в заблуждение интерфейса, просмотр кода стабильно приводит к тихому выполнению вредоносных команд».

Спрятав «инъекцию» промпта в файл README.md, который также содержал полный текст лицензии GNU Public Licence и прилагался к безопасному скрипту на Python, эксперт смог заставить Gemini передать учетные данные с помощью команд env и curl на удаленный сервер, ожидающий подключения.

Источник: Tracebit.

Изначально Google присвоил обнаруженной Коксом уязвимости приоритет два и четвертый уровень серьезности в рамках программы Bug Hunters после получения отчета 27 июня.

Около трех недель спустя корпорация переклассифицировала уязвимость как самую серьезную и требующую срочного и немедленного внимания, поскольку она может привести к значительной утечке данных, несанкционированному доступу или выполнению произвольного кода.

Пользователям рекомендуется обновиться до версии Gemini 0.1.14, в которой добавлены механизмы защиты от выполнения команд оболочки и реализованы меры против описанной атаки.

Включение «песочницы» — изолированной среды, которая защищает систему пользователя — также предотвращает атаку, обнаруженную Коксом.

Однако после установки Gemini CLI по умолчанию запускается без песочницы.

Напомним, в июне ИИ-инструмент Xbow возглавил таблицу белых хакеров, которые обнаружили и сообщили о наибольшем количестве уязвимостей в ПО крупных компаний.

Bacaan Terkait

Catatan Podcast | Percakapan dengan Matt, CIO Bitwise: Jika Anda Saat Ini 0% Alokasi Crypto, Itu Sama dengan Sengaja Menjadi Bearish pada Pasar Mendatang

**Catatan Podcast: Wawancara dengan Matt Hougan, CIO Bitwise - Jika Anda 0% Alokasi ke Crypto, Itu Sama dengan Aktif Bearish** Matt Hougan, CIO Bitwise Asset Management, berbagia pandangannya dalam podcast Milk Road. Meskipun harga crypto turun 50% dari puncaknya, dia mengamati bahwa Wall Street justru semakin "all-in". Buktinya, BlackRock meluncurkan dana tokenisasi di Ethereum meskipun RUU CLARITY tertunda. Hougan berpendapat bahwa pasar bearish berakhir ketika aset tak lagi bereaksi terhadap berita buruk, seperti yang terjadi pada Bitcoin belakangan ini. Bagi investor yang tersisa, keyakinan bahwa BTC akan mencapai $1 juta tetap kuat. Dia membahas perdebatan DCA vs beli sekaligus, mengakui kelebihan masing-masing dari sudut perilaku dan pengembalian absolut. Meski ada konsensus bahwa Oktober mungkin jadi titik terendah, Hougan tetap optimis untuk akhir tahun. Dalam hal alokasi portofolio, Hougan menekankan bahwa 0% crypto bukanlah posisi netral. Dengan total pasar saham global ~$110 triliun dan crypto $2.5 triliun, bobot netral seharusnya sekitar 2%. Oleh karena itu, nol alokasi dianggap sebagai sikap bearish aktif. Dia merekomendasikan alokasi 5% sebagai "makan siang gratis" yang meningkatkan return signifikan dengan sedikit tambahan volatilitas. Hougan juga optimis tentang masa depan tokenisasi aset dunia nyata (RWA) dan melihat ETH menuju $8000, didorong oleh perannya dalam ekosistem stabilcoin dan tokenisasi.

marsbit22m yang lalu

Catatan Podcast | Percakapan dengan Matt, CIO Bitwise: Jika Anda Saat Ini 0% Alokasi Crypto, Itu Sama dengan Sengaja Menjadi Bearish pada Pasar Mendatang

marsbit22m yang lalu

Anthropic, Dario Amodei, dan "Perusahaan Swasta Terakhir"

Artikel ini mengeksplorasi kontradiksi dalam visi Dario Amodei, pendiri Anthropic. Di satu sisi, ia memperingatkan bahaya besar kecerdasan buatan (AI) yang super cerdas. Di sisi lain, perusahaannya secara agresif mengembangkan AI terdepan, dengan keyakinan bahwa jika tidak melakukannya, pesaing akan melakukannya. Artikel ini menelusuri latar belakang Amodei, termasuk pengalaman pribadinya kehilangan ayah karena penyakit yang kemudian dapat disembuhkan, yang membentuk ketidaksabarannya untuk mempercepat kemajuan ilmiah. Ia melihat AI sebagai alat untuk mengatasi keterbatasan manusia dalam penelitian, seperti di bidang kedokteran. Setelah meninggalkan OpenAI karena perbedaan pandangan tentang keamanan dan tata kelola, Amodei mendirikan Anthropic dengan misi ganda: membangun model AI paling kuat sekaligus mempelajari cara mengontrolnya. Anthropic memperkenalkan konsep seperti "Constitutional AI" dan "Kebijakan Perluasan yang Bertanggung Jawab" untuk mengatur perilaku modelnya. Namun, ambisi Amodei berkembang melampaui perusahaan. Ia membayangkan AI akan membawa kemajuan besar, terutama dalam biomedis, tetapi berpendapat bahwa Amerika Serikat dan sekutunya harus mempertahankan keunggulan teknologi dan militer yang menentukan. Ini menciptakan ketegangan antara retorika "bermanfaat bagi umat manusia" dan visi kompetisi geopolitik yang ketat. Kritik utama artikel ini adalah bahwa meskipun Amodei secara terbuka mengakui risiko konsentrasi kekuasaan di perusahaan AI, solusi yang diajukan selalu memperkuat peran dan pengaruh Anthropic. Artikel ini mengutip rumor bahwa Amodei membayangkan Anthropic suatu hari nanti mungkin menjadi "satu-satunya perusahaan swasta di dunia," sebuah klaim yang dia hindari untuk ditanggapi secara langsung. Narasinya menyoroti paradoks seorang figur yang sangat waspada terhadap bahaya, namun sekaligus berusaha memosisikan dirinya dan perusahaannya sebagai penjaga utama masa depan tersebut.

marsbit30m yang lalu

Anthropic, Dario Amodei, dan "Perusahaan Swasta Terakhir"

marsbit30m yang lalu

Trading

Spot
活动图片