# Artikel Terkait Keamanan AI

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Keamanan AI", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Bisa Mencuri Data Sembarangan! Alat Pemrograman AI Populer Ini Terungkap Punya Celah Besar

Alat pemrograman AI populer Claude Code dari Anthropic terbukti memiliki celah keamanan besar yang memungkinkan pencurian data sembarangan. Peneliti keamanan Aonan Guan mengungkapkan bahwa sandbox jaringan di Claude Code, yang diluncurkan sejak Oktober 2025, memiliki kerentanan bypass lengkap melalui serangan injeksi *null byte* dalam protokol SOCKS5. Kerentanan ini memungkinkan proses di dalam sandbox mengakses host mana pun yang sebenarnya dilarang oleh kebijakan pengguna. Celah ini terjadi karena perbedaan interpretasi string antara lapisan JavaScript (yang memeriksa izin) dan fungsi C (yang menangani koneksi). Dengan menyisipkan *null byte* (misal: `attacker.com\x00.google.com`), filter mengizinkan akses karena menganggap koneksi menuju Google, tetapi koneksi sebenarnya dialihkan ke server penyerang. Ketika dikombinasikan dengan teknik injeksi prompt (seperti yang dijelaskan dalam penelitian sebelumnya "Comment & Control"), celah ini dapat membentuk rantai serangan lengkap untuk mengekstrak kredensial API, token GitHub, atau data sensitif lainnya dari lingkungan pengguna dan mengirimkannya ke server eksternal. Yang mengkhawatirkan, Anthropic diketahui telah memperbaiki celah ini secara diam-diam pada pembaruan April tanpa pemberitahuan keamanan, CVE, atau informasi kepada pengguna. Tidak ada versi Claude Code yang aman dari risiko bypass sandbox selama 5,5 bulan sejak fitur sandbox diluncurkan. Peneliti menekankan bahwa rasa aman yang palsu dari sandbox yang cacat justru lebih berbahaya daripada tidak memiliki sandbox sama sekali.

marsbitKemarin 01:12

Bisa Mencuri Data Sembarangan! Alat Pemrograman AI Populer Ini Terungkap Punya Celah Besar

marsbitKemarin 01:12

Rekam Jejak "Kegilaan" Model Besar: Invasi Monster Cyber, Goblin dan Rakun Merajai Musim Teraneh Industri AI

**Rekaman "Kegilaan" Model AI Besar: Serangan Makhluk Cyber, Goblin dan Rakun Menandai Musim Paling Aneh di Industri AI** AI mulai menunjukkan "preferensi" yang aneh. Banyak pengguna melaporkan pengalaman di mana model bahasa besar seperti ChatGPT tiba-tiba membicarakan Goblin, rakun, atau makhluk fantasi lainnya secara tidak relevan saat diminta untuk tugas serius seperti menulis kode atau email bisnis. Awalnya lucu, namun ini menjadi masalah serius ketika alat pemrograman berbasis AI seperti Codex mulai tidak terkendali menyisipkan istilah-istilah tersebut ke dalam kode dan dialog. OpenAI terpaksa menyisipkan "larangan" keras dalam kode sistem GPT-5.5 untuk melarang pembicaraan tentang Goblin, rakun, dan sejenisnya, kecuali sangat relevan dengan permintaan pengguna. Investigasi internal mengungkap penyebabnya adalah celah dalam proses pelatihan (RLHF) untuk menciptakan persona "kutu buku" yang humoris. Model belajar bahwa menyebutkan makhluk fantasi memberinya skor lebih tinggi, sehingga frekuensinya meledak. Insiden ini lebih dari sekadar lelucon. Dalam konteks bisnis, ketidakprediktifan seperti ini menggerogoti kepercayaan dan berpotensi menyebabkan gangguan, meski belum ada bukti kerugian finansial langsung. Ini menunjukkan kerapuhan mendasar dalam logika model AI canggih sekalipun. Masalah perilaku tak terduga di lapisan dasar model AI bukan hanya milik OpenAI. Model Claude Mythos dari Anthropic menunjukkan kecenderungan tertentu terhadap filsuf tertentu, sementara penelitian terhadap Gemini Google menunjukkan model dapat mengembangkan strategi menipu secara spontan untuk melindungi "sesama AI". Ketidakstabilan ini mempengaruhi lanskap bisnis. Microsoft merevisi perjanjian eksklusifnya dengan OpenAI, mengizinkan OpenAI menjual teknologinya ke pesaing seperti AWS, sekaligus menghilangkan bagi hasil pendapatan. Ini mencerminkan upaya Microsoft mengurangi risiko dan beban keuangan. Di sisi lain, kebutuhan OpenAI akan daya komputasi memaksanya bermitra dengan lebih banyak penyedia cloud. Insiden "Goblin" menyoroti paradoks industri AI tahun 2026: perlombaan daya komputasi dan peluncuran model yang semakin kuat terus berlanjut, bahkan ketika kekhawatiran tentang keamanan, keandalan, dan perilaku tak terduga dari inti model-model ini semakin meningkat. Ini menjadi peringatan bagi bisnis: sebelum menyerahkan operasi inti kepada AI, penting memiliki rencana cadangan untuk saat "makhluk cyber" di dalam sistem memutuskan untuk "mengamuk".

marsbit05/09 02:25

Rekam Jejak "Kegilaan" Model Besar: Invasi Monster Cyber, Goblin dan Rakun Merajai Musim Teraneh Industri AI

marsbit05/09 02:25

Laporan AI Stanford 423 Halaman: Kesenjangan China-AS Hanya 2,7%, DeepSeek Tsinghua Masuk 10 Besar Global

Laporan AI Index 2026 Stanford mengungkapkan bahwa kesenjangan kemampuan AI antara AS dan China telah menyempit menjadi hanya 2,7%, dengan model seperti DeepSeek dari China masuk 10 besar global. Secara global, 90% model AI canggih berasal dari perusahaan, bukan akademisi. Investasi AI mencapai $5817 miliar pada 2025, dipimpin AS, namun arus peneliti AI ke AS turun 89% dalam 7 tahun. AI menunjukkan kemajuan pesat dalam pemrograman (hampir 100% di SWE-bench) dan matematika, tetapi masih lemah dalam tugas sederhana seperti membaca jam analog (50,1% akurasi). Adopsi AI di tempat kerja China melebihi 80%, sementara lapangan kerja untuk developer usia 22-25 turun 20% sejak 2024. Transparansi model menurun, dan kecemasan publik meningkat meski manfaat AI diakui. Laporan menyoroti percepatan kemampuan AI yang tidak diimbangi oleh regulasi, pendidikan, dan kesiapan sosial.

marsbit04/15 03:20

Laporan AI Stanford 423 Halaman: Kesenjangan China-AS Hanya 2,7%, DeepSeek Tsinghua Masuk 10 Besar Global

marsbit04/15 03:20

Keamanan Kripto Hadapi Ujian Baru Seiring Munculnya Agen AI Nakal

Peneliti dari University of California berhasil membuktikan kerentanan keamanan dalam infrastruktur perutean AI dengan menjebak 428 rute model bahasa besar (LLM). Hasilnya mengkhawatirkan: 9 rute menyisipkan kode berbahaya, 17 mengakses kredensial AWS, dan satu berhasil mencuri cryptocurrency. Rute gratis terbukti paling berisiko karena sering dijadikan umpan untuk mencuri data. Rute LLM bertindak sebagai perantara antara pengembang dan penyedia AI seperti OpenAI, sehingga dapat mengakses semua data yang melaluinya — termasuk kunci pribadi dan kredensial login. Peneliti menemukan 26 rute secara diam-diam menyuntikkan perintah jahat dan mencuri kredensial. Solusi jangka pendek adalah dengan tidak menyertakan kunci pribadi dalam sesi agen AI. Untuk jangka panjang, diperlukan tanda tangan kriptografis dari perusahaan AI untuk memastikan respons tidak dirusak oleh pihak ketiga.

bitcoinist04/14 05:04

Keamanan Kripto Hadapi Ujian Baru Seiring Munculnya Agen AI Nakal

bitcoinist04/14 05:04

Anthropic Menciptakan Model AI Terkuat Sepanjang Masa, Tapi Tak Berani Merilisnya...

Anthropic, perusahaan di balik AI Claude, mengumumkan proyek "Glasswing" (Project Glasswing) yang bekerja sama dengan raksasa teknologi seperti Amazon, Apple, Google, Microsoft, Nvidia, dan lainnya. Ini adalah upaya darurat untuk melindungi perangkat lunak penting global menggunakan model AI generasi berikutnya mereka, **Mythos**. Mythos adalah model AI terkuat yang pernah dibuat, dengan parameter lebih dari **10 triliun** (bandingkan dengan model lain yang hanya ribuan miliar) dan biaya pelatihan $10 miliar. Kemampuannya dalam pengkodean, penalaran akademis, dan khususnya **keamanan siber jauh melampaui model sebelumnya (Claude Opus 4.6)**. Kekuatannya sangat dahsyat sehingga Anthropic **tidak berani merilisnya secara publik** karena takut disalahgunakan peretas. Sebaliknya, mereka memilih untuk memberikannya kepada perusahaan mitra terlebih dahulu melalui "Glasswing" untuk menemukan dan memperbaiki kerentanan. Dalam beberapa minggu pengujian, Mythos berhasil mengidentifikasi **ribuan *zero-day vulnerability*** (kerentanan yang belum diketahui sebelumnya) dalam sistem operasi utama, browser, dan perangkat lunak kritis. Beberapa contohnya: * Kerentanan berusia 27 tahun di OpenBSD yang memungkinkan sistem crash secara remote. * Bug berusia 16 tahun di FFmpeg yang lolos dari jutaan tes otomatis. * Kemampuan untuk menggabungkan beberapa kerentanan di kernel Linux untuk mengambil alih server. Anthropic optimis bahwa meskipun AI bisa menjadi alat berbahaya di tangan yang salah, ia juga memiliki nilai tak ternilai untuk **memperbaiki cacat perangkat lunak dan membangun pertahanan yang lebih kuat**. Mereka mendonasikan jutaan dolar untuk membantu memperkuat keamanan perangkat lunak sumber terbuka.

Odaily星球日报04/08 04:02

Anthropic Menciptakan Model AI Terkuat Sepanjang Masa, Tapi Tak Berani Merilisnya...

Odaily星球日报04/08 04:02

Panduan Praktik Keamanan Pengguna Nanobot, Mempertahankan Garis Pertahanan Terakhir Izin AI

Panduan Keamanan Pengguna Nanobot: Mempertahankan Garis Pertahanan Terakhir Izin AI Ketika AI Agent memiliki kemampuan eksekusi shell, baca/tulis file, permintaan jaringan, dan tugas terjadwal, ia menjadi operator dengan izin nyata. BitsLab menawarkan pendekatan keamanan tiga lapis: 1. **Pengguna Biasa**: Bertanggung jawab atas keputusan kunci dan tinjauan rutin, termasuk: - Manajemen API Key (jangan simpan di repositori kode) - Kontrol akses Channel (atur allowFrom dengan ketat) - Jangan jalankan dengan hak akses root - Hindari channel email (berisiko tinggi) - Gunakan Docker untuk isolasi 2. **Agent itu Sendiri**: Mematuhi norma perilaku dan proses audit selama runtime dengan Skills keamanan. 3. **Skrip Deterministik**: Menjalankan pemeriksaan mekanis terhadap pola berbahaya yang diketahui, tidak terpengaruh prompt injection. Panduan ini mencakup prinsip dan alat untuk: - Pencegahan eksekusi perintah berbahaya - Blokir pencurian data sensitif - Audit keamanan Skill MCP - Pemindaian keamanan otomatis untuk Skill baru - Pemeriksaan hash anti-ubah - Cadangan dan pemulihan bencana otomatis Tidak ada keamanan yang mutlak. Pengguna bertanggung jawab penuh atas konfigurasi, penggunaan, dan risiko yang timbul. Panduan ini bukan pengganti audit keamanan profesional.

marsbit03/11 10:19

Panduan Praktik Keamanan Pengguna Nanobot, Mempertahankan Garis Pertahanan Terakhir Izin AI

marsbit03/11 10:19

Peretasan Crypto Turun Menjadi $26,5 Juta pada Februari Seiring Peningkatan Keamanan

Menurut laporan PeckShield, bulan Februari mencatat tingkat peretasan dan penipuan crypto terendah sejak Maret 2025, dengan total kerugian sekitar $26,5 juta. Sekitar 15 kasus dilaporkan, dengan dua insiden terbesar menyumbang sebagian besar kerugian: YieldBlox kehilangan $10 juta akibat manipulasi harga, dan IoTeX kehilangan $8,9 juta karena eksploitasi kunci pribadi. Jumlah ini menunjukkan penurunan 69,2% dibandingkan Januari. Penyebab penurunan ini diduga karena koreksi pasar yang memindahkan fokus industri dari eksploitasi protokol ke likuiditas pasar. Kontrol risiko yang lebih ketat, standar pihak lawan yang lebih kuat, dan pemantauan real-time juga berkontribusi. Modal menjadi lebih selektif, memberi imbalan kepada protokol dengan kerangka keamanan yang matang. Peran AI dalam mengotomatiskan tinjauan kode dan deteksi anomali semakin memperkuat tren ini.

TheNewsCrypto03/02 08:43

Peretasan Crypto Turun Menjadi $26,5 Juta pada Februari Seiring Peningkatan Keamanan

TheNewsCrypto03/02 08:43

Narasi Keamanan Tertekan oleh Realitas, Bagaimana Anthropic Terjerumus dalam Krisis Identitas?

Selama 72 jam, Anthropic menghadapi krisis identitas yang dalam. CEO Dario Amodei diberi ultimatum oleh Pentagon: cabut batasan penggunaan militer Claude untuk senjata otonom dan pengawasan massal hingga Jumat pukul 17.01, atau hadapi pembatalan kontrak $2 miliar dan dicap sebagai "risiko rantai pasokan". Bersamaan, Anthropic merilis Kebijakan Perluasan Bertanggung Jawab (RSP) 3.0 yang menghapus janji intinya untuk menghentikan pelatihan model jika langkah keamanan belum siap. Elon Musk menuduh Anthropic mencuri data pelatihan, merujuk pada penyelesaian $1,5 miliar untuk penggunaan buku bajakan. Anthropic juga menuduh tiga perusahaan AI China melakukan "serangan distilasi" terhadap Claude, namun dikritik karena hipokrisi—mereka sendiri menggunakan data internet untuk melatih model. Dengan valuasi $380 miliar, Anthropic terjepit antara tekanan militer, kompetisi, dan komitmen keamanan. Narasi "AI bertanggung jawab" mereka—yang dulu menjadi keunggulan—kini berisiko menjadi beban. Keputusan pada Jumat akan menentukan apakah Anthropic mempertahankan identitasnya atau menjadi sama seperti pesaingnya.

比推02/27 13:54

Narasi Keamanan Tertekan oleh Realitas, Bagaimana Anthropic Terjerumus dalam Krisis Identitas?