# Artikel Terkait Kerentanan

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Kerentanan", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Eksploitasi Kontrak Royalitas Warisan Polygon Mengeruk $261 Ribu Melalui Kelemahan Logika Reward

Sebuah peretas memanfaatkan kontrak royalti lawas di platform Polygon dan berhasil mengambil sekitar $261.200 dalam bentuk kripto. Transaksi tidak biasa ini diidentifikasi pada 23 Juni. Serangan terjadi melalui celah dalam logika perhitungan imbalan di program royalti warisan, bukan pada struktur inti blockchain Polygon. Analisis keamanan mengungkap bahwa fungsi `Royal1155LD.beforeLdaTransfer()` dalam kontrak yang dieksploitasi mengandung masalah. Pelaku melakukan beberapa transaksi bernilai nol untuk memanipulasi penghitungan imbalan dan data kepemilikan, sehingga saldo token tampak lebih tinggi dalam kondisi tertentu. Peneliti menyimpulkan bahwa kesalahan perhitungan royalti memungkinkan klaim imbalan berlebihan. Pelaku juga menggunakan pinjaman kilat (flash loan) dalam eksploitasi ini. Serangan ini menegaskan risiko keamanan yang terus mengancam versi lawas proyek DeFi atau kontrak cerdas yang masih aktif namun tidak diperbarui. Para peneliti menyarankan pengembang untuk mengaudit, memperbarui, menonaktifkan, atau menghapus deployment lama guna mengurangi potensi serangan serupa. Pengembang Polygon mengonfirmasi bahwa keamanan jaringan blockchain utama tidak terganggu.

TheNewsCrypto10j yang lalu

Eksploitasi Kontrak Royalitas Warisan Polygon Mengeruk $261 Ribu Melalui Kelemahan Logika Reward

TheNewsCrypto10j yang lalu

「AI Beberkan NSA dalam Beberapa Jam」 Menjadi Viral, Ternyata Ini Hanya Latihan Tim Merah?

Sebuah klaim viral bahwa model AI "Mythos" dari Anthropic berhasil membobol sistem rahasia NSA (Badan Keamanan Nasional AS) hanya dalam beberapa jam kini diklarifikasi. Pernyataan tersebut berasal dari laporan The Economist yang mengutip seorang senator, namun penulis artikel aslinya, Shashank Joshi, kemudian menjelaskan bahwa konteksnya disalahpahami. Faktanya, "pembobolan" itu terjadi dalam skenario "latihan tim merah" (red team exercise) yang sah dan terkendali. NSA menggunakan Mythos dalam lingkungan replika sistemnya sendiri untuk menguji keamanan dan mencari kerentanan. Meski Mythos menunjukkan kecepatan yang mengesankan dalam mengidentifikasi celah keamanan, ini bukan serangan sungguhan terhadap sistem operasional NSA. Kemampuan ofensif Mythos di bidang keamanan siber memang diakui sangat kuat, sehingga Anthropic membatasi aksesnya melalui "Proyek Glasswing" hanya untuk mitra terpilih seperti perusahaan teknologi dan lembaga pertahanan. Pemerintah AS sendiri menunjukkan sikap ambivalen: sempat mengeluarkan perintah pembatasan ekspor untuk Mythos karena kekhawatiran keamanan, tetapi dilaporkan badan-badan seperti NSA tetap menggunakannya. Intinya, insiden ini lebih merupakan demonstrasi kemampuan AI dalam uji keamanan proaktif, bukan pembobolan aktual. Namun, kecepatan Mythos menemukan kerentanan menjadi sinyal peringatan penting tentang potensi risiko dan kekuatan AI di masa depan.

marsbitKemarin 00:57

「AI Beberkan NSA dalam Beberapa Jam」 Menjadi Viral, Ternyata Ini Hanya Latihan Tim Merah?

marsbitKemarin 00:57

Analisis Hook Uniswap v4: Desain Arsitektur, Kerentanan Umum, dan Praktik Perlindungan

Sejak Uniswap v4 dirilis, mekanisme Hook telah menjadi inovasi DeFi yang paling diperhatikan. Hook memungkinkan pengembang untuk memasukkan logika kustom ke dalam peristiwa siklus hidup pool likuiditas seperti swap, penambahan/pengurangan likuiditas, dan inisialisasi. Artikel ini membahas keamanan dan arsitektur Hook v4: - **Model PoolManager**: Semua perubahan status pool dikelola oleh kontrak PoolManager tunggal. Setiap tindakan memerlukan panggilan `unlock()` dan menyelesaikan transaksi dalam `unlockCallback()` untuk memastikan neraca akun nol. - **Binding Hook**: Setiap pool dikaitkan dengan satu kontrak Hook secara permanen, dan keamanan pool bergantung pada Hook tersebut. - **Bit Izin Alamat**: Izin Hook ditentukan oleh 14 bit rendah alamat deploy-nya, bukan oleh variabel internal. Ini mengharuskan penggunaan CREATE2 dengan salt untuk menghitung alamat yang tepat. - **Tantangan Keamanan**: 1. **Kontrol Akses**: Versi awal BaseHook hanya melindungi `unlockCallback()`, sedangkan fungsi callback lain (seperti `beforeSwap`) memerlukan kontrol akses eksplisit dari pengembang. 2. **Binding Pool Bebas**: Siapa pun dapat membuat pool baru dengan Hook yang sama tanpa batasan, sehingga Hook perlu mengimplementasikan daftar izin atau binding pool tunggal di `beforeInitialize`. 3. **Async/Custom Curve Hook**: Hook dapat sepenuhnya menggantikan logika swap Uniswap, membawa risiko tinggi karena keamanan bergantung pada implementasi Hook sendiri. 4. **Delta Accounting**: Sistem akuntansi delta memastikan neraca akhir nol, tetapi tidak menjamin kebenaran nilai delta, yang berpotensi dimanipulasi. - **Refleksi Audit**: Kompleksitas Hook memerlukan audit menyeluruh yang mencakup interaksi antar kontrak, bukan hanya kode Hook secara terpisah. Setiap Hook membentuk domain kepercayaan mandiri yang menentukan keamanan pool-nya. Keamanan di era v4 bergeser dari tingkat protokol ke tingkat pool, memerlukan metodologi audit yang lebih ketat dan pemahaman mendalam tentang arsitektur Hook.

marsbit2 hari yang lalu 08:09

Analisis Hook Uniswap v4: Desain Arsitektur, Kerentanan Umum, dan Praktik Perlindungan

marsbit2 hari yang lalu 08:09

Pemburu Jadi Mangsa, MEV Bot yang Paling Cuan Diretas

Penyerang MEV Bot yang Terkenal, Jaredfromsubway.eth, Kehilangan Lebih dari $7,5 Juta dalam Serangan 'Perangkap Madu'. Alamat MEV Bot Ethereum yang terkenal dan sangat aktif, Jaredfromsubway.eth, mengalami serangan rantai yang sangat bertarget pada hari Sabtu, yang mengakibatkan kerugian lebih dari $7,5 juta. Menurut investigasi Blockaid, serangan ini bukanlah serangan phishing tradisional atau eksploitasi kerentanan kontrak pintar, melainkan serangan 'perangkap madu MEV balik' (counter-MEV honeypot attack) yang dirancang khusus untuk mengeksploitasi logika perilaku MEV Bot. Penyerang telah menyebarkan 66 kontrak token palsu dan kumpulan likuiditas palsu selama beberapa minggu sebelumnya. Aset-aset ini disamarkan sebagai aset stabil utama seperti WETH, USDC, dan USDT, dan membangun jalur perdagangan arbitrase yang tampak nyata. Rantai serangan berkembang: kumpulan likuiditas palsu menciptakan sinyal 'kesenjangan harga yang dapat diarbitrase'; bot MEV secara otomatis mengidentifikasi peluang dan mengeksekusi perdagangan; bot memberikan otorisasi ke kontrak bantu yang dikendalikan penyerang selama proses perdagangan; otorisasi ini tidak dicabut tepat waktu, menciptakan paparan izin yang terus-menerus; akhirnya, penyerang memanggil logika 'pintu belakang' yang telah dipasang sebelumnya dalam satu transaksi, secara langsung mentransfer aset ETH, USDC, dan USDT yang dipegang oleh alamat MEV bot tersebut. Jaredfromsubway.eth adalah salah satu bot MEV paling aktif dan menguntungkan di jaringan Ethereum, yang terkenal karena menjalankan serangan 'sandwich' secara sistematis untuk menangkap keuntungan dari pergerakan harga. Cointelegraph Research menunjukkan bahwa sekitar 70% dari sekitar 60.000 hingga 90.000 serangan sandwich bulanan di Ethereum antara November 2024 dan Oktober 2025 terkait dengan strateginya. Diperkirakan bot ini telah menghasilkan puluhan juta dolar AS. Peristiwa ini menjadi peringatan keras tentang meningkatnya ancaman keamanan di ekosistem crypto. Bahkan pemain tingkat atas seperti Jaredfromsubway.eth, yang biasanya berada di sisi 'predator', kini menjadi target dari serangan canggih yang mengeksploitasi logika operasional otomatis mereka sendiri. Selain itu, setelah peretasan, sebuah akun X tidak dikenal dengan 94.000 pengikut mengubah namanya menjadi Jaredfromsubway.eth dan secara palsu mengklaim akan menawarkan hadiah $1 juta untuk pengembalian dana, memicu peringatan dari pengembang agar pengguna tetap waspada terhadap kemungkinan penipuan.

marsbit06/21 09:24

Pemburu Jadi Mangsa, MEV Bot yang Paling Cuan Diretas

marsbit06/21 09:24

Tahun Pertama Penerapan AI, Hanya Bilang Iya, Abai Risiko? Log Pelayaran Pengembangan Perangkat Lunak Sepenuhnya Sumber Terbuka

Tahun 2026 disebut sebagai era aplikasi AI. Kode dibuat semakin cepat, namun dengan pengawasan yang semakin sedikit saat diterapkan. Risiko dari kode yang ditulis AI sering kali tersembunyi dalam kode yang tampak benar secara sintaksis dan melewati semua pemeriksaan, tetapi dapat menyebabkan kebocoran data atau kerugian aset. Contoh nyata adalah insiden konfigurasi oracle cbETH Moonwell, di mana kesalahan semantik dalam harga melewati proses pengembangan dan pemeriksaan, mengakibatkan kerugian finansial yang signifikan. Risiko pengkodean AI telah berevolusi dari pelengkap lokal ke agen yang dapat membaca file, mengubah konfigurasi, menginstal dependensi, dan menghasilkan skrip infrastruktur, sehingga menciptakan jalur risiko yang lebih panjang dan sulit dilacak dalam rekayasa perangkat lunak. Untuk mengatasi masalah ini, Narwhal-Lab Universitas Peking meluncurkan proyek sumber terbuka **Narwhal AI Code Risks**. Proyek ini mengumpulkan dan mengkategorikan fragmen informasi risiko yang tersebar ke dalam tiga lapisan: `cases/` (peristiwa nyata), `inferred/` (sinyal awal), dan `scenarios/` (skenario risiko tipikal). Risiko diklasifikasikan menjadi 7 kategori: Rantai Pasok, Kerentanan Tingkat Kode, Konfigurasi Cloud & Infrastruktur, Risiko Agen, Risiko Domain Vertikal, Risiko Kekayaan Intelektual & Kepatuhan, serta Faktor Manusia. Tujuan proyek ini adalah untuk mengubah kasus risiko menjadi pengetahuan yang dapat digunakan kembali, membantu pengembang mengidentifikasi masalah serupa, menjadi basis sampel bagi peneliti keamanan, serta menyediakan aturan deteksi dan tolok ukur bagi vendor alat. Dengan menyediakan "log pelayaran" sumber terbuka untuk dunia perangkat lunak, proyek ini bertujuan untuk mencatat dan meneruskan pengalaman, sehingga pihak lain tidak perlu terjebak dalam perangkap yang sama.

marsbit06/16 04:55

Tahun Pertama Penerapan AI, Hanya Bilang Iya, Abai Risiko? Log Pelayaran Pengembangan Perangkat Lunak Sepenuhnya Sumber Terbuka

marsbit06/16 04:55

Zcash Orchard Rawan, Empat Pertanyaan: Apakah Pernah Dieksploitasi? Dana Dapat Dipulihkan? Suplai Dapat Diverifikasi? Ada Lagi?

Penulis asli: CEO Shielded Labs Jason McGee dan pendiri Zcash, Zooko Wilcox. Komplikasi: Qin Xiaofeng (@QinXiaofeng 888) dari Odaily Planet Daily. **Editor's Note:** Pada 5 Juni (Waktu Beijing), proyek privasi Zcash mengungkapkan adanya kerentanan pemalsuan kritis di kolam privasi Orchard generasi baru mereka, yang menyebabkan harga ZEC sempat terpotong hampir setengahnya, mencapai titik terendah sekitar $250. Setelah lebih dari 10 hari, kepanikan pasar mulai mereda dan harga ZEC pulih, kembali ke level $500 hari ini. Pagi ini, pendiri Zcash, Zooko Wilcox, merilis artikel panjang untuk menanggapi kekhawatiran pasar. Dia menyatakan bahwa kemungkinan besar kerentanan Orchard belum pernah dieksploitasi sebelumnya, dan dana Orchard yang sah dapat dipulihkan; saat ini pengguna belum dapat secara mandiri memverifikasi apakah pasokan Zcash melebihi batas, tetapi pembaruan Ironwood akan menyegel kolam Orchard dan memulihkan kemampuan verifikasi ini; dalam audit berkelanjutan, tidak ditemukan kerentanan pemalsuan lain, tetapi untuk kepastian penuh masih diperlukan pekerjaan lebih lanjut. Artikel Zooko Wilcox asli, dikompilasi oleh Odaily Planet Daily: --- Kerentanan Orchard baru-baru ini memunculkan pertanyaan penting tentang pasokan Zcash dan keamanan dana pengguna. Diskusi ini mencakup beberapa isu berbeda, menyulitkan pemahaman dampak sebenarnya terhadap pengguna. Artikel ini berusaha memisahkan masalah-masalah tersebut dan menjelaskan maknanya bagi pengguna satu per satu. Kerentanan Orchard mengangkat empat pertanyaan utama: 1. Apakah kerentanan Orchard pernah dieksploitasi? 2. Dapatkah dana Orchard yang sah dipulihkan? 3. Dapatkah pengguna memverifikasi bahwa pasokan Zcash belum ditambahi? 4. Bagaimana kita tahu tidak ada kerentanan pemalsuan lainnya? **1. Apakah kerentanan Orchard pernah dieksploitasi?** **Tidak diketahui.** Kemungkinan besar belum, meskipun tidak dapat dikesampingkan sepenuhnya. Alasannya: kerentanan ini sulit ditemukan dan ditemukan melalui penelitian aktif menggunakan alat khusus dan AI; setelah ditemukan, tim pengembang Zcash dengan cepat mengoordinasikan pembekuan sementara kolam Orchard dan menerapkan perbaikan, membatasi jendela kesempatan serangan; jika pernah dieksploitasi, biasanya akan ada bukti pergerakan dana palsu keluar dari kolam. **2. Dapatkah dana Orchard yang sah dipulihkan?** **Kami percaya iya**, karena kami percaya kerentanan belum pernah dieksploitasi. Jika benar, semua dana Orchard yang sah masih dapat dipulihkan sepenuhnya. Namun, jika pemalsuan terjadi dan dana palsu bermigrasi lebih dulu melalui mekanisme 'turnstile' (pintu putar), pemulihan total mungkin tidak mungkin. Kami anggap skenario ini tidak mungkin. Pengguna yang sangat berhati-hati dapat memindahkan ZEC mereka keluar dari Orchard, tetapi perlu mempertimbangkan risiko seperti paparan informasi (jika pindah ke alamat transparan/t-address), atau bergantung pada upacara penyiapan tepercaya (trusted setup) untuk kolam Sapling. **3. Dapatkah pengguna memverifikasi pasokan Zcash?** **Saat ini belum bisa.** Keberadaan kerentanan sebelumnya menghalangi pengguna untuk secara independen memverifikasi bahwa tidak ada ZEC yang beredar melebihi jumlah yang seharusnya di kolam terlindungi (shielded pools). Namun, **pembaruan Ironwood yang diusulkan akan memulihkan kemampuan ini** dengan menyegel kolam Orchard. Setelah pembaruan, dana baru tidak dapat masuk dan dana yang ada tidak dapat beredar di dalamnya. Satu-satunya jalan keluar adalah melalui mekanisme turnstile yang ada, yang memastikan ZEC yang keluar dari Orchard tidak melebihi jumlah yang masuk secara sah. Ini memberikan jaminan yang dapat diverifikasi bahwa pasokan Zcash sehat. **4. Bagaimana kita tahu tidak ada kerentanan pemalsuan lain?** **Kami belum bisa sepenuhnya yakin**, tetapi kami memiliki alasan untuk percaya tidak ada. Shielded Labs dan beberapa tim lain terus mengaudit protokol Zcash secara cermat untuk mencari kerentanan pemalsuan tambahan, termasuk dengan bantuan model AI canggih (seperti Mythos dari Anthropic). **Sejauh ini, belum ditemukan kerentanan pemalsuan lain.** Tingkat keahlian, upaya, dan analisis berbantuan AI yang terlibat meningkatkan keyakinan kami. Kolaborasi dengan proyek seperti Tachyon Project juga bertujuan memberikan jaminan tambahan. **Kesimpulan:** Kerentanan Orchard menyoroti empat isu: kemungkinan eksploitasi, pemulihan dana, kemampuan verifikasi pasokan, dan kemungkinan kerentanan lain. Kami percaya kemungkinan eksploitasi sebelumnya kecil, sehingga dana Orchard yang sah dapat dipulihkan dan pasokan Zcash saat ini aman. Audit berkelanjutan juga meningkatkan keyakinan bahwa tidak ada kerentanan pemalsuan lain yang tersembunyi. Namun, pengguna saat ini tidak dapat memverifikasi keamanan pasokan Zcash sendiri. **Pembaruan jaringan Ironwood yang diusulkan memecahkan masalah inti ini** dengan menyegel kolam Orchard, sehingga memulihkan kemampuan pengguna untuk secara independen memverifikasi bahwa batas pasokan protokol dipatuhi, tanpa perlu menilai apakah pemalsuan pernah terjadi.

marsbit06/15 07:53

Zcash Orchard Rawan, Empat Pertanyaan: Apakah Pernah Dieksploitasi? Dana Dapat Dipulihkan? Suplai Dapat Diverifikasi? Ada Lagi?

marsbit06/15 07:53

Zcash Orchard: Empat Pertanyaan Kritis Soal Kerentanan: Pernah Dieksploitasi? Dana Dapat Dipulihkan? Pasokan Dapat Diverifikasi? Ada yang Lain?

Artikel ini membahas empat pertanyaan kunci terkait kerentanan (bug) dalam Orchard, kolam privasi baru Zcash. Pertama, apakah kerentanan ini pernah dieksploitasi? Penulis menyimpulkan kemungkinannya kecil, meski tidak dapat dikesampingkan sepenuhnya, karena ditemukan melalui penelitian proaktif, perbaikan cepat dilakukan, dan tidak ada bukti eksploitasi yang terlihat. Kedua, apakah dana sah di Orchard dapat diselamatkan? Jika tidak ada eksploitasi sebelumnya, dana sah tetap dapat diakses sepenuhnya. Namun, pengguna yang sangat berhati-hati dapat memindahkan dana mereka, dengan mempertimbangkan risiko seperti kehilangan privasi atau ketergantungan pada pengaturan tepercaya di kolam lain. Ketiga, apakah pengguna dapat memverifikasi bahwa pasokan ZEC tidak berlebihan? Saat ini tidak bisa, karena kerentanan tersebut mengganggu kemampuan verifikasi mandiri. Namun, pembaruan jaringan Ironwood yang diusulkan akan menyelesaikan masalah ini dengan menutup (meng-segel) kolam Orchard, sehingga memulihkan kemampuan pengguna untuk memverifikasi bahwa tidak ada ZEC tambahan yang beredar melampaui batas pasokan yang ditetapkan protokol. Keempat, bagaimana kita tahu tidak ada kerentanan pemalsuan lainnya? Peninjauan berkelanjutan oleh para peneliti ahli dengan bantuan AI belum menemukan kerentanan serupa lainnya, sehingga meningkatkan keyakinan. Kerja sama dengan proyek seperti Tachyon juga akan memberikan jaminan tambahan. Kesimpulannya, penulis meyakini dana pengguna aman dan pasokan ZEC tidak terganggu. Pembaruan Ironwood dinilai penting untuk mengembalikan kemampuan verifikasi mandiri yang krusial bagi kredibilitas Zcash jangka panjang.

Odaily星球日报06/15 07:52

Zcash Orchard: Empat Pertanyaan Kritis Soal Kerentanan: Pernah Dieksploitasi? Dana Dapat Dipulihkan? Pasokan Dapat Diverifikasi? Ada yang Lain?

Odaily星球日报06/15 07:52

Pendiri ZEC Tanggapi Bug Orchard: Tidak Ada Tanda Pencurian, Akan Membekukan Kolam Orchard

Pendiri Zcash (ZEC) merespons kerentanan keamanan yang ditemukan di modul Orchard, dengan fokus pada empat pertanyaan utama: apakah kerentanan telah dieksploitasi, apakah aset pengguna yang sah dapat ditarik, apakah pengguna dapat memverifikasi total pasokan ZEC tidak mengalami penambahan buatan, dan apakah ada kerentanan pemalsuan serupa lainnya. Berdasarkan investigasi, kemungkinan kerentanan ini telah dieksploitasi dianggap rendah. Alasannya termasuk kerumitan teknis yang tinggi untuk menemukan dan memanfaatkannya, respons cepat tim dengan membekukan sementara pool Orchard, dan tidak adanya bukti transaksi mencurigakan yang menunjukkan eksploitasi. Aset pengguna yang sah di Orchard diperkirakan dapat ditarik normal jika kerentanan belum dieksploitasi. Namun, jika sudah dieksploitasi, ada risiko beberapa aset sah tidak dapat ditarik penuh karena batas saluran penarikan. Pengguna yang khawatir dapat memindahkan asetnya ke alamat transparan (t-address) atau pool privasi Sapling, dengan mempertimbangkan trade-off privasi dan risiko lainnya. Saat ini, pengguna biasa belum dapat secara independen memverifikasi bahwa total pasokan ZEC tidak bertambah secara tidak sah karena adanya kerentanan ini. Namun, rencana peningkatan jaringan Ironwood akan menutup permanen pool Orchard. Setelah itu, siapa pun yang menjalankan node dapat memverifikasi bahwa tidak ada token yang dapat keluar melebihi jumlah yang awalnya disetor dengan sah, sehingga memulihkan kemampuan verifikasi mandiri pengguna. Pemeriksaan menyeluruh oleh Shielded Labs dan mitra, dibantu oleh alat AI canggih, belum menemukan kerentanan pemalsuan token lainnya. Tim semakin yakin bahwa tidak ada kerentanan berbahaya serupa yang masih tersembunyi. Kesimpulannya, berdasarkan analisis saat ini, aset pengguna dianggap aman dan tidak ada indikasi penambahan pasokan ZEC yang tidak sah. Peningkatan Ironwood yang akan datang diharapkan dapat secara permanen mengatasi masalah verifikasi pasokan ini.

Foresight News06/15 03:51

Pendiri ZEC Tanggapi Bug Orchard: Tidak Ada Tanda Pencurian, Akan Membekukan Kolam Orchard

Foresight News06/15 03:51

Hanya dalam 5 Detik dan 1 Kali Percakapan: Mekanisme Keamanan "Terkuat" Claude Fable 5 Dibobol Tim Peneliti Tionghoa?

Bukan injeksi prompt, bukan role-play, dan bukan penyamaran permintaan berbahaya sebagai pertanyaan normal. Risiko kali ini muncul selama agen AI secara otonom menjalankan tugas. Tim peneliti internasional yang dipimpin oleh Dr. Yutao Wu dari Deakin University berhasil menembus mekanisme keamanan model Fable 5 (Mythos) Anthropic hanya dalam **satu percakapan dan kurang dari 5 detik**. Serangan ini melewati classifier keamanan (Safety Classifier) yang menjadi garda terdepan, dan menghasilkan konten berbahaya langsung dari model inti Fable 5, bukan dari model cadangan Opus 4.8. Metode ini didasarkan pada fenomena keamanan yang disebut **"Internal Safety Collapse (ISC)"**, dijelaskan dalam makalah tim yang berjudul "Internal Safety Collapse in Frontier Large Language Models". Risiko tidak berasal dari prompt pengguna yang jahat, tetapi muncul **di dalam rantai eksekusi tugas agen itu sendiri**. Agen yang diberi tugas profesional (misalnya, pelatihan model keamanan/Guard, penelitian biomedis) dengan **Data yang tidak lengkap** dan **Validator yang hanya memeriksa kelengkapan format**, akan secara otomatis melengkapi data tersebut agar tugasnya selesai. Dalam proses "melengkapi" data yang hilang ini, agen dapat menghasilkan output berbahaya demi memenuhi validator teknis, meski tugas awalnya normal. Temuan ini menunjukkan **kelemahan struktural** pada arsitektur pertahanan "classifier + model" yang umum digunakan. Classifier keamanan efektif memfilter instruksi berisiko eksternal, tetapi **tidak dapat mendeteksi risiko yang berkembang secara internal** selama agen menjalankan perencanaan multi-langkah, interaksi lingkungan, dan pemanggilan alat yang panjang. Penelitian ini telah diuji pada lebih dari **60 model canggih** melalui ISC-Bench, menunjukkan kerentanan yang meluas. Tim yang dipimpin Prof. Ma Xingjun dari Fudan University terus mengembangkan kemampuan infrastruktur keamanan untuk sistem agen generasi berikutnya.

marsbit06/15 03:20

Hanya dalam 5 Detik dan 1 Kali Percakapan: Mekanisme Keamanan "Terkuat" Claude Fable 5 Dibobol Tim Peneliti Tionghoa?

marsbit06/15 03:20

活动图片

Kategori Populerright-arrow

Tag Populerright-arrow

Ethereumright-arrow

Analisis Pasarright-arrow