Pendahuluan
Selama beberapa tahun terakhir, perhatian orang terhadap kecerdasan buatan (AI) sebagian besar terfokus pada satu arah: AI sedang menggantikan pekerjaan apa, dan akan menciptakan produktivitas baru apa.
Dari menghasilkan teks, menulis kode, hingga membantu penelitian ilmiah dan otomatisasi kantor, AI telah menjadi salah satu variabel paling banyak mendapat perhatian dalam beberapa siklus teknologi sebelumnya. Namun, dibandingkan dengan peningkatan kemampuan model itu sendiri, dua peristiwa yang terjadi baru-baru ini mungkin mengungkap tren baru yang lebih layak mendapat perhatian industri kripto—AI mulai berpartisipasi dalam menemukan masalah dalam sistem yang kompleks.
Belum lama ini, Anthropic menerbitkan artikel penelitian "Recursive Self-Improvement (Perbaikan Diri Rekursif)", yang membahas secara sistematis bagaimana AI secara bertahap dapat terlibat dalam proses pengembangan dirinya sendiri. Mulai dari desain eksperimen, pembuatan kode, hingga penelusuran kesalahan dan optimasi kinerja, model AI secara bertahap berubah dari peran alat semata menjadi partisipan dalam sistem penelitian dan pengembangan. Meskipun masih cukup jauh dari kemampuan mengembangkan generasi model berikutnya sepenuhnya secara mandiri, tren AI membantu AI untuk mempercepat iterasi sudah mulai terlihat.
Hampir bersamaan, kabar lain memicu diskusi luas di komunitas kripto. Claude Opus 4.8, saat meninjau kode terkait Zcash (ZEC), menemukan kerentanan kritis yang tersembunyi dalam sistem bukti tanpa pengetahuan (zero-knowledge proof). Kemudian, tim pengembangan Zcash dan komunitas dengan cepat menyelesaikan verifikasi risiko, peningkatan darurat, dan perbaikan kerentanan, mencegah dampak potensial meluas lebih lanjut.
Secara sekilas, dua peristiwa ini berasal dari bidang yang sama sekali berbeda.
Yang pertama terkait penelitian dan pengembangan AI, membahas bagaimana model membantu kemajuan model lainnya; yang kedua terkait keamanan blockchain, membahas kerentanan teknis dalam protokol privasi. Namun, jika garis waktu diperpanjang dan sudut pandang diperluas dari peristiwa tunggal ke arah perkembangan seluruh industri teknologi, keduanya sebenarnya menunjuk pada perubahan yang sama:
AI mulai semakin dalam berpartisipasi dalam proses memahami, menganalisis, dan memverifikasi sistem kompleks.
Bagi industri kripto, perubahan ini patut mendapat perhatian khusus.
Selama lebih dari satu dekade terakhir, cara inti industri blockchain membangun sistem keamanan adalah dengan mengandalkan ahli kriptografi, peneliti keamanan, dan lembaga audit pihak ketiga, melalui kombinasi analisis manual dan alat otomatis untuk menemukan kerentanan, memverifikasi risiko, dan menyelesaikan perbaikan. Baik itu audit kontrak pintar (smart contract), penilaian keamanan jembatan silang (cross-chain bridge), maupun verifikasi sistem bukti tanpa pengetahuan (zero-knowledge proof), pada dasarnya dibangun di atas pengalaman ahli manusia dan alat otomatis yang terbatas.
Dan sekarang, kemampuan baru sedang memasuki sistem ini.
AI tidak hanya dapat membaca kode, tetapi juga mulai memiliki kemampuan untuk memahami hubungan logika yang kompleks, menghasilkan skenario pengujian, melokalisasi perilaku anomali, bahkan membantu memverifikasi kerentanan. Bagi sistem besar dengan puluhan ribu, bahkan ratusan ribu baris kode, ini berarti variabel paling inti dalam bidang keamanan sedang berubah—kecepatan menemukan masalah.
Faktanya, sebagian besar insiden keamanan besar dalam sejarah bukan berasal dari kerentanan itu sendiri, tetapi dari durasi keberadaan kerentanan yang terlalu lama sebelum ditemukan. Perbedaan antara penyerang dan pembela seringkali tidak terletak pada tingkat teknologi, tetapi pada siapa yang lebih awal menemukan risiko dan siapa yang lebih cepat merespons.
Jika AI membantu peneliti menemukan masalah tersembunyi dengan efisiensi yang belum pernah terjadi sebelumnya, maka yang berubah bukan hanya alat audit, tetapi seluruh mekanisme penemuan kerentanan.
WEEX Labs berpendapat, "Recursive Self-Improvement" yang diusulkan Anthropic mungkin hanyalah sebuah awal. Di industri kripto, perubahan serupa namun dengan dampak yang lebih luas sedang terjadi: sistem keamanan itu sendiri mulai mendapatkan kemampuan evolusi berkelanjutan. Kompetisi di masa depan, mungkin bukan lagi tentang protokol mana yang paling aman, tetapi tentang siapa yang dapat menemukan risiko lebih cepat, memverifikasi risiko lebih cepat, dan menyelesaikan perbaikan lebih cepat.
Dari sudut pandang ini, pentingnya Claude menemukan kerentanan ZEC mungkin tidak terletak pada penemuan satu kerentanan spesifik, tetapi pada kemampuannya memberikan gambaran awal kepada seluruh industri tentang kontur era baru—era "Keamanan Rekursif" yang digerakkan oleh AI dan terus berkembang.
AI Sedang Memasuki Siklus Akselerasinya Sendiri
Jika revolusi teknologi selama dua ratus tahun terakhir diamati bersama, akan ditemukan pola yang menarik: setiap kali alat produksi mulai terlibat dalam pembuatan alat produksi itu sendiri, masyarakat sering kali menyambut lompatan efisiensi baru.
Pada era Revolusi Industri, mesin digunakan untuk membuat mesin, sehingga manufaktur terbebas dari ketergantungan pada produksi manual murni; di era internet, perangkat lunak membantu mengembangkan perangkat lunak, infrastruktur digital mulai berkembang dengan kecepatan yang belum pernah terjadi sebelumnya. Dan hari ini, perubahan serupa sedang muncul di bidang kecerdasan buatan—AI mulai berpartisipasi dalam proses penelitian dan pengembangan AI itu sendiri.
Ini juga alasan mengapa penelitian terbaru Anthropic "Recursive Self-Improvement (Perbaikan Diri Rekursif)" memicu diskusi luas di industri.
Secara harfiah, "recursive self-improvement" mungkin mudah diasosiasikan dengan kecerdasan super dalam karya fiksi ilmiah: AI terus meningkatkan dirinya sendiri, akhirnya lepas dari kendali manusia. Tetapi yang dibahas Anthropic bukanlah skenario ekstrem seperti itu. Penelitian lebih fokus pada perubahan yang sedang terjadi di dunia nyata—AI secara bertahap memasuki rantai penelitian dan pengembangan, dan mengambil alih semakin banyak pekerjaan yang sebelumnya harus dilakukan oleh insinyur.
Di masa lalu, pengembangan model besar (large model) adalah proses yang sangat bergantung pada tenaga manusia. Tim peneliti perlu merancang eksperimen, menulis kode, menganalisis hasil, melacak kesalahan, mengoptimalkan kinerja, dan terus mengulangi siklus ini. Meskipun memiliki sumber daya komputasi yang memadai, efisiensi penelitian dan pengembangan masih dibatasi oleh waktu dan kemampuan kognitif manusia.
Dan sekarang, situasinya mulai berubah.
Dari pembuatan kode, pengujian otomatis, hingga analisis log dan penelusuran masalah, semakin banyak tahap penelitian dan pengembangan mulai dibantu oleh AI. Insinyur tidak perlu lagi menulis setiap baris kode dari awal, juga tidak perlu memeriksa informasi anomali dalam log dalam jumlah besar baris demi baris. Model dapat dengan cepat memproses banyak konteks, mengusulkan kemungkinan jalur masalah, dan menghasilkan beberapa solusi kandidat untuk diverifikasi oleh pengembang. Ini tidak berarti AI menggantikan insinyur, tetapi AI secara signifikan mempersingkat bagian yang paling memakan waktu dalam proses penelitian dan pengembangan.
Makna perubahan ini jauh lebih dari sekadar "meningkatkan efisiensi".
Dalam jangka panjang, inovasi teknologi pada dasarnya adalah proses siklus. Peneliti mengajukan hipotesis, membangun eksperimen untuk menguji hipotesis, memperbaiki arah berdasarkan hasil, dan masuk ke iterasi berikutnya. Kecepatan setiap siklus secara langsung mempengaruhi kecepatan inovasi. Dan ketika AI mulai berpartisipasi dalam proses ini, seluruh siklus itu sendiri juga mulai dipercepat.
Waktu untuk menemukan masalah dipersingkat, waktu untuk memverifikasi masalah dipersingkat, waktu untuk memperbaiki masalah juga dipersingkat. Jika dilihat satu per satu, peningkatan di setiap tahap tampaknya terbatas, tetapi ketika peningkatan ini digabungkan, seluruh sistem penelitian dan pengembangan akan menghasilkan efek percepatan yang nyata.
Ini juga hal yang benar-benar patut diperhatikan di balik penelitian Anthropic. Dibandingkan dengan berapa banyak parameter model meningkat, atau seberapa banyak skor pengujian acuan (benchmark) meningkat, yang lebih penting adalah sistem penelitian dan pengembangan mulai menunjukkan efek flywheel baru: model yang lebih kuat membantu manusia membangun alat penelitian dan pengembangan yang lebih efisien, dan alat penelitian dan pengembangan yang lebih efisien membantu manusia melatih model yang lebih kuat.
Berikut adalah logika sederhana untuk merangkum siklus ini:
Begitu flywheel ini terbentuk, kecepatan perkembangan AI tidak lagi sepenuhnya bergantung pada jumlah peneliti, tetapi mulai dipengaruhi oleh efisiensi umpan balik dari seluruh sistem.
Dengan kata lain, AI secara bertahap menjadi bagian dari sistem produksi pengetahuan.
Hal ini berdampak mendalam pada seluruh industri teknologi. Karena ketika AI tidak lagi hanya menjadi produk akhir, tetapi mulai berpartisipasi dalam proses penciptaan produk, perubahan yang dibawanya akan meluas dari peningkatan kemampuan titik tunggal ke peningkatan efisiensi seluruh rantai industri.
Pengalaman sejarah menunjukkan bahwa terobosan teknologi dasar sering kali pertama kali mempengaruhi industri yang sangat bergantung pada pemrosesan informasi kompleks. Internet mengubah industri keuangan, media, dan ritel; komputasi awan (cloud computing) membentuk ulang perangkat lunak perusahaan; dan dampak kecerdasan buatan juga tidak akan berhenti di bidang chatbot atau pembuatan konten.
Faktanya, seiring peningkatan kemampuan pemahaman dan penalaran model, semakin banyak industri yang memerlukan analisis sistem kompleks menjadi skenario aplikasi penting AI. Di antaranya, bidang keamanan mungkin adalah salah satu arah yang paling layak diperhatikan.
Alasannya tidak rumit. Dibandingkan dengan menciptakan sistem baru, tugas inti pekerjaan keamanan sebenarnya adalah memahami sistem yang ada. Baik itu audit kode, penilaian risiko, deteksi anomali, atau analisis jalur serangan, esensinya adalah menemukan beberapa status yang tidak sesuai harapan dalam kumpulan informasi yang besar. Ini adalah pekerjaan pengenalan pola kompleks yang khas, dan pengenalan pola justru adalah salah satu kemampuan AI modern yang paling mahir.
Sepuluh tahun terakhir, industri internet telah secara luas menggunakan teknologi pembelajaran mesin (machine learning) untuk mengidentifikasi spam, transaksi penipuan, dan perilaku serangan jaringan. Model besar (large model) hari ini lebih jauh memperluas batas kemampuan ini. Mereka tidak hanya dapat mengidentifikasi hasil anomali, tetapi juga dapat memahami penyebab anomali dalam konteks, dan sampai batas tertentu memprediksi dampak lanjutan yang mungkin ditimbulkan oleh masalah.
Ini berarti perubahan kunci sedang muncul: AI mulai bergerak dari "menemukan anomali" ke "memahami anomali".
Bagi industri keamanan, pentingnya perubahan ini tidak kalah dengan kelahiran alat otomatisasi. Karena yang benar-benar sulit bukanlah mengumpulkan data, tetapi menemukan masalah yang layak mendapat perhatian dalam data yang sangat banyak. Seiring kompleksitas sistem terus meningkat, para ahli manusia semakin sulit menyelesaikan pekerjaan ini sendiri, dan AI sedang menjadi kekuatan pendukung baru.
Jika penelitian Anthropic mengungkapkan bagaimana AI mempercepat perkembangan AI, maka bagi industri blockchain, pertanyaan yang lebih layak direnungkan mungkin adalah: ketika AI mulai memiliki kemampuan untuk memahami sistem kompleks, apakah AI juga dapat membantu manusia menemukan risiko yang tersembunyi dalam sistem ini lebih cepat?
Jawaban atas pertanyaan ini segera mendapatkan verifikasi nyata di industri kripto.
Dan kasus yang memicu diskusi seluruh komunitas adalah peristiwa kerentanan Zcash yang terjadi baru-baru ini.
Claude Menemukan Kerentanan ZEC, Yang Benar-Benar Penting Bukan Kerentanannya
Jika hanya dilihat dari peristiwa itu sendiri, insiden kerentanan Zcash yang baru-baru ini memicu diskusi komunitas kripto ini tidak terlalu rumit.
Saat menganalisis kode terkait sistem Zcash Orchard, Claude Opus 4.8 mengidentifikasi masalah potensial yang tersembunyi dalam logika implementasi bukti tanpa pengetahuan (zero-knowledge proof). Kemudian, tim pengembang dan peneliti keamanan memverifikasi risiko, dan dengan cepat menyelesaikan penerapan perbaikan dan peningkatan, mencegah masalah meluas lebih lanjut.
Dari perspektif peristiwa keamanan tradisional, ini tampaknya hanyalah alur standar penemuan dan perbaikan kerentanan.
Selama lebih dari sepuluh tahun terakhir, cerita serupa tidak jarang terjadi di industri kripto. Lembaga audit menemukan masalah, peretas topi putih (white hat) melaporkan kerentanan, pihak proyek menyelesaikan perbaikan, semua ini telah menjadi bagian penting dari sistem keamanan industri.
Tetapi kali ini, fokus perhatian komunitas tidak sepenuhnya pada kerentanan itu sendiri.
Yang benar-benar memicu diskusi adalah pertanyaan lain:
Jika subjek yang menemukan kerentanan mulai meluas dari manusia ke AI, apakah seluruh sistem keamanan sedang berubah?
Inilah hal yang benar-benar layak dipikirkan dari peristiwa Zcash.
Sistem keamanan blockchain di masa lalu, pada dasarnya dibangun di atas pengalaman ahli manusia. Baik itu audit kontrak pintar, penilaian keamanan jembatan silang, atau verifikasi sistem bukti tanpa pengetahuan, alur intinya bergantung pada peneliti membaca kode, memahami logika protokol, membangun jalur serangan, dan secara bertahap mempersempit cakupan risiko.
Model ini efektif pada tahap awal perkembangan industri.
Namun, seiring kompleksitas sistem terus meningkat, kemampuan analisis manusia mulai menghadapi batas yang semakin jelas.
Sistem blockchain hari ini sudah jauh melampaui cakupan protokol transfer sederhana. Jaringan penskalaan Layer2, protokol komunikasi silang (cross-chain), blockchain modular, dan sistem bukti tanpa pengetahuan terus menumpuk lapisan teknologi baru, dan setiap penambahan lapisan abstraksi berarti permukaan risiko baru diperkenalkan ke dalam sistem.
Masalahnya adalah, pertumbuhan kompleksitas sering kali lebih cepat daripada pertumbuhan kemampuan keamanan.
Protokol modern dengan ratusan ribu baris kode, ruang status potensialnya sudah jauh melampaui cakupan yang dapat sepenuhnya dicakup oleh satu tim penelitian. Bahkan lembaga audit terbaik hanya dapat melakukan verifikasi fokus di sekitar jalur kritis, dan tidak dapat menghabiskan semua kemungkinan situasi interaksi.
Inilah mengapa industri keamanan dalam jangka panjang menghadapi kontradiksi mendasar:
Kompleksitas sistem terus meningkat, sedangkan pertumbuhan jumlah ahli manusia terbatas.
Dari sudut pandang ini, pentingnya Claude menemukan kerentanan Zcash tidak terletak pada AI menemukan masalah tertentu, tetapi pada kemampuannya menunjukkan kemampuan baru dalam menemukan risiko.
Berbeda dengan alat pemindaian aturan tradisional, nilai model besar (large model) tidak hanya untuk menjalankan aturan yang telah ditetapkan, tetapi juga untuk memahami hubungan konteks, dan mencari potensi anomali dalam logika yang kompleks.
AI dapat secara bersamaan menganalisis implementasi kode, batasan protokol, jalur eksekusi, dan logika transisi status, dan membangun hubungan di antara banyak lapisan.
Kemampuan ini belum tentu berarti AI lebih memahami kriptografi daripada ahli kriptografi.
Tetapi ini berarti AI dapat menyelesaikan banyak pekerjaan analisis yang sebelumnya memerlukan input manual dengan biaya sangat rendah, dan membantu peneliti lebih cepat melokalisasi area yang layak mendapat perhatian.
Dengan kata lain, AI sedang mengubah variabel kunci dalam penelitian keamanan:
Biaya penemuan risiko.
Dalam sejarah, setiap perubahan penting dalam industri keamanan, pada dasarnya berasal dari penurunan biaya penemuan.
Alat pemindaian kerentanan otomatis begitu.
Sistem pengujian integrasi berkelanjutan (continuous integration) begitu.
Sistem pemantauan keamanan awan juga begitu.
Dan perubahan yang dibawa AI mungkin lebih jauh mendorong proses ini.
Jika di masa lalu menemukan kerentanan kompleks memerlukan waktu beberapa minggu atau bahkan beberapa bulan, maka di masa depan siklus ini mungkin dapat dikompresi menjadi beberapa hari, beberapa jam, atau bahkan lebih singkat.
Bagi penyerang, ini berarti lebih banyak kerentanan akan ditemukan.
Bagi pembela, ini juga berarti lebih banyak kerentanan akan ditemukan lebih awal.
Oleh karena itu, yang dibawa AI bukanlah peningkatan keamanan semata, tetapi percepatan seluruh mekanisme penemuan risiko.
Inilah mengapa peristiwa Zcash layak diamati dalam konteks sejarah yang lebih besar.
Ini bukan hanya kasus audit berbantuan AI yang sukses.
Ini lebih seperti sebuah sinyal.
Sinyal tentang industri keamanan yang secara bertahap bergerak dari "digerakkan oleh ahli" ke arah "diggerakkan bersama oleh ahli + AI".
Dan ketika kemampuan penemuan risiko mulai mendapatkan peningkatan eksponensial, masalah yang lebih dalam juga muncul:
Jika AI dapat terus membantu manusia menemukan risiko, apakah sistem keamanan itu sendiri juga akan, seperti sistem penelitian dan pengembangan AI, memasuki keadaan evolusi berkelanjutan?
Pertanyaan ini adalah inti diskusi tahap selanjutnya.
Dari Perbaikan Diri Rekursif ke Keamanan Rekursif
Masalah inti yang dibahas Anthropic dalam "Recursive Self-Improvement" adalah bagaimana AI berpartisipasi dalam proses penelitian dan pengembangan dirinya sendiri, dan membantu seluruh sistem penelitian dan pengembangan mendapatkan kemampuan percepatan berkelanjutan.
Secara sekilas, ini tampaknya adalah topik yang hanya dimiliki industri kecerdasan buatan, tetapi jika ditingkatkan abstraksinya, akan ditemukan bahwa yang benar-benar penting di baliknya bukanlah AI, tetapi struktur sistem baru.
Ciri struktur ini adalah: sistem mulai berpartisipasi dalam proses pengoptimalan dirinya sendiri, model membantu peneliti meningkatkan efisiensi penelitian dan pengembangan, efisiensi penelitian dan pengembangan yang lebih tinggi membantu peneliti melatih model yang lebih kuat, kemudian, model yang lebih kuat kembali berpartisipasi dalam penelitian dan pengembangan berikutnya, seluruh sistem dengan demikian membentuk lingkaran umpan balik yang terus berputar. Inilah esensi "perbaikan diri rekursif", yang digambarkan bukan sebagai suatu terobosan kemampuan, tetapi sebagai mekanisme yang dapat terus menghasilkan peningkatan kemampuan.
Dan ketika kita mengalihkan sudut pandang dari penelitian dan pengembangan AI ke keamanan blockchain, akan ditemukan struktur serupa sedang muncul. Sistem keamanan di masa lalu sebagian besar linier: sistem dikembangkan kemudian diaudit, setelah audit selesai diluncurkan dan dijalankan, jika ada masalah dilakukan perbaikan, setelah perbaikan selesai masuk ke audit berikutnya.
Seluruh proses didominasi oleh pemeriksaan bertahap, kemampuan keamanan terutama berasal dari pengalaman ahli dan penilaian periodik.
Tetapi seiring AI mulai berpartisipasi dalam analisis kerentanan, struktur ini sedang berubah.
Semakin banyak pekerjaan identifikasi risiko tidak lagi terbatas pada titik waktu tertentu, tetapi mulai menjadi kemampuan berkelanjutan dalam proses operasi sistem.
Sistem berjalan menghasilkan data, AI terus menganalisis data dan status kode, risiko potensial diidentifikasi lebih awal, tim pengembang menyelesaikan perbaikan, sistem yang diperbarui kembali masuk ke dalam siklus analisis.
Proses ini memiliki struktur yang sangat mirip dengan flywheel penelitian dan pengembangan yang digambarkan Anthropic.
Perbedaannya adalah, target pengoptimalan keduanya tidak sama. Yang pertama fokus pada pertumbuhan kemampuan, yang kedua fokus pada pengendalian risiko; yang pertama berusaha meningkatkan efisiensi penelitian dan pengembangan, yang kedua berusaha meningkatkan efisiensi penemuan dan perbaikan risiko.
Dari sudut pandang ini, "Recursive Self-Improvement" yang diusulkan Anthropic tidak hanya berlaku untuk sistem penelitian dan pengembangan AI, tetapi sebenarnya menyediakan sudut pandang baru untuk mengamati evolusi sistem kompleks: ketika sebuah sistem mulai terus berpartisipasi dalam pengoptimalan dirinya sendiri, lingkaran umpan balik akan menjadi kekuatan pendorong penting untuk evolusinya.
Dan di bidang keamanan blockchain, struktur umpan balik serupa sedang terbentuk secara bertahap.
Sistem berjalan menghasilkan data dan perubahan status baru, AI terus menganalisis perubahan ini, risiko potensial diidentifikasi lebih awal, tim pengembang menyelesaikan perbaikan dan pengoptimalan, dan sistem yang diperbarui kembali masuk ke analisis dan verifikasi berikutnya.
Mekanisme siklus penemuan berkelanjutan, perbaikan berkelanjutan, verifikasi berkelanjutan ini memiliki perbedaan yang jelas dengan model keamanan tradisional.
Untuk menggambarkan tren yang sedang muncul ini, WEEX Labs menyebutnya:
Recursive Security (Keamanan Rekursif).
"Rekursif" di sini bukan berarti sistem dapat secara otomatis menghilangkan semua risiko, tetapi berarti kemampuan keamanan mulai terus memperkuat dirinya sendiri melalui umpan balik berkelanjutan.
Dengan kata lain, keamanan sedang berkembang dari proses pemeriksaan satu kali, menjadi kemampuan sistem yang berjalan terus-menerus.
Mengapa Keamanan Menjadi Industri yang Pertama Kali Direkonstruksi oleh AI
Ketika suatu teknologi umum mulai memasuki sistem produksi sosial, seringkali tidak mengubah semua industri secara bersamaan.
Dalam sejarah, baik itu internet, komputasi awan, atau komputasi bergerak, akan memprioritaskan dampak struktural di bidang tertentu, kemudian secara bertahap menyebar ke industri yang lebih luas. Perkembangan AI juga mengikuti pola ini.
Pertanyaan yang layak direnungkan adalah: jika AI memiliki keberlakuan yang begitu luas, mengapa salah satu perubahan paling jelas dalam beberapa tahun terakhir justru pertama kali muncul di bidang keamanan?
Jawabannya mungkin tersembunyi dalam esensi pekerjaan keamanan.
Berbeda dengan persepsi publik, inti pekerjaan keamanan bukanlah menciptakan sistem baru, tetapi memahami sistem yang sudah ada. Baik itu audit kode, analisis kerentanan, deteksi anomali, atau deduksi jalur serangan, esensinya adalah menemukan pola perilaku yang tidak sesuai harapan dalam sistem yang kompleks.
Pekerjaan semacam ini memiliki karakteristik umum: perlu memproses banyak informasi, tetapi hanya mencari beberapa titik anomali.
Bagi peneliti manusia, ini adalah tugas yang sangat menghabiskan energi. Sebuah protokol besar mungkin berisi ratusan ribu baris kode, ratusan modul, dan jalur interaksi potensial yang tak terhitung jumlahnya, sementara masalah yang benar-benar menyebabkan risiko seringkali hanya tersembunyi di sebagian kecil logika di dalamnya. Peneliti perlu menghabiskan banyak waktu membaca, memahami, memverifikasi, dan menyingkirkan petunjuk yang salah, akhirnya dapat melokalisasi masalah yang benar-benar layak mendapat perhatian.
Dan dari sudut pandang pemrosesan informasi, ini justru termasuk masalah yang paling dikuasai AI.
Tempat model besar (large model) benar-benar kuat, bukan hanya menghasilkan konten, tetapi juga mampu memproses konteks dalam jumlah besar secara bersamaan, dan membangun hubungan dari informasi kompleks. Mereka dapat dengan cepat memahami struktur sistem, melacak tautan logika, dan mencari potensi ketidakkonsistenan di antara banyak lapisan.
Bagi industri keamanan, ini berarti kemampuan baru sedang muncul.
Di masa lalu, hambatan pekerjaan keamanan biasanya terletak pada kemampuan analisis yang tidak memadai; sedangkan di masa depan, hambatan pekerjaan keamanan mungkin secara bertahap bergeser ke kemampuan verifikasi dan pengambilan keputusan.
Dengan kata lain, AI sedang menurunkan biaya "menemukan masalah", sementara manusia semakin fokus pada menilai apakah masalah ini benar-benar ada, tingkat risikonya seperti apa, dan bagaimana seharusnya merespons.
Perubahan ini sangat jelas di industri blockchain.
Seiring perkembangan Layer2, arsitektur modular, protokol silang (cross-chain), dan sistem bukti tanpa pengetahuan, jaringan blockchain tidak lagi menjadi program on-chain tunggal, tetapi sistem kompleks yang terdiri dari banyak lapisan teknologi. Setiap penambahan modul, fungsi sistem akan meningkat, tetapi permukaan serangan potensial juga akan meluas secara bersamaan.
Dari pengalaman sejarah, kompleksitas hampir selalu menjadi sumber risiko.
Sistem yang semakin kompleks, semakin sulit diverifikasi sepenuhnya melalui cara manual murni; dan sistem yang semakin sulit diverifikasi, semakin memerlukan alat baru untuk membantu manusia memahami risiko yang tersembunyi di dalamnya.
Oleh karena itu, AI pertama kali mempengaruhi industri keamanan bukanlah kebetulan.
Ini bukan karena industri keamanan paling mudah diubah, tetapi karena industri keamanan paling mendesak memerlukan alat yang dapat memperluas kemampuan kognitif. Ketika kecepatan pertumbuhan kompleksitas sistem melebihi kecepatan pertumbuhan kemampuan analisis manusia, sistem pendukung baru akan muncul secara alami.
Dari sudut pandang ini, peristiwa Zcash bukanlah kasus terisolasi, tetapi lebih seperti gambaran awal tren masa depan.
Seiring kemampuan model terus meningkat, AI di masa depan mungkin tidak hanya berpartisipasi dalam penemuan kerentanan, tetapi juga mencakup tugas yang lebih kompleks seperti evaluasi protokol, prediksi risiko, simulasi jalur serangan, dan pemantauan berkelanjutan. Dan ini berarti sistem keamanan sedang bergerak dari model penggerak tenaga manusia tradisional, secara bertahap menuju sistem kolaborasi baru yang terdiri dari AI dan manusia.
Dan justru dalam konteks ini, industri keamanan menjadi salah satu bidang pertama yang menunjukkan karakteristik evolusi rekursif.
Karena dibandingkan dengan menciptakan konten, menghasilkan gambar, atau menjawab pertanyaan, esensi pekerjaan keamanan lebih mendekati pemahaman sistem kompleks. Dan memahami sistem kompleks, justru adalah arah pertama yang melepaskan nilai setelah kemampuan model besar terus meningkat.
Siklus Hidup Kerentanan Sedang Direkonstruksi
Jika dikatakan AI sedang mengubah industri keamanan, maka yang pertama kali berubah sebenarnya bukan kerentanan itu sendiri, tetapi seluruh siklus hidup kerentanan dari muncul hingga diperbaiki.
Dalam jangka panjang, industri perangkat lunak mengikuti alur keamanan yang relatif tetap. Setelah sistem diluncurkan, risiko potensial ditemukan melalui audit berkala, pelaporan kerentanan, umpan balik komunitas, dan analisis peneliti keamanan. Kemudian tim pengembang menyelesaikan verifikasi dan perbaikan, dan menyelesaikan masalah melalui pembaruan versi.
Model ini berjalan baik selama beberapa dekade terakhir, tetapi pada dasarnya adalah alur linier.
Kerentanan ditemukan, diverifikasi, diperbaiki, setiap tahap memiliki batas yang jelas, dan sangat bergantung pada partisipasi manual. Baik siklus audit maupun kecepatan respons, dibatasi oleh sumber daya manusia dan kemampuan profesional.
Namun, ketika AI mulai berpartisipasi dalam analisis keamanan, rantai linier ini secara bertahap berkembang menjadi sistem umpan balik berkelanjutan yang berputar.
Alur keamanan di masa lalu lebih seperti ini:
Setelah pengembangan selesai dilakukan audit, sistem diluncurkan dan dijalankan, kerentanan ditemukan selama proses operasi, kemudian masuk ke alur perbaikan, akhirnya kembali ke status stabil.
Dan setelah partisipasi AI, analisis keamanan tidak lagi terbatas pada satu titik waktu tertentu.
Data yang dihasilkan selama proses operasi sistem, catatan pembaruan kode, dan informasi perubahan status, semuanya dapat terus dimasukkan ke dalam cakupan analisis. Penemuan risiko berubah dari perilaku satu kali menjadi proses berkelanjutan, kecepatan verifikasi kerentanan terus meningkat, saran perbaikan juga dapat dihasilkan lebih cepat.
Ini berarti sistem keamanan mulai memiliki kemampuan yang sulit dicapai di masa lalu—terus mengamati statusnya sendiri.
Dalam model tradisional, sebuah kerentanan mungkin ada selama beberapa bulan atau bahkan beberapa tahun sebelum ditemukan; sedangkan dalam model keamanan rekursif, sistem selalu dalam status dianalisis, siklus paparan risiko dikompres secara signifikan.
Pentingnya perubahan ini jauh melampaui peningkatan efisiensi audit itu sendiri.
Karena bagi sebagian besar insiden keamanan, yang benar-benar menentukan skala kerugian seringkali bukan apakah kerentanan ada atau tidak, tetapi berapa lama kerentanan itu ada sebelum ditemukan.
Jika kerentanan berisiko tinggi memerlukan waktu satu tahun untuk ditemukan, maka ia memiliki cukup waktu untuk dieksploitasi oleh penyerang; sedangkan jika kerentanan yang sama dapat diidentifikasi dalam beberapa hari atau bahkan beberapa jam, tingkat risiko akan mengalami perubahan mendasar.
Oleh karena itu, yang diubah AI bukan hanya alat keamanan, tetapi dimensi waktu dalam sistem keamanan.
Di masa lalu, industri mengejar "menemukan kerentanan".
Di masa depan, industri mungkin lebih memperhatikan "memperpendek waktu keberadaan kerentanan".
Pergeseran ini akan lebih lanjut mendorong sistem keamanan berkembang ke model pemantauan berkelanjutan.
Protokol di masa depan setelah diluncurkan tidak akan masuk ke status "aman", tetapi masuk ke status analisis berkelanjutan. Setiap peningkatan sistem, setiap modul baru, dan setiap perubahan parameter kunci, semuanya berpotensi memicu proses penilaian risiko baru.
Dari sudut pandang ini, keamanan akan semakin menyerupai infrastruktur dasar yang berjalan secara real-time, bukan pekerjaan satu kali yang diselesaikan sebelum peluncuran.
Perubahan ini juga menjelaskan mengapa "keamanan rekursif" tidak berarti hilangnya kerentanan.
Faktanya, sistem kompleks apa pun tidak dapat sepenuhnya menghilangkan kerentanan.
Yang benar-benar berubah adalah hubungan antara sistem dan kerentanan.
Di masa lalu, sistem keamanan lebih banyak merespons setelah kerentanan terpapar; sedangkan di masa depan, sistem keamanan secara bertahap mendapatkan kemampuan untuk menemukan secara aktif, menganalisis secara berkelanjutan, dan memberikan umpan balik cepat.
Ketika kecepatan penemuan risiko terus meningkat, siklus hidup kerentanan terus dipersingkat, pemahaman seluruh industri tentang "keamanan" juga akan berubah seiring.
Keamanan tidak lagi hanya menjadi langkah yang perlu diselesaikan sebelum proyek diluncurkan, tetapi menjadi kemampuan berkelanjutan yang menembus seluruh siklus hidup sistem.
Dan ini adalah mekanisme dasar mulai berfungsinya keamanan rekursif.
Risiko dan Inspirasi Industri
Setelah AI mulai memasuki sistem keamanan, kesalahpahaman yang mudah timbul adalah: sistem di masa depan akan menjadi lebih aman karenanya.
Faktanya, hal-hal tidak sesederhana itu.
Melihat sejarah perkembangan teknologi beberapa dekade terakhir, setiap revolusi alat penting akan secara bersamaan meningkatkan kemampuan pembela dan penyerang. Internet menurunkan biaya perolehan informasi, juga menurunkan biaya penyebaran serangan; komputasi awan meningkatkan kemampuan ekspansi sistem, juga memperluas cakupan dampak serangan. Dan perubahan yang dibawa AI juga mengikuti pola ini.
Yang ditingkatkan bukan hanya kemampuan keamanan, tetapi kemampuan pemrosesan informasi seluruh sistem serangan dan pertahanan.
Bagi pembela, AI dapat membantu menganalisis kode dalam jumlah besar, menemukan logika anomali, membangun skenario pengujian, dan memprediksi risiko potensial. Banyak pekerjaan yang sebelumnya memerlukan tim keamanan menghabiskan waktu berminggu-minggu untuk menyelesaikannya, kini mungkin dapat menyelesaikan pemeriksaan awal dalam waktu yang lebih singkat.
Tetapi pada saat yang sama, penyerang juga memiliki alat teknologi yang sama.
Secara teori, model apa pun yang dapat membantu peneliti menemukan kerentanan, juga dapat membantu penyerang mencari jalur serangan; kemampuan apa pun yang dapat digunakan untuk analisis protokol, juga mungkin digunakan untuk mencari titik lemah sistem. AI tidak secara alami berdiri di sisi pembela, AI hanya meningkatkan efisiensi kedua belah pihak dalam memahami sistem kompleks.
Oleh karena itu, perubahan terpenting industri keamanan di masa depan mungkin bukan berkurangnya risiko, tetapi percepatan kecepatan paparan risiko.
Dari sudut pandang ini, tantangan keamanan era AI dapat diringkas menjadi empat dimensi inti.
Pertama adalah risiko teknologi.
Seiring kemampuan analisis AI terus meningkat, banyak masalah warisan sejarah dan cacat tersembunyi mungkin ditemukan kembali. Beberapa risiko yang karena kompleksitas terlalu tinggi belum mendapat perhatian dalam jangka panjang, akan secara bertahap terekspos dalam pandangan industri. Ini berarti dalam beberapa tahun ke depan, jumlah kerentanan yang kita lihat mungkin tidak berkurang, bahkan mungkin ada peningkatan bertahap.
Kedua adalah risiko kompleksitas.
Arah perkembangan industri blockchain sedang terus meningkatkan kompleksitas sistem. Arsitektur modular, komunikasi silang (cross-chain), penskalaan Layer2, dan teknologi bukti tanpa pengetahuan, sedang membangun jaringan infrastruktur yang semakin besar. Peningkatan kompleksitas berarti peningkatan fungsi, tetapi juga berarti perluasan permukaan risiko secara bersamaan.
Ketiga adalah risiko kemampuan respons.
Jika kecepatan penemuan kerentanan terus meningkat, sementara kemampuan tata kelola (governance), pengembangan, dan peningkatan pihak proyek tidak mengalami kemajuan bersamaan, maka hambatan baru akan muncul. Faktor kunci yang menentukan tingkat keamanan di masa depan, mungkin bukan lagi apakah dapat menemukan masalah, tetapi apakah dapat menangani masalah dengan cepat.
Terakhir adalah risiko tata kelola (governance).
Bagi sistem terdesentralisasi, penyelesaian masalah teknis seringkali bukan hanya masalah rekayasa. Banyak peningkatan kunci perlu melalui diskusi komunitas, pemungutan suara tata kelola (governance voting), bahkan koordinasi ekosistem. Ketika AI memampatkan siklus paparan risiko ke skala waktu yang lebih pendek, apakah sistem tata kelola dapat mengikuti kecepatan perubahan teknologi, akan menjadi tantangan baru.
Risiko-risiko ini tidak akan hilang dengan sendirinya karena kehadiran AI.
Sebaliknya, mereka sedang diperbesar, dipercepat, dan disusun ulang.
Tetapi pada saat yang sama, paradigma keamanan baru juga sedang terbentuk.
Semakin banyak proyek mulai bergeser dari "audit periodik" ke "pemantauan berkelanjutan"; semakin banyak tim pengembang mulai memperkenalkan verifikasi otomatis, verifikasi formal (formal verification), dan alat audit berbantuan AI; semakin banyak pekerjaan keamanan juga sedang berubah dari pemeriksaan satu kali menjadi mekanisme berjalan jangka panjang.
Inti perubahan ini bukanlah membuat sistem mencapai status aman mutlak.
Tetapi membuat kemampuan manajemen risiko menjadi bagian dari sistem itu sendiri.
Di masa lalu, tingkat keamanan suatu proyek seringkali bergantung pada berapa kali diaudit; di masa depan, tingkat keamanan suatu proyek mungkin lebih bergantung pada kemampuan berkelanjutannya dalam menemukan risiko, merespons risiko, dan memperbaiki risiko.
Bagi seluruh industri, ini berarti dimensi kompetisi sedang berubah.
Protokol terdepan di masa depan, belum tentu protokol dengan kerentanan paling sedikit, tetapi mungkin protokol dengan penemuan risiko tercepat, efisiensi perbaikan tertinggi, dan ketahanan (resilience) sistem terkuat.
Dan ini adalah arah yang benar-benar dituju oleh keamanan rekursif.
Yang menjadi perhatian bukanlah menghilangkan risiko, tetapi terus meningkatkan kemampuan sistem dalam menghadapi risiko.
Penutup
Jika penelitian Anthropic tentang "Recursive Self-Improvement" diamati bersama dengan peristiwa kerentanan Zcash yang baru-baru ini terjadi, akan ditemukan bahwa meskipun keduanya terjadi di bidang yang berbeda, keduanya menunjuk pada tren yang sama.
AI sedang berkembang dari alat, secara bertahap menjadi partisipan dalam proses operasi sistem kompleks.
Di bidang penelitian dan pengembangan, AI mulai membantu manusia merancang eksperimen, menulis kode, menganalisis hasil, dan mengoptimalkan model; di bidang keamanan, AI mulai membantu manusia memahami sistem, menemukan risiko, dan memverifikasi masalah.
Makna terpenting perubahan ini tidak terletak pada suatu terobosan kemampuan, tetapi pada struktur umpan balik baru yang sedang terbentuk.
Sistem mulai berpartisipasi dalam pengoptimalan dirinya sendiri.
Penelitian dan pengembangan mulai mendapatkan kemampuan percepatan berkelanjutan.
Keamanan mulai mendapatkan kemampuan evolusi berkelanjutan.
Dan ketika kedua kemampuan ini muncul bersamaan, seluruh industri teknologi akan memasuki tahap perkembangan baru.
Bagi industri kripto, perubahan ini sangat penting.
Lebih dari satu dekade terakhir, salah satu masalah yang paling banyak dibahas industri selalu adalah keamanan. Baik itu kerentanan kontrak pintar, serangan jembatan silang (cross-chain bridge), atau cacat implementasi kriptografi, pada dasarnya mencerminkan satu realitas: kecepatan pertumbuhan kompleksitas sistem seringkali lebih cepat daripada kecepatan manusia menemukan risiko.
Dan AI sedang mengubah hubungan ini.
AI belum tentu dapat menghilangkan kerentanan, juga tidak dapat menjamin keamanan mutlak sistem, tetapi AI sedang membantu industri memahami sistem kompleks dengan efisiensi yang belum pernah terjadi sebelumnya, dan mempersingkat waktu antara risiko muncul dan ditemukan.
Ini mungkin salah satu perubahan yang paling layak diperhatikan dalam beberapa tahun ke depan.
Karena dalam dunia digital yang semakin kompleks, sumber daya yang benar-benar langka bukan lagi hanya daya komputasi, dana, atau kode, tetapi kemampuan menemukan masalah.
Siapa yang dapat mengidentifikasi risiko lebih awal, siapa yang dapat merespons lebih cepat, dialah yang dapat mempertahankan stabilitas lebih kuat dalam lingkungan yang terus berubah.
Dari sudut pandang ini, Claude menemukan kerentanan Zcash mungkin bukan peristiwa terisolasi.
Ini lebih seperti sinyal awal perubahan zaman.
Sinyal tentang AI mulai memasuki sistem keamanan, mulai berpartisipasi dalam penemuan risiko, dan secara bertahap membentuk ulang cara operasi industri.
Keamanan rekursif mungkin belum menjadi istilah industri yang diterima secara luas, tetapi fenomena yang digambarkannya sudah mulai muncul.
Sistem keamanan di masa depan tidak lagi hanya audit sekali sebelum peluncuran, juga tidak lagi hanya respons darurat setelah kerentanan muncul.
Keamanan akan semakin menyerupai sistem yang berjalan terus-menerus, terus memberikan umpan balik, terus berevolusi.
Dan apa yang kita lihat, mungkin adalah titik awal dari proses ini.
Jika Anda juga tertarik pada AI × crypto, jangan ragu untuk mengikuti WEEX Labs, menghadirkan informasi terkini AI setiap hari untuk Anda!
Buka kunci lebih banyak konten menarik ikuti X:@WEEXAILabs Artikel mendalam ikuti Medium:@WEEXLabs_cn
