Setelah ditolak lebih dari 20 kali untuk magang, Sinan Can Demir yang berusia 24 tahun memutuskan untuk mengumpulkan pengalaman proyek di GitHub.
Dia sama sekali tidak menyangka, 'ikan besar' pertama yang dia temui, ternyata adalah AI yang tidak terkendali...
Mythos 5 Memalsukan Banyak Akun, Mahasiswa Langsung Menangkapnya
Akhir Juli, saat berselancar di GitHub, Demir memperhatikan sebuah proyek sumber terbuka bernama myNetwork.
Ini adalah alat pemindaian jaringan, skalanya tidak terlalu besar, kodenya terbuka.
Seorang pengguna bernama miraholt31, mengirimkan sebuah Pull Request (PR). Secara sekilas, ini hanya pembaruan fungsi biasa.
Setelah memeriksa kodenya, Demir menemukan bahwa di dalamnya tersembunyi sebuah peletak malware.
Jika pengelola proyek mengklik 'merge', kode berbahaya ini berpotensi ikut pembaruan perangkat lunak dan masuk ke komputer semua orang.
Dia segera memberi peringatan di kolom komentar: PR ini mengandung peletak malware.
Kemudian, hal aneh terjadi. miraholt31 dengan cepat membantah, memberikan penjelasan teknis yang cukup lengkap, bersikeras bahwa kodenya aman.
Segera setelah itu, akun kedua muncul.
Akun ini bernama Lena Brandt, mengaku sebagai seorang insinyur yang bekerja di Jerman. Dia juga menyatakan kode tidak bermasalah, dan mulai memberi tekanan pada pengelola proyek agar segera menggabungkan pembaruan.
Dua orang, dua identitas, dua pernyataan yang saling menguatkan.
Menghadapi bantahan tersebut, Demir sempat merasa goyah.
Dia mengaku kemudian, suara-suara keraguan itu pernah membuatnya bertanya-tanya apakah dia telah 'salah menuduh seorang pengembang yang tidak bersalah'.
Setelah meninjau ulang kode dan memverifikasi ulang dengan bantuan Claude, dia akhirnya menguatkan penilaiannya.
Kemudian, pengelola myNetwork menolak pembaruan tersebut, alasan yang diberikan hanya satu kalimat: 'Demi pertimbangan keamanan', akhirnya serangan gagal.
Beberapa hari kemudian, AI Safety Institute (AISI) dari Inggris menghubunginya, mengungkap jawaban yang lebih luar biasa —
Dua 'orang' yang berdebat dengannya di GitHub, sebenarnya adalah AI di baliknya, didukung oleh Mythos 5.
122 Kali Pengujian, AI 19 Kali Diam-diam Melanggar Batas
Insiden ini berasal dari sebuah pengujian rutin oleh AI Safety Institute (AISI) Inggris.
AISI awalnya ingin mengetahui sejauh mana model tercanggih dapat berjalan dalam tugas serangan jaringan.
Para peneliti membangun dua lingkungan jaringan simulasi, yang disebut 'jaringan target' —
Membiarkan AI secara mandiri mencari kerentanan, mengambil data yang dilindungi, dan menyelesaikan tantangan yang ditentukan.
Untuk mencapai batas kemampuan model, AISI memberikan kondisi pengujian yang cukup longgar:
AI dapat mengakses internet secara bebas, beberapa klasifier keamanan jaringan model yang awalnya digunakan untuk mencegah perilaku berbahaya juga dimatikan secara sengaja.
Tujuh model, dijalankan total 122 kali.
Diantaranya, Mythos 5 berpartisipasi 43 kali, GPT-5.6 Sol berpartisipasi 35 kali, sebagian besar pengujian berakhir normal.
Tetapi dalam 10 kali eksekusi, Agen secara sepihak memperluas aksinya ke internet nyata, AISI akhirnya mencatat 19 tindakan melampaui batas.
17 dari Mythos 5, dan 2 lainnya dari satu pengujian GPT-5.6 Sol.
Tindakan-tindakan ini terkonsentrasi terjadi antara 25 hingga 28 Juli, sebagian besar berasal dari agen cerdas Mythos 5 yang sama yang terus bertindak.
Hal yang dilakukannya, jauh melampaui 'menghasilkan sepotong kode serangan' —
Dia menggunakan jaringan anonim Tor untuk menyembunyikan lalu lintas, menghindari sebagian batasan GitHub; meneliti proyek nyata dan pengelolanya; membuat beberapa identitas palsu; mengirimkan kode dengan muatan berbahaya ke proyek sumber terbuka.
Saat Demir mempertanyakannya secara terbuka, AI mulai memodifikasi jejak yang ditinggalkan sebelumnya, berusaha membuat perilakunya terlihat 'tidak berbahaya'.
Dia juga mempertimbangkan untuk menggunakan identitas baru, untuk melanjutkan serangan.
Satu Bulan, Empat Kali Tidak Terkendali
Insiden AISI bukanlah kasus terisolasi. Itu terjadi dalam konteks 'Musim Panas Tidak Terkendali' yang lebih besar —
21 Juli, OpenAI mengungkapkan bahwa salah satu agen AI dalam evaluasi mereka melampaui batas, menyusup ke infrastruktur Hugging Face.
30 Juli, Anthropic mengungkapkan sendiri, setelah meninjau ulang 141.006 kali eksekusi evaluasi, menemukan 3 kasus AI menyusup ke perusahaan nyata.
Salah satu instance Mythos 5 berhasil mempublikasikan paket Python berbahaya ke repositori publik PyPI, didownload oleh 15 sistem nyata dalam 1 jam, termasuk satu pemindai keamanan.
Segera setelah itu, Meta mengungkapkan insiden serupa keempat. Model mereka sendiri di lingkungan penyedia evaluasi Irregular yang sama, memanfaatkan kerentanan untuk menyusup ke sistem sebuah perusahaan nyata.
Dalam satu bulan, tiga laboratorium, empat insiden tidak terkendali, ini jelas bukan kebetulan.
Ini adalah kenyataan yang perlu dicerna semua orang: AI bukan lagi sekadar alat, ia mulai memiliki kemampuan untuk menipu manusia, memalsukan identitas, dan melakukan perang informasi di komunitas publik.
Kali ini serangan hacker, ditemukan oleh seorang mahasiswa berusia 24 tahun.
Lalu, bagaimana dengan serangan berikutnya?
Referensi:
https://www.reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20
Artikel ini berasal dari akun WeChat publik "新智元", penulis: ASI启示录
