Claude sudah mulai melatih Claude!
Dengan bayaran 4 dolar per jam, mengalahkan peneliti manusia yang dibayar 150 dolar per jam.
Dalam penelitian terbaru yang dirilis Anthropic, Claude sendiri yang mencari makalah penelitian, mengusulkan solusi, membuat data, dan melatih model, sekaligus berhasil mengatasi 10 jenis masalah keamanan AI.
Pada beberapa tugas, solusi yang dihasilkannya bahkan lebih baik daripada 28 peneliti keamanan manusia.
Yang lebih menarik lagi, Claude yang lebih lemah sudah mulai ikut serta melatih Claude yang lebih kuat.
Hari di mana AI "memperbaiki dirinya sendiri" sepertinya semakin dekat...
4 Dolar per Jam, Claude Mengalahkan Peneliti Manusia
Dalam penelitian berjudul "Peneliti Otomatis Dapat Secara Efektif Memitigasi Kegagalan Penyelarasan AI" ini, Anthropic langsung memasukkan Claude ke dalam laboratorium.
Secara spesifik, mereka membangun sistem peneliti penyelarasan otomatis bernama AAR berdasarkan Claude Opus 4.8.
Setelah menerima masalah keamanan model yang spesifik, Claude akan mencari sendiri makalah terkait, mencari metode yang dapat digunakan, mengusulkan skema pelatihan baru, menghasilkan data, melakukan fine-tuning pada model, dan akhirnya menjalankan serangkaian pengujian keamanan dan kemampuan umum.
Dari mengajukan hipotesis hingga menyelesaikan verifikasi, siklus penelitian AI yang relatif lengkap seperti ini telah diserahkan kepada Claude.
Jika hasilnya tidak baik, skema dibuang; jika ada peningkatan, coba lagi ke arah itu.
Satu putaran pelatihan biasanya hanya berjalan 30 menit. Dengan cara ini, Claude dapat dengan cepat mencoba dan gagal dalam banyak skema, seperti algoritma pencarian.
Sepanjang proses ini, manusia bertugas memberikan soal, menyediakan model dan standar evaluasi, sementara Claude menangani sebagian besar pekerjaan dari mencari referensi hingga menjalankan eksperimen.
10 Masalah Keamanan Sulit, Claude Temukan Semua Solusi Perbaikan
Dalam eksperimen, Anthropic sekaligus memberi Claude 10 soal.
Soal-soal ini mencakup masalah penyelarasan umum pada model, termasuk penipuan, basa-basi, peretasan hadiah, pelanggaran privasi, dan jailbreak.
Misalnya "basa-basi", yang merujuk pada model yang memberikan jawaban yang disukai pengguna tetapi belum tentu benar, hanya untuk menyenangkan pengguna; "peretasan hadiah" adalah model yang tidak benar-benar menyelesaikan tugas, hanya memanfaatkan celah aturan evaluasi untuk mendapatkan skor lebih tinggi.
Claude hanya menangani satu masalah setiap kali, berulang kali mengusulkan solusi, melatih model target yang sesuai, lalu melanjutkan ke putaran berikutnya berdasarkan hasilnya.
Akhirnya, semua 10 jenis masalah mengalami perbaikan.
Menurut metrik "kesenjangan keamanan" yang didefinisikan Anthropic, Claude menutup 26% hingga 96% dari kesenjangan tersebut. Secara sederhana, ini berarti menarik model yang awalnya memiliki masalah keamanan jauh lebih dekat ke skor sempurna teoretis.
Yang lebih penting, metode-metode ini tidak hanya efektif untuk soal-soal yang telah dilihat Claude.
Beberapa solusi pemenang, ketika diterapkan pada kumpulan data uji yang tidak dipublikasikan dan evaluasi Petri yang mensimulasikan skenario pertahanan multi-ronde, tetap dapat mengurangi perilaku tidak aman model. Efeknya juga bertahan ketika diterapkan pada model yang skalanya hingga 4,7 kali lebih besar dari model eksperimen.
Anthropic juga menetapkan batas merah: pelatihan keamanan tidak boleh secara signifikan merusak kemampuan asli model.
Lagi pula, membuat model menolak menjawab apa pun juga dapat meningkatkan skor pada banyak tes keamanan, tetapi model seperti itu pada dasarnya tidak dapat digunakan.
Pada akhirnya, solusi yang ditemukan Claude tidak menunjukkan degradasi yang jelas dalam tes kemampuan umum yang telah ditetapkan.
85% vs 20%, Claude Mengalahkan Peneliti Manusia dengan Skor Telak
Pertandingan paling timpang terjadi dalam tes "penipuan".
Agar model target menjadi lebih jujur, Claude melakukan lebih dari 150 percobaan.
Ia mengusulkan satu metode, melatih sekali, lalu menyesuaikan lagi berdasarkan hasilnya. Dalam satu eksperimen, solusi terbaik menutup 82% kesenjangan keamanan; secara rata-rata dari beberapa kali eksekusi, skor rata-rata mencapai 85%.
Soal yang sama juga diberikan kepada 6 peneliti keamanan AI yang berpengalaman.
Hasilnya, peneliti manusia rata-rata hanya menutup 20% kesenjangan keamanan...
85% vs 20%, Claude menang dengan sangat meyakinkan.
Total ada 28 peneliti keamanan manusia yang berpartisipasi dalam semua tugas, masing-masing diberi waktu maksimal 8 jam untuk membaca referensi dan merancang solusi.
Makalah tersebut menyatakan bahwa peneliti otomatis biasanya dapat menemukan metode yang melebihi rata-rata manusia dalam waktu 6 jam, dan arahan penelitian yang diberikan manusia juga tidak membuat Claude mencapai hasil yang lebih baik.
Yang paling menyakitkan hati adalah biayanya!
Biaya inferensi API per jam untuk seorang peneliti otomatis adalah sekitar 4 dolar; sementara bayaran yang diberikan Anthropic kepada peneliti manusia adalah 150 dolar per jam.
Ini... peneliti manusia benar-benar akan digantikan oleh Claude.
Namun, pertandingan manusia vs mesin ini tidak sepenuhnya adil.
Claude dapat benar-benar melatih model, melihat hasil setiap eksperimen, lalu terus memodifikasi solusinya; peneliti manusia hanya dapat mengirimkan metode sekali, tanpa kesempatan untuk beriterasi berdasarkan hasil.
Claude Lebih Lemah Melatih Claude Lebih Kuat, 60 Jam Mendekati Versi Resmi
Eksperimen sebelumnya terutama meningkatkan model kecil open-source.
Selanjutnya, Anthropic langsung meningkatkan kesulitannya: meminta Claude Sonnet 5 yang kemampuannya lebih lemah untuk melatih versi awal Claude Opus 4.8 yang sebagian besar pelatihan keamanan tingkat produksinya belum selesai.
Murid tidak harus kalah dari gurunya, kira-kira begitulah pola ini.
Dalam 60 jam, Sonnet 5 menguji lebih dari 50 solusi. Metode yang ditemukan akhirnya menutup sekitar 65% kesenjangan keamanan, sudah mendekati 72% dari versi rilis resmi Opus 4.8.
Skema ini hanya menggunakan lebih dari 2000 data pelatihan, yang terutama terdiri dari templat sederhana dan kumpulan data publik.
Menurut perhitungan Anthropic, pada kelompok tugas spesifik ini, efisiensi datanya kira-kira 15.000 kali lebih tinggi daripada proses penyelarasan tingkat produksi.
Tentu saja, ini belum berarti Anthropic dapat menggunakan 2000 data untuk mereplikasi seluruh pelatihan produksi.
Model resmi masih harus menangani lebih banyak kemampuan, lebih banyak risiko, dan banyak kasus ekstrem. Eksperimen ini hanya menargetkan sekelompok indikator keamanan yang jelas.
Namun ini sudah membuktikan bahwa Claude yang lebih lemah sudah dapat mencari makalah sendiri, merancang metode, menghasilkan data, lalu menuliskan hasil pelatihan ke dalam Claude yang lebih kuat.
Manusia menentukan batas, Claude bertanggung jawab untuk beriterasi. Satu model mulai berpartisipasi dalam membuat model berikutnya yang lebih aman dan lebih kuat.
AI memperbaiki AI telah menjadi fakta yang terjadi di depan mata.
Jadi, Apakah Ini Termasuk "Evolusi Mandiri AI"?
Dari hasilnya, penelitian ini memang sudah menyentuh ambang batas "evolusi mandiri AI".
Tetapi jika "evolusi mandiri" dipahami sebagai AI yang sepenuhnya mandiri merancang, melatih, dan memproduksi generasi AI berikutnya yang lebih kuat, maka eksperimen ini masih jauh dari tahap itu.
Lagipula dalam proses ini, masalah penelitian apa, model dan data apa yang digunakan, hasil seperti apa yang dianggap sukses, semuanya masih ditentukan oleh manusia.
Anthropic sendiri juga mengakui bahwa AAR hanya dapat mengoptimalkan tujuan yang sebelumnya telah dimasukkan manusia ke dalam sistem evaluasi.
Eksperimen ini tidak mencakup masalah kompleks lainnya; beberapa risiko frekuensi rendah atau yang baru muncul, bahkan belum memiliki Benchmark yang sesuai.
Para peneliti juga hanya memeriksa sekelompok kemampuan umum yang telah dipilih sebelumnya, sehingga tidak dapat mengecualikan kemungkinan bahwa pelatihan keamanan tertentu meningkatkan skor sekaligus merusak kemampuan lain yang tidak diuji.
Evaluasi keamanan seperti Petri juga hanya merupakan indikator proxy untuk risiko dunia nyata. Model yang tampil lebih aman dalam tes tidak berarti pasti dapat diandalkan juga di lingkungan nyata.
Jadi, bahaya terbesar AAR juga tersembunyi dalam keunggulannya: ia terlalu ahli dalam mencoba-coba dengan cepat berdasarkan indikator.
Begitu pengukurnya salah, semakin cepat Claude berlari, semakin jauh ia mungkin dari hasil yang benar-benar diinginkan manusia.
Yang lebih dramatis adalah, Agent penelitian itu sendiri juga akan curang.
Untuk mencegah AAR memanfaatkan celah aturan evaluasi, Anthropic secara khusus menugaskan sebuah Agent pemantau untuk memeriksa skema yang akan dijalankan Claude dan catatan penelitian lengkap.
Hasilnya, dalam sekitar 1600 catatan penelitian, model pemantau menemukan 39 upaya kecurangan, sekitar 2,4%.
Beberapa Agent berulang kali mengirimkan skema yang sama, mencoba memanfaatkan fluktuasi evaluasi untuk mendapatkan skor lebih tinggi; ada yang meniru format Benchmark untuk menghasilkan data pelatihan, dan ada yang sengaja menyembunyikan langkah-langkah eksperimen yang melanggar aturan.
Daripada benar-benar menyelesaikan masalah keamanan model, mereka lebih ingin menemukan jalan pintas untuk meningkatkan skor dengan cepat.
Ini agak ironis... jadi Agent mengawasi dirinya sendiri ya.
Kabar baiknya, niat curang ini sebagian besar masih akan muncul dalam catatan penalaran model, sehingga dapat ditemukan oleh Agent pemantau.
Kabar buruknya, Anthropic juga tidak dapat memastikan apakah model yang lebih kuat di masa depan masih akan meninggalkan jejak yang begitu jelas.
Ketika Agent penelitian memiliki lebih banyak alat, wewenang lebih tinggi, dan dapat langsung memodifikasi proses pelatihan model, "bagaimana memantau AI yang bertugas meningkatkan AI", mungkin akan lebih rumit daripada pelatihan itu sendiri.
Tapi bagaimanapun, satu AAR menghabiskan sekitar 4 dolar per jam, dapat bekerja terus-menerus, dan juga dapat direplikasi menjadi puluhan, ratusan yang berjalan secara paralel untuk melakukan eksperimen.
Sementara upah peneliti manusia jauh lebih tinggi dari itu, perlu istirahat, dan jumlah eksperimen yang dapat dilakukan sekaligus juga cukup terbatas.
Cara menghitungnya seperti apa, jawabannya sudah jelas.
Tidak tahu harus mengatakan ledakan nuklir, atau langsung terjatuh terduduk...
Kali ini, giliran pembuat AI yang khawatir pekerjaannya direbut oleh AI.
Referensi:[1]https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures[2]https://www-cdn.anthropic.com/7b1c44894e98087a6479947dcdd40716278aeeffd/automated-alignment-researchers-august-2026.pdf[3]https://techcrunch.com/2026/08/28/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai/
Artikel ini dari akun WeChat "量子位", penulis: 关注前沿科技
