Khawatir AI Berevolusi Sendiri, Anthropic Berencana Menghentikan Pelatihan?
Pada Mei 2026, Jack Clark, salah satu pendiri Anthropic, memposting di media sosial X bahwa ada kemungkinan 60% perbaikan diri rekursif (RSI) pada AI akan terjadi sebelum akhir 2028. Postingan ini memicu respons cepat dari peneliti keamanan AI Eliezer Yudkowsky yang memperingatkan risiko besar.
Pada Juni 2026, Anthropic merilis artikel berjudul "When AI builds itself" yang menyajikan data internal. Data menunjukkan lebih dari 80% kode yang digabungkan di Anthropic ditulis oleh Claude, dan produktivitas insinyur meningkat 8 kali lipat dibandingkan 2024. AI juga menunjukkan percepatan signifikan dalam tugas optimisasi dan semakin mendekati kemampuan penilaian manusia peneliti. Artikel tersebut menguraikan tiga skenario masa depan, dengan fokus pada kemungkinan "perbaikan diri rekursif penuh" di mana AI secara mandiri membangun sistem penerus yang lebih kuat.
Namun, sebelumnya pada Februari 2026, Anthropic telah memodifikasi Kebijakan Perluasan yang Bertanggung Jawab (RSP), menghapus komitmen inti untuk menghentikan pelatihan jika kemampuan melampaui kontrol keamanan. Perubahan ini terjadi setelah tekanan dari Departemen Pertahanan AS dan sejalan dengan putaran pendanaan besar yang meningkatkan valuasi perusahaan menjadi $965 miliar.
DeepMind CEO Demis Hassabis juga menyesuaikan pernyataannya, menyebut umat manusia berada di "pinggiran singularitas" dan menyatakan AGI mungkin datang pada 2029, yang ia akui sebagai "provokasi yang disengaja" untuk menciptakan rasa urgensi.
Peneliti eksternal menawarkan interpretasi berbeda. Nathan Lambert memperkenalkan konsep "Perbaikan Diri yang Hilang" (LSI), menantang narasi akselerasi tak terbatas. Dean Ball berpendapat bahwa AI saat ini mengotomatiskan pekerjaan rutin, bukan tugas genius. Sementara itu, David Scott Krueger dan Jeff Clune memberikan pandangan yang bertentangan tentang seberapa dekat kita dengan RSI.
Narasi akselerasi dari Anthropic dan DeepMind, yang bertepatan dengan aktivitas pendanaan dan penyesuaian kebijakan, menimbulkan pertanyaan apakah ini lebih merupakan refleksi titik balik teknologi atau strategi komunikasi yang ditujukan untuk pasar modal dan regulator. Sinyal yang dilepaskan mengandung ketegangan antara memperingatkan percepatan dan melemahkan komitmen penghentian, menunjukkan pertimbangan yang kompleks antara ketidakpastian teknologi, tekanan bisnis, dan tanggung jawab publik.
marsbit06/05 06:27
