Anthropic Memprediksi secara Global, OpenAI Telah Melampaui "Ambang Keandalan": Akselerasi Mandiri AI Telah Dimulai
**Peringatan Global dari Anthropic: OpenAI Telah Melampaui 'Ambang Keandalan', Memicu Akselerasi Mandiri AI**
Anthropic mengeluarkan peringatan mendesak untuk memperlambat atau menghentikan penelitian AI, karena data internal mereka menunjukkan bahwa AI kini mempercepat pengembangan AI itu sendiri, berpotensi mendekati titik kritis perbaikan diri yang rekursif atau "membuat dirinya sendiri."
Di sisi lain, Yann Dubois dari tim pasca-pelatihan OpenAI memberikan perspektif mikro: pertumbuhan kemampuan AI sebenarnya linier dan berkelanjutan, tetapi pengguna merasakan "kebergunaan" yang melompat secara diskrit. Ini karena adanya **"ambang keandalan"**. Sebelum mencapai ambang ini, AI hanyalah alat cerdas yang tidak dapat diandalkan sepenuhnya. Setelah melampauinya (sekitar Desember tahun lalu menurut Dubois), AI menjadi seperti karyawan yang dapat dipercaya untuk menangani pekerjaan nyata dan mulai mempercepat perkembangannya sendiri.
**Akselerasi Mandiri dan Siklus Penguatan:** Ketika model menjadi cukup andal (misalnya, dalam pemrograman), mereka dapat digunakan untuk membantu peneliti mengembangkan alat dan bahkan melatih generasi model AI berikutnya, menciptakan loop akselerasi yang semakin cepat. Data Anthropic menunjukkan produktivitas kode per insinyur meningkat 8x pada Q2 2026 dibandingkan Q1 2024.
**AI sebagai "Kerajinan" (Craft):** Dubois menegaskan bahwa membangun sistem AI yang andal lebih menyerupai kerajinan atau bahkan "alkimia" yang mengandalkan intuisi dan trial-and-error, daripada ilmu pengetahuan murni yang sistematis. Peningkatan keandalan seringkali dicapai dengan menekan "tingkat kesalahan per interval waktu" dalam sistem agen AI.
**"Harness" Vertikal dan "Mil Terakhir":** Dubois berpendapat bahwa jika model saat ini "dibekukan" dan fokus dialihkan ke pengembangan *harness* (sistem orkestrasi) yang matang untuk domain spesifik, banyak bidang sudah dapat merasakan fungsi seperti AGI (Kecerdasan Buatan Umum). **Tantangan sebenarnya bukan pada kecerdasan model, tetapi pada "mil terakhir"**—yaitu mengintegrasikan AI dengan sistem yang ada, mengatur izin akses, konektor data, dan alur kerja bisnis tertentu. Inilah peluang besar bagi pengembang dan startup.
**Tantangan Masa Depan: Pembelajaran Berkelanjutan (Continual Learning):** Meski memiliki titik awal yang tinggi, model AI saat ini kesulitan untuk terus belajar dan beradaptasi dari pengalaman spesifik di lingkungan barunya seperti manusia. Membentuk kurva pembelajaran AI yang terus naik, bukan mendatar, adalah salah satu masalah terpenting berikutnya.
marsbit14j yang lalu
