Karpathy Baru-Baru Ini Mengkritik: Satu Kalimat Membuat Seluruh Pengembang Agent Diam Seribu Bahasa
Karpathy, peneliti inti tim pra-pelatihan di Anthropic, mengejutkan komunitas pengembang AI Agent dengan pernyataan tegasnya: "Kesalahan terbesar di bidang AI saat ini adalah orang-orang terburu-buru memaksa Agent bekerja, tanpa memahami model dasar yang mendasarinya terlebih dahulu."
Dia berbagi pelajaran berharga dari proyek "World of Bits" tahun 2016 di OpenAI, yang bertujuan membuat Agent menggunakan komputer, tetapi gagal karena teknologi saat itu (seperti reinforcement learning) belum matang. Menurutnya, fokus yang benar saat itu adalah pada pengembangan model bahasa.
Karpathy memberikan tiga saran penting:
1. Berhenti memaksa Agent melakukan segalanya; perbaiki dan pahami model dasarnya terlebih dahulu.
2. Membuat demo mudah, tetapi mengubahnya menjadi produk yang matang membutuhkan waktu hingga sepuluh tahun, seperti yang terlihat pada contoh mobil otonom dan VR.
3. Agent bukanlah produk itu sendiri; kemampuan dasar model lah yang merupakan produk sejati. Agent akan muncul secara alami jika fondasinya kuat.
Ia juga mendorong para pengembang untuk belajar dari neurosains, seperti struktur otak manusia (misalnya, hipokampus untuk memori), untuk merancang Agent yang lebih baik.
Pesan utamanya adalah: meskipun perusahaan besar seperti OpenAI unggul dalam pelatihan model bahasa besar, dalam pengembangan Agent, pengembang independen dan startup berada di garis terdepan. Tidak ada raksasa teknologi yang memiliki keunggulan lima tahun di bidang ini, sehingga peluang inovasi terbuka lebar bagi mereka yang gesit dan berani mencoba.
Intinya, Karpathy tidak melarang pengembangan Agent, tetapi menekankan pentingnya fondasi yang kuat dan kesiapan untuk komitmen jangka panjang.
marsbit07/06 02:35
