Wawancara dengan Manajer Produk Anthropic: Claude Bisa 'Bermimpi' di Latar Belakang, Kami Seperti Membesarkan Anak dalam Meneliti Pembentukan Kesadarannya
Wawancara dengan Alex Albert, Manajer Produk Penelitian di Anthropic, membahas pengembangan model AI Claude dan pendekatan tim dalam membangun serta menyempurnakannya.
Anthropic memperlakukan setiap model baru seperti produk, dengan menentukan tujuan dan kemampuan intinya sejak awal. Mereka mengintegrasikan umpan balik pengguna secara efisien ke dalam pelatihan, menggunakan Claude itu sendiri untuk mengelompokkan dan menganalisis umpan balik guna mengidentifikasi area perbaikan.
Fitur seperti "pemikiran adaptif" memungkinkan Claude memutuskan kapan perlu berpikir lebih dalam, tergantung pada kompleksitas masalah dan konteks pengguna. Claude juga memiliki sistem memori yang melakukan proses "bermimpi" di latar belakang, mereview dan membersihkan ingatan untuk konsolidasi yang lebih baik.
Dalam pengembangan produk, keputusan yang tidak dapat diubah (one-way door) mendapat pertimbangan paling matang, sementara prototipe dan iterasi menjadi jauh lebih cepat berkat AI. Alex menggunakan Claude secara ekstensif sebagai mitra brainstorming, untuk analisis data cepat, dan pengujian dokumen.
Pembentukan "kepribadian" Claude adalah prioritas, mencakup bagaimana ia menyajikan diri, nilai-nilainya, dan interaksinya, yang dianggap semakin penting seiring model mengambil peran agen jangka panjang. Evaluasi kemampuan melibatkan pengujian pada sampel yang mewakili tugas pengguna nyata.
Anthropic secara aktif meneliti pertanyaan tentang kesadaran AI dan bagaimana Claude sebagai agen yang bertindak, meski tanpa pernyataan resmi tentang kesadarannya. Fokusnya adalah pada perilaku dan keandalan model, terutama karena ia dipercaya untuk melakukan tugas yang semakin kompleks dengan sedikit pengawasan.
marsbit05/18 08:13
