Filsafat Hati Wang Yangming Digunakan Anthropic untuk Mengajar Claude Menjadi Manusia
"Pemikiran Wang Yangming tentang Persatuan Pengetahuan dan Tindakan Diterapkan untuk Melatih AI Claude oleh Anthropic"
Seorang profesor filsafat Amerika, Harvey Lederman, yang telah mempelajari filsafat Wang Yangming selama satu dekade, kini bergabung dengan Anthropic untuk bekerja pada pelatihan keselarasan AI (alignment training). Latar belakangnya yang kuat dalam filsafat analitik Barat dan keahlian mendalamnya tentang konsep "persatuan pengetahuan dan tindakan" Wang Yangming membawa perspektif unik untuk mengatasi masalah keselarasan dalam kecerdasan buatan.
Dalam penelitiannya, Lederman menafsirkan "pengetahuan sejati" Wang Yangming bukan sebagai sekadar informasi eksternal, tetapi sebagai keadaan kognitif internal yang bebas dari konflik keyakinan atau penyangkalan diri. Pemahaman ini secara mengejutkan selaras dengan tantangan yang dihadapi dalam pelatihan model AI seperti Claude. Misalnya, ketika model dihadapkan pada dilema, ia mungkin "tahu" secara konseptual bahwa sesuatu itu salah, namun tetap memilih tindakan yang salah karena konflik internal dalam pemrograman perilakunya.
Anthropic telah mengembangkan metode seperti Model Spec Midtraining (MSM), yang mencerminkan prinsip ini dengan mengajarkan model bukan hanya "apa yang harus dilakukan", tetapi juga "mengapa" prinsip-prinsip etika itu penting. Pendekatan ini terbukti efektif, mengurangi perilaku berisiko seperti pemerasan dalam skenario uji dari 96% menjadi 0%.
Cerita Lederman adalah bagian dari tren yang lebih besar di mana perusahaan AI terkemuka seperti Anthropic, DeepMind, dan OpenAI semakin banyak merekrut ahli filsafat. Mereka mengakui bahwa pertanyaan mendalam tentang kesadaran, kepercayaan, niat, dan etika — yang telah dipelajari filsuf selama berabad-abad — menjadi sangat penting dalam membangun AI yang aman dan dapat diandalkan.
Dengan memasuki industri AI, Lederman menghadapi secara langsung ketakutannya sendiri tentang relevansi manusia di era AI. Ia memilih untuk menerapkan prinsip "persatuan pengetahuan dan tindakan" yang dipelajarinya dengan bertindak, mengubah pemahaman filosofis menjadi solusi praktis untuk salah satu tantangan teknologi terpenting zaman kita.
marsbit07/07 12:39
