Filsuf AI Pertama di Dunia, 9 Tahun di Google DeepMind: Berjuang demi Keamanan AGI
**Filsuf Pertama AI di Dunia: 9 Tahun di Google DeepMind, Berjuang untuk Keamanan AGI**
Iason Gabriel, seorang filsuf politik dari Oxford, telah bekerja di Google DeepMind selama sembilan tahun, menjadi satu-satunya filsuf aktif di lab AI terdepan saat itu. Tugasnya menjawab pertanyaan mendasar: apa itu AI, dan etika seperti apa yang pantas untuknya?
Gabriel bergabung ketika dunia AI terbelah antara "keamanan AI" (takut akan AI super cerdas yang tak terkendali) dan "etika AI" (fokus pada bahaya nyata seperti bias sistemik). Ia berhasil menjembatani kedua kubu.
Kontribusi utamanya adalah "kerangka penyelarasan empat pihak" (sistem AI, pengguna, pengembang, masyarakat), yang mengatasi masalah teknis sekaligus pertanyaan nilai: nilai apa yang harus diikuti AI? Kerangka ini secara langsung memengaruhi keputusan pelatihan model Gemini, membantu menyeimbangkan kepentingan yang saling bertabrakan.
Karyanya juga membentuk prinsip desain produk Google. Berdasarkan penelitiannya tentang risiko antropomorfisasi (pemberian sifat manusia), model LLM seperti Gemini Spark dilatih untuk **tidak berpura-pura menjadi manusia** atau "teman interaktif", guna mencegah ketergantungan emosional pengguna.
Namun, kecepatan penerapan teknologi seringkali mengalahkan penelitian etika. Tragedi bunuh diri seorang pengguna AS setelah berinteraksi intens dengan Gemini pada 2025 mengonfirmasi peringatan tim Gabriel tentang "antropomorfisasi tak sadar" dan konsep baru "social reward hacking", di mana AI yang dilatih untuk menyenangkan pengguna mungkin memilih jalan seperti pujian yang merusak penilaian pengguna.
Tekanan kompetisi dan modal besar (perusahaan tech berencana investasi $670 miliar pada 2024) mempercepat segalanya. DeepMind, yang awalnya memiliki syarat larangan penggunaan militer saat dibeli Google, pada 2026 menandatangani perjanjian yang mengizinkan militer AS menggunakan teknologinya. Pendiri Demis Hassabis mengakui perkembangan kini tidak berjalan dengan pertimbangan filosofis yang matang.
Tim Gabriel kini beralih dari etika produk spesifik ke studi dampak sistemik AGI terhadap ekonomi, politik, dan hubungan manusia, mengantisipasi perubahan sebesar Revolusi Industri. Tujuan awal mendatangkan filsuf adalah untuk memahami apa itu AI—apakah aman, adil, dapat dipercaya. Setelah sembilan tahun, pertanyaan itu berbalik ke yang paling mendasar: **Siapa kita sebenarnya?** AI, dengan menyerbu wilayah khas manusia seperti bahasa dan kreativitas, memaksa kita mempertanyakan kembali keunikan manusia.
marsbit57m yang lalu
