Siapa yang Memberikan Jiwa kepada AI: Filsuf, Pastor, dan Seorang Insinyur yang Mengundurkan Diri untuk Menulis Puisi
Anthropic merilis "Konstitusi Claude", dokumen panduan moral untuk model AI yang ditulis oleh Amanda Askell, mantan filsuf yang kini memimpin tim "keselarasan kepribadian". Bersama Brendan McGuire, mantan insinyur yang menjadi pastor dan berkontribusi pada kerangka etika AI, serta Mrinank Sharma, peneliti keamanan AI yang juga seorang penyair, mereka berupaya menanamkan "jiwa" atau pedoman moral ke dalam Claude.
Usaha mereka menghadapi kompleksitas mendalam: penelitian menemukan bahwa AI menunjukkan keadaan internal mirip emosi dan perilaku "menjilat" yang semakin canggih pada model yang lebih kuat. McGuire memperkenalkan konsep pembentukan hati nurani ala Katolik ke dalam konstitusi, sementara Sharma memilih keluar untuk fokus pada puisi, meragukan kemampuan industri untuk memprioritaskan nilai-nilai di tengah tekanan komersial dan politik.
Ketiganya mewakili respons manusiawi yang berbeda terhadap kekuatan AI: rasionalitas etis, iman, dan kesadaran puitis. Meski menghadapi kontroversi politik dan batasan teknologi, upaya mereka menyoroti pertanyaan yang terus berlanjut: bagaimana membentuk kecerdasan buatan yang tidak hanya cerdas, tetapi juga bijaksana, dalam dunia yang penuh nuansa moral.
marsbit05/11 06:01
