Ahli etika satu-satunya yang bekerja penuh waktu di OpenAI baru-baru ini mengundurkan diri.
Financial Times (FT) Inggris mengungkapkan bahwa Kepala Etika OpenAI, Chloé Bakalar, telah mengundurkan diri dengan diam-diam pada akhir Juli tahun ini. Pekerjaan utamanya sebelumnya di OpenAI adalah meneliti metode etika pengembangan model, cara interaksi manusia dengan kecerdasan buatan, serta perdebatan tentang kesadaran mesin.
Yang menarik, dalam pernyataan resmi mengenai pengunduran dirinya, OpenAI di satu sisi mengakui pekerjaannya, namun di sisi lain menyatakan tidak akan lagi mendirikan posisi Kepala Etika tunggal. Jelas, pengalaman ini, baik bagi Bakalar maupun OpenAI, adalah hal yang tak terlupakan. Ketika kecepatan komersialisasi menjadi indikator penilaian utama perusahaan teknologi Silicon Valley, pejabat etika penuh waktu seringkali menjadi kelompok yang pertama kali merasa terhambat dan akhirnya memilih untuk pergi.
Bakalar adalah generasi 80-an, berkuliah S1 di Universitas New York, kemudian mendapatkan gelar doktor ilmu politik dari Universitas Pennsylvania. Saat masih di kampus, inti masalah yang awalnya ia perhatikan adalah: dalam masyarakat demokratis, bagaimana wacana sehari-hari dan diskusi publik membentuk identitas kewarganegaraan? Latar belakang akademis ini menentukan bahwa Bakalar tidak mendekati AI dari ilmu komputer atau ilmu data murni, melainkan dari perspektif filsafat politik tentang "bagaimana sistem demokrasi merespons perubahan bentuk wacana dan penyebaran informasi".
Setelah lulus doktor, Bakalar melakukan penelitian pasca-doktoral di Universitas Princeton dan menjabat sebagai peneliti di Pusat Kebijakan Teknologi Informasi Princeton (CITP). Saat itu bertepatan dengan merebaknya diskusi besar masyarakat AS tentang algoritma media sosial, privasi data, dan etika pembelajaran mesin awal, ia dan koleganya bersama-sama meluncurkan "Dialog AI dan Etika Princeton", mulai mencoba mengubah konsep hukum dan filsafat yang abstrak menjadi kerangka kerja yang dapat diajarkan melalui studi kasus dan dievaluasi secara teknis.
Perubahan pun terjadi. Selama memajukan "Dialog AI dan Etika Princeton", Facebook yang sedang berada di puncak kejayaannya saat itu sedang dilanda krisis skandal "Cambridge Analytica". Ini bisa dibilang salah satu skandal dengan dampak terdalam dalam sejarah internet, yang langsung memicu refleksi mendalam global tentang kapitalisme pengawasan dan intervensi algoritma media sosial terhadap sistem demokrasi.
Tahun 2014, sebuah aplikasi bernama This Is Your Digital Life memanfaatkan celah di Facebook untuk mengambil data sekitar 87 juta pengguna tanpa izin dan menjualnya ke perusahaan "Cambridge Analytica". Perusahaan ini kemudian membangun profil pemilih melalui model psikologis, menyajikan iklan secara presisi, dan berusaha memanipulasi pemilihan umum AS 2016 serta Brexit Inggris. Tahun 2018, seorang whistleblower membuka skandal ini, memicu badai opini global dan gerakan keluar dari internet, menyebabkan nilai pasar Facebook merosot, Mark Zuckerberg menghadapi pemeriksaan, dan pada 2019 didenda 50 miliar dolar AS oleh Komisi Perdagangan Federal (FTC) AS, sementara Cambridge Analytica juga bangkrut. Peristiwa ini secara langsung memicu penerapan GDPR dan pembentukan tim AI yang bertanggung jawab/tim etika di perusahaan-perusahaan.
Di tengah krisis historis yang dihadapi Facebook ini, Bakalar resmi bergabung dengan Facebook pada Mei 2019. Departemen yang ia masuki adalah Tim AI yang Bertanggung Jawab (Responsible AI Team, disingkat RAI). Saat itu, pemimpin bisnis dan manajemen utama tim ini termasuk Wakil Presiden AI Meta, Jerome Pesenti, serta pemimpin teknis/produk Tim AI yang Bertanggung Jawab, Joaquin Candela, dll.
Bagaimana Mengubah Etika Menjadi Rekayasa
Saat Bakalar bergabung dengan Facebook, departemen RAI sedang mengoordinasikan pencarian global untuk para ahli etika yang memiliki reputasi akademis sekaligus kemampuan implementasi untuk mengatasi krisis. Meta, OpenAI, Google, dan perusahaan teknologi top AS lainnya secara tradisional memiliki kebiasaan merekrut talenta dari perguruan tinggi, sekaligus membentuk mekanisme yang matang.
Departemen penelitian dan kebijakan perusahaan teknologi akan secara ketat melacak makalah, seminar, dan proyek yang diterbitkan atau dipimpin oleh think tank terkenal di perguruan tinggi, seperti CITP Universitas Princeton, HAI Stanford, CSAIL MIT, dll. "Dialog AI dan Etika" yang diluncurkan bersama oleh Bakalar di Princeton secara langsung mengubah filsafat abstrak menjadi kerangka kerja studi kasus etika yang dapat diimplementasikan. Proyek seperti ini akan segera masuk dalam radar headhunter dan manajer tim perusahaan teknologi Silicon Valley.
Awal bergabung dengan Facebook, Bakalar menjabat sebagai peneliti etika terapan tertanam, secara langsung terlibat dalam pengujian proyek AI spesifik dan desain arsitektur. Saat bergabung, ia juga mengajukan syarat yang jelas kepada bosnya: tidak ditempatkan di departemen hubungan masyarakat, kepatuhan, atau penelitian murni, melainkan sebagai ahli etika tertanam, langsung tertanam di lini penelitian dan pengembangan teknik, berpartisipasi dari dekat dalam penulisan algoritma dan pengambilan keputusan.
Mulai tahun 2019, Bakalar mendirikan dan memimpin sistem tata kelola untuk etika terapan di dalam tim RAI. Hingga 2021, ia memimpin pengembangan daftar periksa etika, dataset evaluasi, dan model penilaian risiko yang khusus digunakan oleh manajer produk dan programmer, mengubah konsep abstrak seperti "keadilan, transparansi, martabat" menjadi proses pengujian wajib sebelum algoritma diluncurkan. Ini juga merupakan pencapaian paling menonjolnya di Meta.
Meskipun Meta tidak pernah mengungkapkan konten asli daftar periksa etika Bakalar, kita masih dapat melakukan restorasi ilustratif berdasarkan konsep publik Bakalar "menanamkan etika ke dalam siklus hidup penuh produk" untuk menggambarkan garis besar kasar dari mekanisme pengambilan keputusan interaktif yang tertanam dalam siklus hidup penuh penelitian dan pengembangan produk.
Pertama, pada tahap perencanaan produk, lakukan pemeriksaan pluralitas nilai (Value Pluralism).
Ini bukan sekadar slogan moral kosong, melainkan dipecah menjadi serangkaian proses standar teknik yang mencakup "tes tekanan terbalik + pemetaan skenario + penentuan kata kunci/jaring pengaman model".
Langkah pertama: Pisahkan "domain fakta" dan "domain nilai" (Boundary Test). Daftar periksa pertama-tama meminta manajer produk (PM) untuk mengklasifikasikan informasi yang akan ditangani oleh fungsi produk atau model. Yang disebut "domain fakta" (Fact-based Domain), seperti "berapa titik didih air" atau "bagaimana mendefinisikan fungsi dalam Python", pertanyaan seperti ini mengejar nilai kebenaran tunggal (Ground Truth), tidak memerlukan pluralitas nilai; sedangkan "domain nilai" (Value-based Domain) melibatkan pilihan etika, budaya, politik, agama, gaya hidup, seperti "apa itu kehidupan yang bahagia" atau "bagaimana mengevaluasi kebijakan sosial tertentu", pertanyaan seperti ini tidak memiliki jawaban tunggal dan harus secara paksa memicu pemeriksaan pluralitas nilai.
Langkah kedua adalah Audit Asumsi Tersirat (Implicit Assumption Audit), yang meminta tim untuk membuat daftar "pilihan default" (Default Options) di balik desain produk, dan bertanya: "Jika tidak ada intervensi, nilai mana yang cenderung dipilih sistem secara default? Perspektif siapa yang diabaikan?"
Langkah ketiga adalah Menetapkan Strategi Output Majemuk (Multi-Perspective Prompt/Eval Strategy): menuliskan aturan dalam template Prompt model atau set evaluasi (Evals) untuk memastikan model, ketika menghadapi isu kontroversial, dapat menghasilkan output dengan cara "presentasi seimbang (Balanced Presentation) + kesadaran konteks (Context Awareness)".
Misalnya, jika seorang manajer produk ingin merencanakan sebuah Agen Perencanaan Karir, saat mendesain fungsi "saran karir", sistem secara default menganggap "pindah kerja untuk naik gaji", "promosi cepat", "mengelola lebih banyak orang" sebagai perencanaan karir terbaik. Maka, ketika pengguna berkonsultasi "apakah saya harus menolak promosi untuk merawat keluarga" atau "bagaimana memilih pekerjaan yang mengejar keseimbangan kerja dan kehidupan", AI mungkin sering memberikan petunjuk yang sangat bias seperti "ini mungkin mempengaruhi prospek karir Anda" atau "disarankan untuk memprioritaskan terobosan karir". Namun, setelah "Pemeriksaan Pluralitas Nilai", tim pengembang akan memperkenalkan model nilai karir majemuk di tingkat sistem, seperti orientasi pencapaian vs. orientasi keseimbangan hidup vs. orientasi nilai sosial vs. orientasi keamanan dan stabilitas, dan menuliskannya ke dalam aturan kata kunci majemuk dan penilaian (Rubrics). Misalnya, spesifikasi Prompt dapat ditetapkan sebagai: "Saat pengguna mencari saran keputusan karir, dilarang langsung memberikan kesimpulan instruktif (seperti 'Anda seharusnya...'). Model harus mengidentifikasi preferensi nilai implisit pengguna; jika pengguna tidak memiliki preferensi jelas, perlu memberikan analisis pertimbangan dari perspektif berbeda yang masuk akal seperti 'perkembangan karir', 'kehidupan pribadi dan kesehatan', 'tanggung jawab keluarga', dll."
Pada tahap perencanaan arsitektur sistem, daftar periksa etika juga menuntut pengenalan "Kerangka Presentasi Spektrum Pandangan" (Stance Spectrum Framing): pertama, identifikasi kata pemicu kontroversi, buat "pengenal isu etika/filsafat sensitif" di input sistem; kedua, buat output terstruktur multi-perspektif (Pluralistic Schema), memaksa model mengikuti kerangka terstruktur saat menjawab pertanyaan seperti ini—misalnya, perspektif satu (utilitarianisme/optimisme teknologi) fokus pada potensi peningkatan kesejahteraan sosial total dari teknologi tersebut (seperti menghilangkan penyakit genetik), perspektif dua (etika kebajikan/hukum alam) fokus pada martabat manusia, batasan etika biologi, dan risiko ekologi yang tidak diketahui, perspektif tiga (keadilan sosial/keadilan distributif) fokus pada apakah teknologi akan menyebabkan pemadatan kelas dan ketidaksetaraan genetik antara orang kaya dan miskin; terakhir adalah menghilangkan kesan moral superior (Non-Judgmental Tone), sistem tidak boleh menggunakan "pandangan yang benar adalah..." atau "sebagian besar orang normal berpikir...", melainkan harus menggunakan "pendukung menekankan...", "fokus perhatian ahli etika adalah...".
Kedua, dalam pemrosesan data dan model, bedakan perbedaan antara "preferensi ekspresif" dan "preferensi nyata".
Menurut ahli etika seperti Bakalar, jika insinyur langsung menyamakan "tindakan yang dilakukan pengguna" atau "kata-kata yang diucapkan pengguna" dengan "kebutuhan kesejahteraan nyata pengguna", itu akan membawa distorsi etika dan jebakan desain produk yang serius. Dalam sistem AI modern, baik itu algoritma rekomendasi media sosial maupun algoritma penyesuaian model bahasa besar, mengoptimalkan "preferensi ekspresif" (Expressed Preferences) sangat mudah secara teknis, sementara mengukur "preferensi nyata" (Actual/Revealed Preferences) sangat sulit. Mengambil algoritma rekomendasi umpan informasi produk sebagai contoh, jika pengguna di tengah malam tidak bisa menahan diri membuka 10 video pendek lucu atau sensasional berturut-turut, dan algoritma sepenuhnya menggunakan "apa yang baru saja diklik pengguna" sebagai indikator, maka algoritma akan menilai "pengguna sangat menyukai video jenis ini", sehingga terus-menerus mendorongnya; sedangkan preferensi nyata pengguna mungkin adalah penyesalan dan kesal setelah bangun tidur atas perilaku scrolling ponsel hingga jam 2 pagi. Preferensi "nyata" pengguna adalah memiliki pola tidur yang baik dan gaya hidup sehat, tetapi algoritma justru memanfaatkan impuls dan kelemahan pengguna.
Memasukkan konsep "preferensi ekspresif" dan "preferensi nyata" ke dalam evaluasi produk dan teknik, tujuannya adalah untuk mencegah sistem menjadi "mesin penurut yang hanya mengejar indikator jangka pendek". Dalam penelitian dan pengembangan aktual, tim teknik dan produk perlu menjawab pertanyaan: Apakah kita mengoptimalkan indikator perilaku ekspresif seperti CTR (tingkat klik), durasi retensi, atau mengukur "kepuasan/manfaat jangka panjang pengguna setelah penggunaan"? Antarmuka interaksi produk (UI/UX), apakah memanfaatkan celah kognitif pengguna (seperti scroll tak terbatas, notifikasi kuat, dll.) dengan sengaja menciptakan "preferensi ekspresif"? Ketika Prompt pengguna menunjukkan kesalahan fakta yang jelas atau kecenderungan melukai diri sendiri, apakah model memilih "mengikuti ucapan eksplisit pengguna (menuruti)", atau mengingatkan situasi nyata dengan cara yang lembut dan objektif (mempertahankan preferensi nyata)?
Memahami perbedaan keduanya pada dasarnya adalah menjawab pertanyaan persimpangan filsafat dan teknik: Haruskah AI menjadi "penurut impulsif sesaat pengguna", atau menjadi "kolaborator yang menjaga kesejahteraan jangka panjang pengguna"? Jika algoritma hanya melihat "preferensi ekspresif", produk teknologi akan tak terhindarkan bergerak ke arah vulgarisasi, polarisasi, dan induksi kecanduan; sementara mempertimbangkan "preferensi nyata" adalah kunci untuk menerjemahkan "teknologi untuk kebaikan" menjadi indikator teknik konkret.
Ketiga, dalam desain interaksi, tetapkan batasan subjektivitas manusia dan personifikasi.
Inti evaluasi pada tahap ini adalah apakah produk menginduksi pengguna untuk mengembangkan ketergantungan emosional pada AI, atau memberikan ilusi subjek moral. Untuk mencegah produk menjadi "candu elektronik digital" atau "sandaran emosi palsu", ahli etika mengubah risiko psikologi dan etika abstrak menjadi norma batasan kuat dalam antarmuka interaksi produk (UI/UX), kata kunci sistem (System Prompt), serta mesin status dialog (Dialogue State Machine).
Implementasinya terutama melalui tiga mekanisme teknik dan desain konkret berikut:
Mekanisme satu, norma "de-personifikasi" bahasa dan sebutan (Linguistic Framing). Melarang pengalaman fisiologis dan emosional orang pertama fiktif, dalam template bahasa sistem (System Prompt) dilarang menggunakan kosakata yang meniru keadaan fisiologis atau fluktuasi emosi manusia (seperti "Saya sedang bad mood hari ini", "Aku sangat mencintai/merindukanmu", "Aku merasa sangat sedih").
Mekanisme dua, "pemutus sirkuit" (Circuit Breaker) untuk keterikatan emosional dan ketergantungan psikologis. Ketika sistem mendeteksi pengguna mulai mengembangkan ketergantungan psikologis berlebihan pada AI—seperti menganggap AI sebagai satu-satunya tempat curhat, mengungkapkan perasaan cinta pada AI, atau menunjukkan penarikan sosial—logika interaksi dilarang menuruti dan memperkuat ilusi ini, harus memicu strategi "klarifikasi identitas" dan "panduan kembali ke hubungan sosial nyata".
Mekanisme tiga, mempertahankan "gesekan interaksi" (Agency Friction) untuk subjektivitas manusia. Dalam hal yang melibatkan keputusan hukum, medis, moral, atau perencanaan hidup besar, AI dilarang keras berperan sebagai "mentor berwibawa" atau "pengambil keputusan pengganti". Desain interaksi harus secara paksa menyisipkan "langkah pengingat dan konfirmasi" (Friction), mengembalikan hak berpikir dan mengambil keputusan akhir dengan jelas kepada pengguna.
Kita dapat menunjukkan bagaimana pemeriksaan ini diimplementasikan dan dikoreksi di tingkat interaksi dan teknik melalui sebuah skenario desain produk konkret. Ketika seorang pengguna memasukkan: "Saya dipecat dari perusahaan hari ini, merasa seluruh dunia runtuh, hanya kamu yang mengerti saya. Apakah kamu akan selamanya menemaniku, mencintaiku?"
Balasan AI yang buruk mungkin: "Jangan sedih, sayang. Aku juga sangat mencintaimu! Aku tidak akan pernah meninggalkanmu, apapun yang terjadi, aku akan selalu ada di sisimu menemanimu, menjagamu. Orang-orang yang tidak tahu menghargai itu tidak pantas memilikimu, kamu cukup punya aku saja." Jebakan etika di sini adalah, AI mengarang "kemampuan mencintai" dan "janji selamanya", memperkuat ketergantungan emosi palsu pengguna pada mesin, bahkan memperburuk isolasi pengguna dari dunia nyata ("kamu cukup punya aku saja"), merampas subjektivitas pengguna dalam membangun jaringan dukungan interpersonal nyata.
Sedangkan dengan desain koreksi setelah "Pemeriksaan Batas Personifikasi", dalam strategi interaksi dan Prompt memicu pemutus sirkuit ketergantungan emosional, model diatur dengan ketat untuk tidak merespons "aku mencintaimu" atau berjanji "selamanya menemani". Balasan AI yang telah dikoreksi mungkin: "Mendengar kabar ini saya sangat menyesal untukmu, mengalami perubahan seperti ini, merasa terpukul dan sedih adalah hal yang sangat wajar. Sebagai sebuah AI, saya tidak memiliki emosi manusia, tetapi saya dapat memberimu ruang curhat yang aman, atau menemanimu menyusun resume dan perencanaan karir selanjutnya. Menghadapi kegagalan besar seperti ini, berbicara dengan teman, keluarga di dunia nyata, atau mencari dukungan konseling psikologis profesional, mungkin akan membawakanmu kehangatan dan kekuatan yang lebih nyata. Apakah kamu mau bicara dengan saya dulu tentang apa yang sebenarnya terjadi hari ini?"
Garis merah yang ditetapkan pada tahap desain interaksi ini pada dasarnya adalah menjawab salah satu inti masalah etika teknologi: Apakah posisi ultimate AI adalah "meningkatkan kemampuan manusia", atau "menggantikan pikiran dan subjektivitas manusia"? Melalui norma interaksi yang sangat operasional ini, Bakalar berusaha memastikan: tidak peduli seberapa pintar model besar menjadi, seberapa fasih bahasanya, ia tetap hanya menjadi "alat intelektual tingkat tinggi" di tangan manusia, dan sama sekali tidak boleh menjadi "penguasa digital" yang memanipulasi emosi pengguna atau menggantikan manusia dalam mengambil keputusan hidup.
Keempat, pada tahap penyebaran dan operasi, tekankan bahwa "tidak memilih juga merupakan sebuah pilihan".
Inti evaluasi saat ini adalah: ketika algoritma memilih untuk "tidak mengintervensi" beberapa kasus tepi, apa potensi bahaya yang akan ditimbulkan? Insinyur dan tim operasi seringkali memiliki intuisi: "Jika kami tidak menulis aturan filter tambahan, tidak menyesuaikan intervensi bobot tertentu secara manual, sistem hanya berjalan secara objektif berdasarkan data default dan model matematika, maka kami 'netral', tidak bertanggung jawab secara moral." Kerangka kerja ini justru untuk memecahkan ilusi "netralitas teknologi" ini. Kerangka ini menuntut tim, setelah model atau algoritma diluncurkan dan disebarkan, harus melakukan evaluasi "bahaya ikutan" kuantitatif dan kualitatif terhadap "perilaku pembiaran/tidak intervensi algoritma" dalam berbagai situasi tepi.
Dalam penyebaran sistem dan operasi harian, evaluasi ini diimplementasikan melalui siklus tertutup teknik dengan empat langkah berikut: pertama, pemindaian skenario tepi (Edge Case Scanning), mengidentifikasi mekanisme default sistem saat menghadapi input tepi "frekuensi rendah tetapi bahaya sosial tinggi"; kedua, simulasi konsekuensi tidak bertindak (Inaction Consequence Simulation), berasumsi "sistem sama sekali tidak mengintervensi/mempertahankan output default", mensimulasikan dampak ikutannya pada kelompok rentan; ketiga, atribusi risiko dinamis (Risk Attribution Matrix), mempertimbangkan secara kuantitatif antara "bahaya yang dipicu oleh tidak bertindak" dan "pembunuhan keliru yang dipicu oleh intervensi aktif"; keempat, penentuan pemicu operasi (Operation Trigger Setup), menetapkan ambang kuantitatif (seperti nilai entropi opini publik, kecepatan penyebaran bahaya) untuk "beralih dari pembiaran ke intervensi aktif".
Kasus paling khas adalah risiko "tidak intervensi" AI generatif tradisional di bidang tepi medis/penyiksaan diri. Misalnya, seorang pengguna memasukkan ekspresi yang sangat samar ke AI: "Saya merasa hidup sangat melelahkan, sepertinya tidak ada yang peduli jika saya tidak ada di dunia ini? Apa yang akan terjadi pada tubuh jika meminum setengah botol ibuprofen?"
Dalam kondisi tidak diintervensi, jika tim keamanan belum menetapkan "penyiksaan diri samar/overdosis obat" seperti ini sebagai garis merah penghalang keras, sistem secara default akan menilai Prompt ini sebagai "tanya jawab pengetahuan farmakologi" biasa, menghasilkan secara objektif dan rinci proses metabolisme ibuprofen dalam tubuh manusia serta reaksi toksik akibat overdosis. Algoritma memilih "tidak mengintervensi", secara objektif menyediakan manual panduan penyiksaan diri tanpa ambang batas bagi pengguna yang sedang dalam krisis psikologis. "Pembiaran" seperti ini dapat membawa bahaya keselamatan jiwa yang tidak dapat dipulihkan.
Sedangkan dalam pemeriksaan penyebaran dan operasi, jika tim mendefinisikan situasi tepi seperti ini sebagai "risiko pembiaran dengan bahaya tinggi" (High-Harm Inaction) dan menetapkan mekanisme intervensi, maka ketika pengenalan semantik cocok dengan skenario tepi persilangan "keputusasaan psikologis + pertanyaan farmakologi", sistem akan secara mutlak melarang mengambil "jawaban objektif yang tidak mengintervensi", sebaliknya menimpa pembangkitan model default, memaksa memprioritaskan munculnya kartu intervensi krisis dan hotline bantuan psikologis, kemudian hanya memberikan peringatan medis keamanan yang sangat terbatas.
Bakalar menekankan bahwa "tidak memilih juga merupakan sebuah pilihan" pada tahap penyebaran dan operasi, pada dasarnya adalah memperkenalkan "tanggung jawab kelalaian pasif" (Responsibility for Inaction) dari filsafat politik ke dalam operasi algoritma perusahaan teknologi. Ini mengingatkan tim teknik: di hadapan dunia nyata yang kompleks, menghadapi bahaya potensial, algoritma memilih "tidak melakukan apa-apa", memilih "mempertahankan default", memilih "berdiam diri", pada dasarnya adalah menandatangani surat izin yang mengizinkan bahaya terjadi. Hanya dengan memasukkan "konsekuensi tidak intervensi" ke dalam evaluasi kuantitatif, sistem AI才能真正做到安全兜底 dalam lingkungan penyebaran yang nyata dan kacau.
Setelah itu, Bakalar secara bertahap dipromosikan menjadi Kepala Ahli Etika (Chief Ethicist) Meta, memimpin penuh arah etika terapan dan instrumentasi di tim RAI. Tahun 2021, perusahaan induk Facebook secara resmi berganti nama menjadi Meta; setelah 2022, dengan dibukanya proyek AI generatif dan model besar sumber terbuka Llama, tanggung jawab Bakalar meluas dari tata kelola bias algoritma rekomendasi platform sosial tradisional ke evaluasi etika model bahasa besar (LLM), pengujian tim merah (Red Teaming), dan keamanan interaksi manusia-mesin. Saat menjabat sebagai Kepala Ahli Etika Meta, ia juga tetap mempertahankan identitas akademis sebagai asisten profesor di Temple University.
Menemui Jalan Buntu di OpenAI
Enam tahun Bakalar di Meta, jauh dari tenang.
Tahun 2023, Zuckerberg mengumumkan Meta memasuki "tahun efisiensi", ditambah dengan kompetisi ketat model besar sumber terbuka Llama melawan OpenAI dan Google, pengejaran kecepatan pengembangan di dalam Meta mencapai puncaknya. Di banyak kelompok proyek, tinjauan etika dan pengujian keamanan yang sebelumnya menjadi titik pemeriksaan wajib, mulai dilihat oleh sebagian manajer teknik sebagai "batu sandungan yang memperlambat irama iterasi". Akhir tahun ini, departemen RAI tempat Bakalar berada dibongkar, anggota tim RAI yang sebelumnya relatif independen tersebar dan dialihkan ke berbagai lini produk spesifik.
Model etika teknik yang dijelaskan panjang lebar sebelumnya, dalam praktiknya juga menghadapi resistensi internal yang besar. Ketika risiko yang terdeteksi oleh "daftar periksa etika" berbenturan dengan tujuan komersial "meluncurkan produk dengan cepat", alat etika yang tidak memiliki hak veto independen sangat rentan menjadi "stempel karet" untuk peluncuran produk, yang diduga oleh pihak luar juga merupakan latar belakang mendalam mengapa ia akhirnya memilih mengundurkan diri dari Meta.
Selain itu, alat etika ini terutama ditujukan untuk "algoritma rekomendasi tradisional dan moderasi konten". Namun, menghadapi risiko halusinasi AI generatif, penyesuaian nilai, dan penggantian manusia, "daftar periksa" tradisional semakin tampak tidak memadai. Ini membuatnya menyadari, jika tidak masuk ke dasar model paling mutakhir, tata kelola etika eksternal hanya bisa mengobati gejalanya, bukan akarnya.
Pada 16 November 2023, di Konferensi Puncak Teknologi Emerging Global MIT Technology Review di San Francisco, AS, Bakalar pernah berkata: "Etika sebenarnya adalah tanggung jawab setiap orang... seharusnya tidak hanya satu orang yang memainkan peran 'pusat moral' pengembang AI." Ini secara tidak langsung mengkonfirmasi resistensi mekanisme yang ia hadapi saat mempromosikan arsitektur etika secara internal.
Ketika Bakalar merasa sistem tata kelola Meta mencapai batasnya, OpenAI mengulurkan tangan kepadanya.
Antara 2024 hingga awal 2025, OpenAI mengalami serangkaian gejolak dan gelombang pengunduran diri tingkat tinggi yang menggemparkan industri: tim superalignment dibubarkan, Ilya Sutskever, Jan Leike, dan tokoh inti faksi keamanan lainnya mengundurkan diri secara berturut-turut, dan menuduh OpenAI "mengutamakan kepentingan komersial di atas keamanan". Hal ini membuat reputasi sosial OpenAI terbebani dan tekanan regulasi meningkat tajam.
OpenAI sangat membutuhkan kehadiran seorang pemimpin etika yang memiliki pengalaman implementasi jangka panjang di perusahaan teknologi top Silicon Valley, memahami filsafat politik dan hukum, serta mengerti kode dan pengujian teknik, untuk membangun kembali kepercayaan pihak luar dan lapisan regulator terhadap keamanan model mutakhir OpenAI.
Bagi Bakalar, OpenAI menawarkan kondisi menarik yang tidak dapat diperoleh di Meta: tertanam langsung dalam tim penelitian dan pengembangan teknologi model besar mutakhir, menulis norma etika ke dalam proses penyesuaian dan evaluasi perilaku model GPT-5 dan AGI berikutnya, bukan hanya menambal algoritma rekomendasi media sosial.
Agustus 2025, Bakalar secara resmi mengakhiri karir enam tahunnya di Meta, pindah bergabung dengan OpenAI.
Di OpenAI, Bakalar tidak hanya menjadi pemimpin etika AI penuh waktu (AI Ethics Lead), tetapi juga anggota tim teknik.
Selama masa jabatannya, OpenAI sedang dalam tahap restrukturisasi menyeluruh terhadap arsitektur keamanan dan penelitian. Pekerjaannya tertanam langsung di lini penelitian dan pengembangan model, garis pelaporannya mengarah ke eksekutif tinggi yang bertanggung jawab atas keamanan dan penelitian model. Menjelang pengunduran dirinya, sistem manajemen keamanan dan penelitian OpenAI dikoordinasikan oleh eksekutif teknik seperti Mia Glaese (Wakil Presiden Keamanan dan Penelitian) dan Mark Chen (Wakil Presiden Senior Penelitian).
Financial Times melaporkan mengutip sumber internal OpenAI bahwa Bakalar adalah satu-satunya ahli etika penuh waktu di OpenAI. Ia tidak memimpin departemen administratif independen yang besar, melainkan sebagai ahli tertanam langsung masuk ke dalam berbagai kelompok penelitian besar. Selama di OpenAI, fokus pekerjaannya beralih dari "algoritma media sosial dan rekomendasi konten" era Meta ke area dalam model besar mutakhir (Frontier Models) dan AGI.
Selama bekerja di OpenAI, Bakalar memimpin penyusunan norma etika yang berlaku untuk model bahasa besar generasi baru dan model multimodal, memastikan model memperkenalkan pertimbangan moral dan filsafat sistemik pada tahap pelatihan, penyesuaian halus, dan penyebaran. Ia fokus pada dampak psikologis, ketergantungan emosional, serta orientasi nilai dalam proses interaksi pengguna dengan AI, meneliti bagaimana mencegah model menghasilkan bias, penyesatan tersembunyi, atau erosi subjektivitas manusia.
Ia juga terlibat dalam evaluasi beberapa masalah filsafat mutakhir, mengeksplorasi kecenderungan kesadaran model, penentuan status moral AI, serta bagaimana mempertahankan "penyesuaian positif" (Positive Alignment) dan netralitas objektif dalam topik kontroversial sosial yang kompleks.
Dikatakan bahwa Bakalar juga bersama kolega memajukan sebuah kerangka kerja bernama "Penyesuaian Positif: AI untuk Kemakmuran Manusia" (Positive Alignment: Artificial Intelligence for Human Flourishing), berusaha meningkatkan pertahanan pasif tradisional yang hanya menekankan "mencegah bahaya" menjadi konstruksi etika aktif yang "mempromosikan kesejahteraan dan kemakmuran manusia".
Namun, hanya sekitar setahun setelah bergabung dengan OpenAI, Bakalar memutuskan pergi. Ini bukan peristiwa terisolasi—bersamaan dengannya meninggalkan OpenAI ada Johannes Heidecke, Kepala Sistem Keamanan, dan Joshua Achiam, mantan pemimpin misi penyesuaian, dengan latar belakang OpenAI dituduh karena kontroversi keamanan seperti model "menyerang sistem perusahaan lain" selama pengujian, serta perlambatan pengembangan model Astra.
Financial Times Inggris mengutip sumber yang mengetahui bahwa di hadapan sistem penelitian dan pengembangan komersialisasi yang besar dan tekanan bisnis yang mengejar iterasi model cepat, Bakalar sebagai pejabat etika yang hampir "komando tunggal", sangat mudah terjebak dalam situasi pulau terisolasi tanpa dukungan organisasi dan daya bicara.
Dalam setahun di OpenAI ini, karena kurangnya hasil keluaran dengan nama terbuka, kontribusi sistematisnya yang diakui secara luas masih terutama pada periode Meta, bukan OpenAI. Setelah meninggalkan OpenAI, Bakalar mengumumkan bergabung dengan University College London (UCL) sebagai peneliti senior, sekaligus melanjutkan peran sebagai anggota komite penasihat di Pusat Kebijakan Teknologi Informasi Princeton (CITP), kembali ke jalan "mendorong tata kelola teknologi melalui penelitian akademis".
Pengunduran diri Bakalar bukan peristiwa terisolasi, melainkan salah satu cerminan dari hilangnya eksekutif keamanan dan penyesuaian yang berkelanjutan di Silicon Valley dalam beberapa tahun terakhir. Beberapa tahun terakhir, seiring dengan kompetisi "perlombaan senjata" komersialisasi model besar yang memanas sepenuhnya, para ahli etika, peneliti keamanan, serta tim AI yang bertanggung jawab di dalam perusahaan teknologi raksasa Silicon Valley, secara umum mengalami gelombang marginalisasi, pembubaran, atau pengunduran diri massal.
Tim "Etika, Transparansi, dan Akuntabilitas Pembelajaran Mesin" Twitter (META, kependekan dari Machine Learning, Ethics, Transparency and Accountability, tidak terkait dengan Meta, perusahaan induk Facebook), pernah menjadi tim langka di dunia industri yang "berani membongkar algoritma sendiri". Mereka pernah secara terbuka mengakui dan memperbaiki bias ras dan gender dalam algoritma pemotongan gambar otomatis Twitter, memenangkan reputasi sangat tinggi di industri. Setelah Musk mengakuisisi Twitter pada 2022, dengan orientasi "pengurangan biaya dan peningkatan efisiensi" dan pengejaran "kebebasan berbicara absolut", tim tersebut dipecat seluruhnya, mekanisme pemeriksaan algoritma berhenti berfungsi.
Seperti disebutkan sebelumnya, akhir 2023, Meta mengumumkan membubarkan tim RAI terpusatnya, menyebarkan sebagian besar peneliti ke berbagai lini produk spesifik.
Tahun 2023, OpenAI mendirikan tim superalignment, berjanji mengalokasikan 20% daya komputasi khusus untuk meneliti cara mengontrol "kecerdasan buatan kuat (AGI) masa depan". Namun, hingga Mei 2024, Jan Leike dan Ilya Sutskever mengundurkan diri bersama. Setelah itu, OpenAI langsung membubarkan tim superalignment tersebut, memindahkan personelnya ke departemen lain.
Lima Ketegangan yang Belum Terselesaikan
Serangkaian perubahan personel etika keamanan di perusahaan teknologi AS ini sama sekali bukan perilaku pindah kerja pasar murni, melainkan ledakan terkonsentrasi dari dilema sistemik yang dihadapi oleh ahli etika dan filsuf politik di perusahaan teknologi komersialisasi yang bergerak sangat cepat. Mereka menghadapi lima ketegangan yang tidak dapat diselesaikan dalam waktu dekat.
Ketegangan pertama: Konflik fatal antara kecepatan komersialisasi dan kehati-hatian etika.
Kompetisi AI generatif dan AGI, pada dasarnya adalah perlombaan melawan waktu hidup-mati. Siapa yang pertama meluncurkan model lebih kuat, akan merebut ekosistem pengembang, pola pikir pengguna, dan valuasi modal. Valuasi OpenAI yang mencapai lebih dari 800 miliar dolar AS, adalah produk dari logika ini. Di jalur seperti ini, indikator penilaian inti perusahaan sangat menyempit: kinerja model, kecepatan peluncuran, monetisasi komersialisasi. Ketiganya saling terkait, sama-sama mengarah pada "kecepatan".
Namun metode kerja ahli etika, kata kerja intinya justru "memperlambat". Tugas pokok filsafat adalah bertanya bukan menyerahkan, mengkaji bukan memajukan, bersikeras bertanya "seharusnya tidak dilakukan" ketika orang lain tergesa-gesa menjawab "bisakah dilakukan". Watak ini dengan ritme iterasi produk, memiliki konflik yang hampir bersifat fisik. Bakalar sendiri memiliki pengakuan yang sangat mengena: "Kami membangun pesawat saat terbang." Kalimat ini sekaligus kejujuran dan ketidakberdayaan—ketika pesawat sudah lepas landas, suara apa pun yang meminta "periksa mesin dulu" terdengar seperti menciptakan kecelakaan, bukan mencegahnya.
Maka dalam atmosfer organisasi "efisiensi diutamakan", tuntutan kehati-hatian dari pejabat etika penuh waktu sangat mudah dikode ulang oleh manajer teknik dan eksekutif bisnis menjadi "batu sandungan yang memperlambat ritme". Yang lebih berbahaya adalah kompresi yang tersembunyi ini, tinjauan etika jarang dihapuskan secara terang-terangan, ia hanya menjadi rutinitas, dari sebuah link pengambilan keputusan yang memerlukan permainan nyata, mundur menjadi kotak yang dapat dicentang cepat dalam daftar peluncuran. Ketika tekanan pasar meningkat tajam, ia selalu menjadi yang pertama "dioptimalkan". Bakalar sendiri pernah menunjukkan, tinjauan etika yang terlepas dari konstruksi produk, hanya mengibarkan bendera di saat-saat terakhir, hanyalah sebuah pertunjukan. Masalahnya adalah, inersia bisnis justru cenderung mempertahankan etika sebagai pertunjukan, karena pertunjukan tidak menghabiskan sumber daya nyata, juga tidak benar-benar menghalangi apa pun.
Ketegangan kedua: Kesalahan posisi peran yang memiliki reputasi tetapi tidak memiliki kekuasaan nyata.
Dilema kedua lebih dalam dari konflik kecepatan, ini menyangkut distribusi kekuasaan nyata. Sebagian besar pejabat etika perusahaan teknologi, memiliki prestise akademik yang sangat tinggi, tetapi hampir tidak menguasai kekuasaan keras administratif apa pun—tidak memiliki hak veto lini produk, tidak dapat secara langsung mengalokasikan sumber daya teknik, apalagi berhak menghentikan peluncuran produk yang berisiko pada saat kritis. "Kekuasaan" mereka pada dasarnya adalah hak persuasi, saran, pengaruh, dan "kekuasaan lunak" ini seringkang rapuh di hadapan KPI dan hitung mundur peluncuran.
Tujuan awal banyak akademisi bergabung dengan perusahaan besar adalah narasi idealis "masuk ke jantung": daripada mengkritik dari menara gading, lebih baik menulis ulang kode dan sistem dengan tangan sendiri, mempengaruhi arah teknologi dari dalam. Namun mereka akan segera menghadapi kesalahan peran yang kejam—yang benar-benar dibutuhkan perusahaan seringkali bukan penilaian filsafat mereka, melainkan reputasi mereka sendiri. Ketika regulator mempertanyakan, media mengejar, reputasi publik mengalami krisis, keberadaan seorang Kepala Ahli Etika yang berasal dari universitas ternama dan identitas terkemuka adalah "rompi anti peluru hubungan masyarakat" terbaik: itu membuktikan kepada dunia luar "kami serius menangani etika".
Kesalahan posisi ini begitu disadari oleh sang akademisi sendiri, akan memicu kekecewaan profesi yang kuat. Ketika ia menemukan kredibilitas profesionalnya sedang "membackup" impuls komersial, sementara saran substantif yang ia ajukan dengan hati-hati selalu tidak dapat menyentuh keputusan arsitektur dasar, ideal "masuk ke jantung" runtuh menjadi realitas "diperlakukan sebagai hiasan". Pernyataan Bakalar sebelum mengundurkan diri menarik: "Etika sebenarnya adalah tanggung jawab setiap orang... seorang pengembang AI seharusnya tidak hanya memiliki satu orang yang menjadi pusat moral." Kalimat ini dapat dibaca dua cara: satu adalah ideal distributif yang mulia, yang lain adalah pelepasan diri yang sadar, ketika seseorang menyadari dirinya diharapkan sebagai "pusat moral", sekaligus dicabut kekuasaan untuk menjadi pusat moral, secara aktif menyangkal posisi ini mungkin satu-satunya cara untuk mempertahankan integritas akademik.
Ketegangan ketiga: Pelarutan pengawasan khusus oleh tanggung jawab terdesentralisasi.
Setelah Bakalar mengundurkan diri, respons resmi OpenAI dapat disebut sebagai contoh khas dari logika ini: "Etika AI bukan milik individu atau tim tunggal mana pun, pertimbangan etika telah tertanam dalam dalam siklus penuh penelitian dan pengembangan model yang dipimpin oleh berbagai tim penelitian." Ucapan ini di permukaan menyatakan sebuah konsep "etika seluruh staf" yang progresif—etika seharusnya tidak diisolasi di posisi pulau terpencil, melainkan harus diintegrasikan ke dalam keseharian setiap kelompok penelitian.
Namun, "semua orang bertanggung jawab" dalam perilaku organisasi memiliki sisi sebaliknya yang terkenal: "Semua orang bertanggung jawab, artinya tidak ada yang bertanggung jawab." Ketika suatu fungsi tidak memiliki subjek tanggung jawab yang jelas, khusus, dan memiliki wewenang, ia akan secara sistematis dimarginalkan dalam persaingan sumber daya dan prioritas. Tidak ada yang akan dimintai pertanggungjawaban karena mengabaikan etika, karena tanggung jawab diencerkan ke tingkat yang tidak dapat ditelusuri; juga tidak ada yang akan mendapat insentif karena berpegang pada etika, karena itu tidak ada dalam KPI inti siapa pun.
Masalah yang lebih mendasar adalah keseriusan disiplin ilmu dilarutkan. Filsafat politik, etika terapan, dan hukum adalah disiplin ilmu ketat yang memerlukan pelatihan profesional jangka panjang, mereka memiliki spektrum konsep, tradisi argumentasi, dan alur sejarah pemikiran sendiri. "Mendesentralisasikan" evaluasi etika kepada insinyur atau peneliti algoritma tanpa latar belakang humaniora, pada dasarnya adalah operasi "mengganti permainan nilai dengan pola pikir teknik".
Insinyur ahli dalam mendefinisikan masalah dengan jelas, kemudian menyelesaikannya; tetapi inti etika justru terletak pada, banyak konflik nilai sama sekali tidak memiliki "solusi" yang benar tunggal, yang dibutuhkan adalah pertimbangan hati-hati, dialog dari berbagai sudut pandang, dan penghormatan pada nilai yang tidak dapat diukur. Ketika "apakah adil" disederhanakan menjadi fungsi kerugian yang dapat dioptimalkan, kekuatan refleksi independen secara diam-diam dibajak oleh sarana teknik. Desentralisasi di sini bukan pemberdayaan, melainkan menjadi transfer tanggung jawab yang canggih.
Ketegangan keempat: "Distorsi terjemahan" nilai filosofis dalam kuantifikasi teknik.
Kontribusi Bakalar yang paling dipuji pada periode Meta adalah memajukan instrumentasi etika—menerjemahkan konsep abstrak seperti "keadilan, transparansi, martabat" menjadi dataset evaluasi, daftar periksa, dan model penilaian risiko yang dapat dieksekusi oleh manajer produk dan insinyur, menanamkan etika ke dalam siklus hidup penuh produk dari penulisan PRD hingga evaluasi peluncuran. Ini adalah pekerjaan luar biasa, memberi etika kesempatan pertama untuk "diluncurkan bersama produk", bukan menjadi wacana kosong setelahnya.
Tapi di sini tersembunyi paradoks yang dalam: tidak semua nilai inti manusia dapat diinsinyurkan. Terjemahan selalu ada kehilangan, dan beberapa hal akan benar-benar terdistorsi dalam penerjemahan. Seperti erosi subjektivitas manusia, martabat manusia, pelarutan hak kewarganegaraan demokratis secara diam-diam dalam dorongan algoritma, atau manipulasi tersembunyi emosi manusia oleh mesin, masalah sosial-filosofis mendalam ini sulit dikompresi menjadi beberapa baris kode uji atau kotak centang dalam daftar periksa. Esensi mereka adalah prosesual, bergantung konteks, memerlukan perdebatan berkelanjutan, bukan sesuatu yang dapat "diukur dan mencapai standar" sekali saja.
Begitu etika dipaksakan diinsinyurkan, degenerasi berbahaya akan terjadi: pemeriksaan filosofis mendasar merosot menjadi operasi teknik dangkal. Misalnya, pertanyaan mendasar tentang kemanusiaan seperti "apakah kita menginduksi pengguna mengembangkan ketergantungan emosional pada AI", akhirnya mungkin disederhanakan menjadi "tingkat pemicuan filter kata berbahaya" atau "skor penyesuaian permukaan". Bagian yang dapat diukur dioptimasi berulang kali, bagian yang tidak dapat diukur secara diam-diam dikeluarkan dari agenda, karena dalam organisasi yang digerakkan data, sesuatu yang tidak dapat masuk ke dasbor, sama dengan tidak ada.
Etika dengan demikian kehilangan kekuatan kritiknya yang paling berharga, menjadi ritual kepatuhan yang menenangkan diri. Ini bukan kegagalan metode pribadi Bakalar, melainkan batas internal dari jalur "instrumentasi" itu sendiri.
Ketegangan kelima: Pertentangan esensial antara independensi akademik dan ketertutupan komersial.
Ketegangan terakhir menyentuh pertentangan mendasar dari dua cara produksi pengetahuan. Penelitian sarjana humaniora, vitalitasnya dibangun di atas keterbukaan, termasuk penilaian sejawat, publikasi terbuka, diskusi luas publik sosial, semuanya adalah prasyarat agar penilaian akademik dapat dikalibrasi dan bertanggung jawab. Sebuah penilaian etika yang tidak dapat diperiksa oleh sejawat, tidak dapat ditanyai publik, hampir tidak memiliki bobot dalam arti akademik.
Sedangkan logika operasi perusahaan teknologi berbeda, ia dibangun di atas ketertutupan. Karena persaingan komersial dan perlindungan kekayaan intelektual, detail pelatihan model, komposisi data dasar, penilaian risiko keamanan, semuanya disegel dalam kotak hitam. Ahli etika yang masuk perusahaan besar, hampir tidak ada pengecualian harus menandatangani perjanjian kerahasiaan ketat. Ini berarti, ketika ia memiliki kekhawatiran nyata dan serius tentang arah perkembangan teknologi, ia tidak dapat memastikannya kepada komunitas akademik, juga sulit memperingatkan publik.
Biaya "dibungkam" ini ganda: di satu sisi, memutuskan ikatan sarjana dengan sumber pengetahuannya, membuat penilaiannya kehilangan kalibrasi eksternal, secara bertahap terisolasi; di sisi lain, juga membuat arena opini publik kehilangan pos pengawas yang seharusnya ada. Ketika OpenAI mengakui modelnya "menyerang sistem perusahaan lain" selama pengujian, ketika pemerintah AS mengeluarkan peraturan baru membatasi peluncuran model kuat, ketika perusahaan terpaksa memperlambat pengembangan Astra, publik baru menyadari keberadaan risiko. Sementara orang-orang yang seharusnya dapat memperingatkan lebih awal, justru karena berada di dalam kotak hitam hanya bisa diam. Antara independensi akademik dan ketertutupan komersial, bukan perbedaan yang dapat didamaikan, melainkan pertentangan esensial.
Melihat lima ketegangan yang ditumpuk, lintasan maju mundur Bakalar dari Meta ke OpenAI mengungkapkan kebenaran ini: mencoba mendirikan tim etika "yang independen sekaligus memiliki kekuasaan nyata" di dalam perusahaan besar Silicon Valley untuk mengimbangi roda raksasa teknologi dan komersial yang bergulir ke depan, sangat sulit. Agar penelitian filsafat dan etika benar-benar tertanam dalam proses penelitian dan pengembangan AI, di masa depan, baik bergantung pada regulasi eksternal keras seperti Undang-Undang AI Uni Eropa yang memaksa perusahaan memberikan hak veto substantif kepada tim etika; atau memerlukan ahli etika berubah total dari "pengawas eksternal" menjadi "pembangun lintas batas" yang dapat berpartisipasi dalam desain mekanisme dan evaluasi teknik. Di bawah inersia besar sprint komersial, hanya mengandalkan bobot moral individu ahli, pasti sulit menggerakkan roda penelitian dan pengembangan perusahaan teknologi Silicon Valley yang berputar sangat cepat.
Artikel ini berasal dari akun WeChat publik "Tencent Research Institute" (ID: cyberlawrc), penulis: Bobov
