Sebuah masyarakat yang bijaksana seharusnya tidak membiarkan sistem tak kasat mata mengendalikan pilihan, imbalan, dan perilaku orang-orang, tanpa memberi mereka cara yang efektif untuk mengamati, mempertanyakan, dan memperbaiki pengaruh tersebut. Seiring perkembangan kecerdasan buatan, masyarakat sedang meluncur ke lereng berbahaya, dengan cepat beralih dari eksperimen dan integrasi AI menjadi ketergantungan, dan akhirnya bahkan kecanduan. Namun, salah satu masalah terpenting adalah, apakah pembuat kebijakan menyadari pergeseran ini.
Biasanya, asimetri berarti kedua pihak dalam suatu hubungan tidak setara. Dalam kehidupan digital, “asimetri algoritma” menggambarkan ketidakseimbangan yang lebih dalam antara dua pihak: satu pihak dapat mengamati, memodelkan, menguji, dan meningkatkan algoritmanya, sementara pihak lain terutama menanggung konsekuensi dari algoritma tersebut. Ketidakseimbangan ini kini telah merembes ke berbagai bidang seperti perekrutan, pinjaman, asuransi, pendidikan, kepolisian, media, serta arsitektur perhatian sehari-hari. Konsekuensinya adalah asimetri subjektivitas algoritma, di mana pengguna tidak dapat mengidentifikasi dan menolak pengaruh algoritma yang tidak pantas terhadap situasi mereka sendiri.
Tiga Lapisan “Belenggu Kognitif” Algoritma
Asimetri algoritma ini dapat dijelaskan dari tiga lapisan.
Lapisan pertama adalah ketidaktransparanan, yang merujuk pada kenyataan bahwa organisasi yang merancang, mengimplementasikan, atau membeli sistem algoritma biasanya lebih memahami tujuan, ambang batas, mekanisme insentif, dan kelemahan sistem tersebut dibandingkan individu yang berinteraksi dengannya. “Masalah ketidaktransparanan” menjelaskan alasan kesenjangan ini terus berlanjut: beberapa sistem sengaja disembunyikan untuk melindungi kekayaan intelektual, beberapa memerlukan pelatihan khusus untuk dipahami, dan yang lainnya bahkan sulit diinterpretasi oleh para ahli. Ketika sebuah sistem sulit diperiksa, hasil keluarannya sering kali tampak lebih objektif daripada yang sebenarnya, yang mengarah pada “kesalahan logika kotak hitam”.
Lapisan kedua asimetri algoritma adalah penguatan bias historis. Algoritma belajar dari dunia masa lalu, termasuk bias atau eksklusi yang ada sebelumnya. Bahkan sistem yang tampak netral pun dapat mereproduksi pola ketidaksetaraan yang sudah ada dalam data. Masa lalu yang bias dimasukkan sebagai bahan pelatihan, dan akhirnya dikeluarkan dalam bentuk prediksi, skor, atau rekomendasi, yang karena merupakan hasil perhitungan, tampak netral. Pada kenyataannya, ini hanyalah struktur hierarki lama yang muncul kembali dengan antarmuka yang lebih modern dan lebih ringkas.
Lapisan ketiga adalah sistem rekursif. Sistem biasanya tidak diterapkan sekali saja; sebaliknya, pengguna terus-menerus melatih sistem ini. Setiap klik, jeda, petunjuk, pilihan jalur, perilaku pembelian, dan keraguan menjadi data. Sistem rekomendasi dirancang untuk belajar dari sinyal ini dan menyesuaikan diri, tetapi ini bukanlah akhir dari siklus. Dengan pembelajaran ini, sistem membentuk apa yang kita lihat selanjutnya, menentukan apa yang terasa normal, apa yang tampak relevan, dan terkadang bahkan menentukan apa yang terasa diinginkan, sementara tujuannya bagi pengguna akhir tetap kabur. Dengan kata lain, kita melatih sistem, dan sistem juga melatih kita kembali. “Pergeseran algoritma” merujuk pada hubungan ko-evolusi ini antara pengguna dan platform.
Saat Algoritma ‘Hidup’ untuk Anda
Kemampuan agensi (Agency) kecerdasan buatan mengacu pada kemampuan untuk menilai, memilih, dan bertindak dengan cara yang bermakna, serta memahami berbagai kekuatan yang memengaruhi pilihan sendiri.
Asimetri agensi muncul ketika organisasi menggunakan sistem digital—seperti push yang dipersonalisasi, iklan bertarget, penetapan harga dinamis, mesin rekomendasi, penilaian risiko, dll.—untuk menguji, mengukur, dan mengoptimalkan pengaruh dan hasil dalam skala besar. Pemasaran selalu berusaha membentuk perilaku; perbedaan sekarang terletak pada akurasi dan mekanisme umpan balik: organisasi dapat mengamati perilaku individu secara real-time, membagi populasi menjadi kategori yang semakin spesifik, terus-menerus melakukan uji A/B, dan menyesuaikan apa yang dilihat setiap orang, cara pembayaran, atau penawaran yang mereka terima. Sebaliknya, individu biasanya hanya terpapar pada permukaan sistem: sebuah notifikasi push, sebuah skor, sebuah harga, sebuah rekomendasi, atau sebuah penolakan, tanpa tahu bagaimana data mereka digunakan, tujuan mana yang dioptimalkan, dan bagaimana pilihan mereka diarahkan.
Hal ini sangat penting karena orang-orang akan beradaptasi dengan apa yang dihargai oleh sistem. Dalam perekrutan, orang tidak lagi hanya mempertanyakan apakah pelamar kerja akan mempercantik resume mereka untuk menyenangkan perekrut; alat penyaringan otomatis dan sistem peringkat AI mungkin menghargai sinyal tertentu sambil menyembunyikan logika di baliknya. Sebuah penelitian di University of Washington menemukan bahwa setelah model bahasa besar meranking lebih dari 550 resume nyata, dalam 85% kasus, mereka cenderung memilih resume dengan nama yang diasosiasikan dengan orang kulit putih, dan tidak pernah memihak resume dengan nama yang diasosiasikan dengan pria kulit hitam. Di bidang pendidikan, kontroversi nilai di Inggris tahun 2020 menunjukkan bagaimana model algoritmik mengubah sejarah tingkat sekolah menjadi nilai individu: Kantor Pengawas Kualifikasi dan Ujian (Ofqual) menurunkan nilai penilaian sekolah sekitar 40% siswa, memicu protes publik dan akhirnya membuat pemerintah menarik kembali keputusan tersebut.
Selain itu, alat AI yang lebih baru membawa lebih banyak risiko. Para peneliti Stanford menggunakan sampel dari penutur asli dan non-penutur asli bahasa Inggris untuk menguji kinerja tujuh detektor AI yang banyak digunakan. Hasilnya, dalam sampel penutur non-penutur asli, detektor AI secara keliru mengklasifikasikan 61,22% artikel sebagai buatan AI, menunjukkan bahwa beberapa siswa lebih mudah dicurigai atau dihukum karena cara menulis mereka. Fenomena serupa juga muncul dalam kehidupan dan pekerjaan digital. Eksperimen feed berita terkenal Facebook pada 2014 terhadap 689.003 pengguna menunjukkan bahwa perubahan paparan pengguna terhadap postingan positif atau negatif memengaruhi bahasa emosional yang mereka gunakan kemudian. Di ritel, pekerja gudang Amazon juga melaporkan bahwa mereka harus memenuhi metrik berbasis kecepatan, tanpa tahu bagaimana metrik tersebut dihitung. Laporan dan penelitian tentang manajemen algoritmik di gudang Amazon juga mengeksplorasi fenomena ini. Kasus-kasus ini mengungkap masalah yang lebih dalam: sistem digital tidak hanya mengklasifikasikan perilaku setelah fakta. Mereka juga mengajarkan orang kata-kata mana yang digunakan, risiko mana yang harus dihindari, emosi mana yang diekspresikan, dan metrik mana yang harus dikejar. Ketika organisasi membentuk kondisi di mana orang berpikir, bertindak, dan membuat keputusan, sementara individu hanya mengalami kondisi tersebut sebagai skor, peringkat, informasi, target, atau harga, asimetri agensi algoritma memiliki makna politik.
Kebijakan Tidak Boleh Hanya Slogan
Oleh karena itu, kebijakan harus menyeimbangkan kembali hubungan ini. Pertama, pembuat undang-undang harus mewajibkan pemberitahuan dan penjelasan yang berarti ketika dampak terjadi. Pengguna harus tahu kapan mereka berinteraksi dengan AI, kapan konten itu sintetis, dan kapan keputusan penting dipengaruhi oleh sistem otomatis. Logika di balik kewajiban transparansi Eropa dalam Pasal 50 Undang-Undang AI Uni Eropa menunjukkan arah yang benar. Prinsip-Prinsip AI OECD juga menyatakan pandangan yang sama dari tingkat yang lebih luas: orang perlu informasi yang cukup untuk memahami hasil dan, jika perlu, mempertanyakannya.
Kedua, pemerintah harus mewajibkan penilaian dampak yang dapat ditegakkan sebelum sistem algoritma memasuki area berisiko tinggi seperti pekerjaan, pendidikan, perumahan, asuransi, perawatan kesehatan, kesejahteraan, dan kepolisian. Beberapa metode yang ada memberikan dasar untuk ini, seperti Penilaian Dampak Algoritma Kanada, Penilaian Dampak Hak Asasi Manusia AI Ontario, dan Penilaian Dampak Hak Fundamental Eropa untuk sistem AI berisiko tinggi. Beberapa kasus kegagalan baru-baru ini menunjukkan bahwa langkah-langkah pengamanan yang lebih kuat sangat penting. Di Inggris, Pengadilan Banding memutuskan dalam kasus “R (Bridges) v Kepala Kepolisian Wales Selatan” bahwa penggunaan teknologi pengenalan wajah otomatis real-time oleh Kepolisian Wales Selatan adalah ilegal. Di Detroit, Robert Williams ditangkap secara salah karena kecocokan yang keliru oleh pengenalan wajah, dan ACLU mendokumentasikan kasus ini. Oleh karena itu, sebelum penyebaran, lembaga harus menilai dampak potensial sistem AI, seperti pelanggaran hak, kerugian pada kelompok rentan, dan distribusi kesalahan, serta menilai kebutuhan pengawasan manusia, mekanisme banding, dan tindakan perbaikan, dan sebisa mungkin membuat laporan yang terbuka.
Ketiga, pengawasan manusia harus benar-benar efektif, terlatih, dan terlindungi. Di banyak lembaga, kekuatan “intervensi manusia” sering terbatas ketika karyawan menghadapi tekanan untuk mempercayai output sistem. Skema “utang robot” Australia menunjukkan bagaimana penghitungan utang kesejahteraan otomatis dapat merugikan orang ketika pejabat menganggap klaim yang dihasilkan sistem sebagai otoritatif. Dalam kasus R (Bridges) v Kepolisian Wales Selatan, Pengadilan Banding Inggris memutuskan penggunaan pengenalan wajah real-time ilegal, sebagian karena kurangnya langkah-langkah pengamanan seputar kewenangan diskresi, perlindungan data, dan dampak yang adil. Skandal “Horizon” Kantor Pos Inggris juga mengungkap kegagalan serupa: orang-orang lebih mempercayai output perangkat lunak yang cacat daripada pengalaman langsung ratusan manajer cabang kantor pos. Nilai Pasal 14 Undang-Undang AI Eropa terletak pada kewajibannya bahwa orang yang melakukan pengawasan manusia terhadap sistem AI berisiko tinggi harus memahami, memantau, menjelaskan, mengganti, atau menginterupsi sistem. Setiap lembaga yang menggunakan AI dengan dampak signifikan harus menunjuk peninjau yang bertanggung jawab, melatih mereka untuk mengenali bias otomatisasi, dan memberi mereka kekuatan nyata untuk menghentikan output yang berbahaya.
Keempat, regulasi tidak boleh berhenti pada peluncuran sistem. Model dapat bergeser, lingkungan dapat berubah, dan insentif dapat berubah. Sebuah sistem yang tampak dapat diterima dalam pengujian dapat menjadi diskriminatif atau manipulatif begitu berinteraksi dengan populasi nyata. Oleh karena itu, pemantauan pasca-penyebaran, pencatatan log, audit independen, dan pelaporan insiden harus menjadi kewajiban hukum. Kerangka Kerja Manajemen Risiko AI Institut Standar dan Teknologi Nasional AS serta ketentuan tentang pemantauan pasca-pemasaran dalam Undang-Undang AI mengakui hal ini. Indeks AI Pro-Sosial dapat digunakan untuk memetakan, mengukur, dan memantau dampak sistem AI pada manusia dan lingkungan mereka.
Kelima, praktik tertentu seharusnya dilarang. Sistem yang dirancang untuk mengeksploitasi kelemahan, mendistorsi perilaku melalui desain yang menipu, atau memanipulasi anak-anak dan kelompok rentan lainnya, seharusnya dilarang, bukan hanya diberi panduan ringan. Pasal 5 Undang-Undang AI Uni Eropa yang melarang penggunaan manipulatif dan eksploitatif tertentu menetapkan batasan yang diperlukan dan tegas. Masyarakat digital yang sehat tidak bisa hanya mengandalkan pengungkapan informasi, tetapi harus memperhatikan apakah desain dasarnya bertujuan untuk merusak penilaian.
Literasi algoritma harus dilihat sebagai infrastruktur sipil. Jika hanya pengembang, pemasok, dan tim kepatuhan yang memahami cara kerja sistem ini, bahkan di bawah regulasi yang baik, masalah asimetri kekuasaan akan tetap ada. Warga negara, guru, hakim, jurnalis, dokter klinis, dan administrator publik semuanya memerlukan literasi praktis tentang media sintetis, sistem peringkat, pengarahan perilaku, hak untuk mempertanyakan, serta batasan output model. Pasal keempat Eropa tentang literasi AI adalah sinyal yang bermanfaat dan harus berkembang menjadi misi publik yang lebih luas. Selain literasi AI, sekarang adalah waktunya untuk berinvestasi dalam literasi ganda, untuk memastikan pengguna menyadari interaksi antara persepsi pribadi, perilaku, dan pengaruh aset buatan terhadap mereka.
Pada akhirnya, asimetri agensi algoritma bukanlah masalah teknis yang terisolasi, melainkan ketidakseimbangan struktural tentang siapa yang dapat merasakan, membentuk, dan menolak kekuatan algoritma. Satu pihak belajar lebih cepat, terus-menerus menguji dan melakukan intervensi secara diam-diam; pihak lain beradaptasi dengan informasi yang sebagian tidak transparan. Kebijakan yang baik tidak dapat menghilangkan asimetri ini sepenuhnya, tetapi dapat mengurangi kesenjangan di area yang paling kritis dengan membuat dampak otomatisasi terlihat, dapat dipertanyakan, dapat diaudit, dan dapat dikelola.
Artikel ini berasal dari akun WeChat “Internet Law Review”, penulis: Cornelia Walter
