Bagaimana jika tiba-tiba AI menyatakan Anda bersalah, dan semua orang percaya begitu saja pada keputusannya? Bagaimana cara membuktikan bahwa Anda tidak bersalah?
Ini terdengar seperti adegan dalam film "Minority Report" di mana seseorang dituduh melakukan kejahatan yang belum terjadi, tetapi yang lebih abstrak adalah, versi yang lebih kacau sudah terjadi dalam kenyataan:
AI salah mengenali pelaku kejahatan, menyebabkan seorang wanita yang tidak bersalah dipenjara selama setengah tahun dan nyaris kehilangan segalanya.
I. Apa Artinya Polisi Menangkap "The Flash"?
Angela Lipps dari Tennessee, AS, adalah wanita malang tersebut. Pada Juli 2025, sekelompok polisi bersenjata lengkap tiba-tiba mengganggu kehidupannya yang biasa-biasa saja dan menangkapnya dengan mengacungkan senjata.
Saat itu dia bingung, karena tidak tahu apa kesalahannya. Polisi mengatakan dia diduga terlibat dalam penipuan bank di North Dakota, dan dari caranya seolah-olah buktinya sudah jelas, dan dia sudah masuk daftar buronan bintang 5, tetapi setelah mendengar alasan ini, dia malah terdiam:
"Tapi, saya belum pernah pergi ke negara bagian itu seumur hidup saya."
Dilihat dari peta, memang ada jarak antara Tennessee dan North Dakota, dan yang menghubungkannya dengan tersangka adalah AI.
Polisi mengabaikan pembelaannya saat menangkapnya, dan detail kasusnya baru diketahui setelah dia masuk penjara. Polisi di Fargo, North Dakota, sedang menyelidiki kasus penipuan di mana tersangka menggunakan identitas palsu tentara untuk menipu bank hingga puluhan ribu dolar, dan cara penyelidikan polisi adalah dengan memeriksa rekaman, bertanya pada AI, lalu menangkap orang.
Anda mungkin mengira AI digunakan seperti Sherlock Holmes yang menyelesaikan kasus dengan logika yang ketat, tetapi sebenarnya tidak serumit itu. Polisi menggunakan sistem AI untuk melakukan pengenalan wajah pada cuplikan rekaman pengawasan, lalu menyaring tersangka di database.
Kali ini AI melakukan kesalahan besar, salah mencocokkan dengan foto Angela Lipps. Lalu intelijen ini diteruskan ke kantor polisi yang menangani kasus, dan staf melakukan kesalahan yang lebih besar: setelah memeriksa SIM dan media sosialnya secara manual, mereka menganggap ciri wajah, tubuh, dan gaya rambutnya mirip, lalu memastikan dialah tersangkanya.
Gambar dari GoFundMe
Sang wanita sangat terpukul, tidak bisakah mereka memeriksa petunjuk lain, misalnya wajah yang mirip? Namun yang lebih membuatnya frustrasi adalah, setelah serangkaian langkah ini, dia tidak punya kesempatan untuk membuktikan bahwa dia tidak bersalah.
Menurut prosedur setempat, dia tidak langsung dibawa ke North Dakota untuk penyelidikan lebih lanjut, tetapi ditahan di penjara lokal Tennessee sambil menunggu. Karena dianggap sebagai "buronan lintas negara bagian", dia tidak mendapat jaminan maupun kesempatan untuk diinterogasi polisi, hanya ditahan begitu saja selama 108 hari, dari Juli hingga akhir Oktober. Sulit dibayangkan betapa putus asanya dia selama ini.
Angela Lipps bertahan hingga 30 Oktober, akhirnya dibawa keluar dari penjara untuk dipindahkan ke North Dakota. Saat itu dia menghadapi beberapa tuduhan, selama perjalanan dia tidak hanya memakai borgol, tetapi juga rantai di pinggang. Menurutnya, melewati bandara seperti diarak di depan umum.
Dan ini sebenarnya adalah pertama kalinya dia naik pesawat.
Yang tidak disangkanya, setelah sampai di North Dakota, dia harus menunggu lagi. Baru pada Desember dia punya kesempatan resmi untuk menjelaskan hal ini. Pengacaranya langsung membandingkan catatan banknya dengan waktu kejadian. Saat kejadian, dia sedang membeli pizza di Tennessee, 1900 km jauhnya. Ini berarti, kecuali dia adalah "The Flash", tidak mungkin melakukan kejahatan lintas ruang dan waktu.
Seluruh proses hanya membutuhkan 5 menit, pengacara berhasil menjelaskan hal ini.
Pada tanggal 24 Desember, tuduhannya akhirnya dicabut, tetapi dia sama sekali tidak senang, karena saat itu "garis pembunuhan" sudah sampai di mata kakinya.
Angela Lipps merayakan ulang tahunnya yang ke-50 di penjara. Selama dipenjara, dia tidak boleh memakai gigi palsu, makanannya hanya makanan junk food, tekanan mentalnya besar, berat badannya melonjak. Saat masuk penjara dia memakai pakaian musim panas, keluar sudah musim dingin, bahkan tidak punya jaket tebal, sulit untuk tetap hangat, apalagi pulang. Saat itu polisi juga tidak memberikan uang jalan, setelah keluar penjara dia seperti terjebak di North Dakota, dan terjebak pada hari dia dituduh AI.
Namun untungnya masih ada orang baik yang menolongnya.
Pengacaranya mengatur hotel untuknya tinggal sementara, juga memberinya makanan untuk melewati masa paling sulit. Organisasi nirlaba setempat melakukan penyelamatan dan mengantarnya pulang ke Tennessee.
Tapi setelah pulang, kesulitan memulai hidup kembali sangatlah besar. Selama di penjara, ekonominya hancur, rumah sewaannya hilang, anjing peliharaannya hilang, bahkan mobil dan barang-barang di dalamnya hilang. Barang-barang pribadinya disimpan sementara di gudang, tetapi karena tidak mampu membayar sewa, semua barang kebutuhan hidup ikut dikosongkan. Bahkan hubungan interpersonalnya juga dalam bahaya, karena tetangga melihat dia ditangkap dan "menghilang" selama setengah tahun, mengira dia benar-benar melakukan kesalahan.
Pada saat yang sama, pengalaman anehnya dengan cepat tersebar di internet, dan引起 banyak kritik. Misalnya, banyak yang merasa frustrasi, di AS beberapa orang bisa "berbelanja gratis", tetapi begitu Anda menyentuh bank kapitalis, Anda bisa langsung ditangkap, bahkan jika bukan Anda yang melakukannya.
Karena masalah ini menjadi terlalu besar, dia sekali lagi mendapat pertolongan, dan telah mengumpulkan 80.000 dolar sumbangan, yang sepenuhnya dapat digunakan untuk memulai kembali kehidupan.
Tapi harapan terbesar netizen sekarang adalah dia bisa menemukan tim pengacara hebat, lalu menggugat mereka habis-habisan, mungkin bisa memenangkan gugatan dan mendapatkan kompensasi lain.
Karena ini bukan kesalahan polisi yang kebetulan, sebelumnya sudah ada banyak kasus salah tangkap, dan beberapa orang mengalami nasib yang lebih buruk darinya.
II. Momen Menyeramkan yang Dibawa oleh "Kesalahan" AI
Pengalaman Angela Lipps sebenarnya sudah terjadi lebih dari sepuluh kali di berbagai daerah, bahkan di negara lain.
Misalnya, Robert Williams adalah salah satu korban paling awal dalam jenis peristiwa ini. Pada tahun 2020, polisi menangkapnya di depan istri dan putrinya, ditahan selama 30 jam, padahal dia 20 cm lebih tinggi dari pelaku sebenarnya.
Chris Gatlin juga adalah orang yang sangat sial, AI berdasarkan rekaman pengawasan yang模糊, mencocokkannya dengan tersangka potensial dalam kasus pemukulan di kereta bawah tanah, lalu dia ditahan selama 17 bulan, menjadi orang tidak bersalah yang ditahan paling lama. Yang keterlaluan adalah, sampai akhirnya petugas penyelidik menemukan bahwa ada rekaman bodycam yang bisa menjadi bukti kunci, tetapi tersangka di dalamnya sama sekali tidak cocok dengannya.
Porcha Woodruff pada tahun 2023 juga mengalami hal yang sama, polisi menuduhnya terlibat dalam perampokan mobil. Dia langsung tertawa marah, mengira polisi bercanda, karena saat itu dia hamil delapan bulan, dan sama sekali tidak terlihat memiliki kondisi untuk melakukannya. Tapi dia tetap dibawa dan ditahan selama lebih dari sepuluh jam, kemudian kalah dalam gugatan.
Tahun ini seorang pemuda Inggris bernama Alvi Choudhury juga ditangkap karena situasi serupa, dituduh "pembobolan", tetapi dari buktinya dilakukan "dari jarak jauh", adegan ini juga ada dalam film. AI mengenali foto saat dia ditahan pada tahun 2021, polisi juga tertawa melihat orang aslinya, karena dia terlihat setidaknya 10 tahun lebih tua dari tersangka.
Gambar dari "Jumper"
Pada tahun 2022, pengusaha India Praveen Kumar ditangkap dalam perjalanan ke Swiss, saat transit di Abu Dhabi, dia dicocokkan AI sebagai buronan. Setempat menginterogasinya dengan keras, akhirnya menemukan bahwa dia memang bukan tersangka, lalu mengembalikannya ke India, tetapi di bandara India dia ditahan berturut-turut dua kali.
Dalam peristiwa jenis ini, yang paling keterlaluan mungkin adalah yang dialami ilmuwan Rusia Alexander Tsvetkov, AI mengatakan dia mirip pembunuh, lalu dia ditahan selama 10 bulan.
Ilmuwan ini bisa dibilang mengalami fitnah ganda dari AI dan manusia. Pada Februari 2023, dia kembali ke Rusia setelah ekspedisi ilmiah, tetapi baru turun dari pesawat langsung ditangkap. Alasannya, AI menunjukkan bahwa dia memiliki kemiripan 55% dengan gambar tersangka dalam kasus pembunuhan berantai lebih dari dua puluh tahun yang lalu, dan dalam kasus ini juga ada saksi buruk, yang sengaja memberikan kesaksian palsu untuk mengurangi hukuman. Yang fatal adalah polisi juga tidak menyelidiki dengan seksama, langsung menangkap orang.
Setelah ditahan, awalnya dia mengira ini kesalahan kecil, tetapi penyelidikan tidak kunjung selesai, di bawah tekanan mental yang besar dan masalah kesehatan, dia一度 dipaksa mengaku bersalah, kemudian menarik pengakuannya. Untungnya istri dan rekan institutnya selalu berjuang untuknya, mencari banyak bahan bukti bahwa pada tahun kejadian dia sedang dalam ekspedisi di luar kota. Dengan pemberitaan media, kasus ini juga banyak dibahas publik, baru ada titik terang pada Desember, dan tuduhan baru dicabut resmi pada Februari 2024.
Dan kasus-kasus seperti di atas terjadi semakin sering seiring dengan evolusi AI, sepertinya lebih seperti AI yang "memerintah", sementara sebagian manusia menjadi mesin pelaksana.
III. "Penyakit Profesional" AI yang Berkuasa
Alasan ada perasaan abstrak "tukar peran" adalah karena AI dan manusia sama-sama bisa gagal, AI sekuat apa pun bisa melakukan kesalahan, manusia juga bisa "malas" kapan saja.
Ambil contoh sistem Clearview AI AS, yang mengirim wanita di awal artikel ke penjara adalah sistem ini, tetapi ini bukan perangkat lunak abal-abal. Clearview AI mengklaim memiliki database gambar terbesar di dunia, dengan nekat mengambil miliaran gambar meski didenda banyak negara, lebih dari 3000 lembaga penegak hukum AS menggunakannya, tahun lalu juga menandatangani kontrak 9,2 juta dolar dengan ICE.
Secara sederhana, Clearview AI adalah "mesin pencari wajah", penggunaannya adalah mengunggah gambar, lalu mencocokkan di databasenya, kemudian mengeluarkan serangkaian gambar yang mirip, dan akhirnya apakah itu orang yang dicari atau bukan, masih harus dinilai sendiri.
Meskipun这些年 AI berkembang pesat, tetapi "akurasi" masih penuh kontroversi, karena data uji coba dan situasi saat menggunakan pencarian gambar dalam kenyataan selalu ada berbagai perbedaan.
Misalnya, sebagian besar waktu, gambar pengawasan yang ditemukan polisi kualitasnya seperti direkam telepon jadul, ditambah dengan pencahayaan aneh, sudut pengambilan gambar yang sulit, wajah tertutup, dll., kesulitan pengenalan memang tidak kecil, database mungkin juga gambar lama, hasil pencocokan mungkin kebetulan dua orang mirip.
Dan kesalahan ini diterapkan pada orang tertentu, tentu akan menderita.
Ini burung gagak atau kucing?
Secara teori, jika hanya AI yang sesekali bermasalah, masih bisa diselamatkan, karena ini hanya "petunjuk", "kesimpulan" selanjutnya masih perlu manusia yang memutuskan, tapi sering kali manusia lebih "keterlaluan" daripada AI.
Sebenarnya几年前 sudah ada yang mengkritik polisi AS yang diatur oleh AI, terjebak dalam "psychological automation bias", yaitu terlalu bergantung bahkan terlalu percaya pada hasil yang diberikan AI. Asalkan AI mengatakan dua orang ini cocok, manusia langsung percaya, tinggi badan tidak cocok bukan masalah saya, alibi memang ada tapi saya hanya bertugas menangkap orang, bukti lain silakan bicara ke penjara, melewatkan langkah investigasi dasar sambil membuat orang lain "melewatkan hidup".
Sebenarnya manusia sendiri sangat清楚 kelemahan AI, setelah polisi AS membayar banyak ganti rugi, banyak daerah juga mendirikan "garis pertahanan", misalnya saat memecahkan kasus selain petunjuk AI harus ada bukti independen, bahkan有些地方 langsung melarang teknologi AI ini untuk memecahkan kasus.
Tapi kendala ini, tidak tahan dengan betapa mudahnya AI digunakan. Meskipun ada概率翻车, tetapi jelas jumlah keberhasilannya lebih banyak. Kadang-kadang petunjuk yang susah payah ditemukan polisi, sering kali hanya foto pengawasan "kualitas buruk",很大概率就想用AI试试运气. Sejak 2023 sudah ada pemberitaan bahwa polisi AS menggunakan Clearview AI mencoba pencarian jutaan kali, bahkan后来明面上不让用就偷着用,反正用了也可以说没用过,这个软件不让用就换一个,本地被禁了就托别的机构帮忙用一下,纯纯玩上瘾了.
Jadi, begitu AI pertama kali memberikan petunjuk yang tidak dapat diandalkan, lalu manusia malas melewatkan penyelidikan, kombinasi orang yang tidak kompeten, kasus salah pun datang.
Seperti sistem Smart Sampa Brasil也在面对相似的问题. 2024, São Paulo, Brasil, meluncurkan sistem kepolisian pengenalan wajah AI terbesar di Amerika Latin, dikatakan terhubung dengan 40.000 kamera.
Kabar baiknya adalah efeknya确实猛,几年来有近四千罪犯当场被捕,还抓回三千多名逃犯,抢劫案在2025年下降了近15%,堪称“抓贼流水线”.
Kabar buruknya是,至少59人被认错.
Di antaranya不乏抽象案例,例如有精神病人在医院被当成罪犯带走了,后来发现他的逮捕令过期又给放了.还有一个老哥7个月内被抓4次,AI把他跟一个在逃杀人犯弄混了.每次都是被抓回警局后立刻被放出来,过了几天又来一次,他人都已经吓麻了.
Dulu saat membicarakan pekerjaan apa yang tidak bisa digantikan AI,都说AI不能替人坐牢,但我们从没想到过这个问题的另一面,它现在能让人“坐牢”.
Kalimat ini dulu adalah lelucon, tetapi sekarang看已经快不是新闻了.其实不光是人脸识别,AI在物品识别这块儿偶尔也能整出狠活儿.
去年美国一所高中的AI安保系统,把一个小伙手里的薯片包装识别成了“潜在枪支”,直接触发警报.来了8辆警车,瞬间就把小伙给控制了,搜完身才在垃圾桶翻出零食袋子,场面一度非常尴尬,小伙都以为自己活不成了.
Jangan bilang, memang mirip
Siapa sangka semakin kuat AI,有的人用它捅出来的娄子也越大.以前AI笨,看图认错了,让全网笑话半天.现在AI强了,认错一个人,让人类蹲上半年牢.未来别再搞出什么AI审判、AI律师,新能源法庭这类抽象的操作.说到底AI本身只是一种工具,关键还是看使用者的能力与目的,或者说AI越强,其实人越不能偷懒.
总之,开始多少有点怀念那个笨笨的AI了.
Artikel ini来自微信公众号“酷玩实验室”, penulis: 酷玩实验室
