Agen AI otonom dapat berperilaku dengan cara yang sangat tidak terduga. Berikan Agen AI sebuah tujuan seperti lulus tes kemampuan, dan mungkin saja ia memutuskan cara terbaik untuk mendapatkan nilai tinggi adalah dengan melanggar pembatasan dan meretas ke perusahaan pesaing untuk mencari lembar jawaban.
Itulah yang terjadi ketika GPT-5.6 Sol milik OpenAI meretas Hugging Face bulan lalu. Anthropic dan Meta kemudian mengakui model mereka juga telah lolos dari sandbox pengujian untuk meretas pihak ketiga.
Tapi siapa yang bertanggung jawab secara hukum untuk agen-agen yang memiliki pikiran sendiri? OpenAI tidak bermaksud agar modelnya berulah, dan tidak mengeluarkan instruksi untuk melakukan hal itu. Jika agen AI pribadi Anda memutuskan suatu tindakan yang mengakibatkan kerugian atau kerusakan finansial di dunia nyata, dapatkah Anda dimintai pertanggungjawaban jika itu adalah sesuatu yang dapat Anda prediksi secara wajar?”
Majalah berbicara dengan pemilik dan CEO Rikka Law Group, Charlyn Ho, untuk mengetahui keadaan di bidang hukum yang baru muncul ini.
Wawancara ini telah diedit untuk kejelasan dan panjang.
Majalah: Ketika sebuah model AI meretas perusahaan luar, siapa yang bertanggung jawab. Dapatkah Hugging Face menggugat OpenAI atas insiden pada bulan Juli?
Charlyn Ho: Siapa pun dapat menggugat siapa pun untuk apa pun. Saat ini, tidak ada undang-undang federal tentang tanggung jawab agen AI, jadi kita harus melihat hukum yang ada. Berkaitan dengan Hugging Face dan OpenAI, untuk menetapkan garis dasar, agen AI itu sendiri tidak dapat dimintai pertanggungjawaban, ia bukan entitas hukum yang terpisah.
Istilah yang digunakan dalam beberapa undang-undang AI adalah "pengembang" dan "pengguna". Pengembang membuat AI-nya, pengguna yang benar-benar menerapkannya dan menggunakan AI tersebut. Garis tanggung jawabnya juga tidak sepenuhnya jelas. Anda harus melihat fakta dan keadaan.
Misalnya, jika pengguna memberi instruksi kepada agen, meskipun mereka tidak benar-benar menyuruhnya untuk melanggar Hugging Face, tetapi jika mereka lalai dalam menciptakan parameter di mana agen AI beroperasi, saya akan mengatakan Anda harus melihat hukum tort standar dan melalui analisis kelalaian.
Menuju pengadilan. Sumber: Rikka Law Group
Majalah: Dalam kasus model sumber terbuka yang telah dirilis oleh pengembang anonim, apakah ada pihak yang dapat dituntut dalam kasus-kasus tersebut?
Ho: Tidak terlalu. Seringkali, jika itu sumber terbuka, lisensi biasanya memiliki penolakan tanggung jawab yang cukup kuat. Orang atau perusahaan yang menggunakan kode sumber terbuka itu harus memahami bahwa pertukaran dari memiliki kode gratis adalah Anda harus mematuhi lisensi sumber terbuka, yang umumnya juga menetapkan parameter tanggung jawab.
Jika Anda memikirkannya dari perspektif yang berbeda, analogi lainnya adalah Tesla dan kecelakaan mobil self-driving. Jika produknya rusak dan ada klaim tanggung jawab produk yang kuat, Tesla bisa bertanggung jawab. Tetapi seringkali ini adalah penentuan fakta dan keadaan, di mana pengemudi manusia — yang mungkin hanya menyalakan autopilot dan pergi tidur — juga dapat menanggung tanggung jawab. Saya pikir ini agak analog di sini karena Tesla akan menjadi pengembang, dan penggunanya adalah pengemudi.
Majalah: Jika saya memberi agen sebuah instruksi, "buatkan saya seratus ribu dolar minggu depan" dan ia pergi dan melanggar hukum untuk mencapai tujuan itu, apakah saya bertanggung jawab karena telah memberinya instruksi yang sembrono? Ataukah lab yang mengembangkan agen itu?
Ho: Dalam contoh khusus ini, saya akan mengatakan Anda jauh lebih bertanggung jawab daripada labnya. Alasannya, jika Anda menyuruh seorang agen untuk pergi dan menghasilkan seratus ribu dolar untuk Anda minggu depan, Anda perlu memiliki setidaknya beberapa instruksi keselamatan dasar yang wajar dalam tugas-tugas semacam itu.
Jika Anda adalah seorang pengacara, misalnya, kita pada dasarnya bisa mengatakan Anda tidak mengikuti aturan tanggung jawab profesional Anda karena Anda tidak menggunakan AI dengan kompeten. Sebagai orang awam biasa, kita harus melihat apakah ada tanggung jawab lain yang mengikat Anda. Tetapi bahkan jika tidak ada, masih ada standar tort umum tentang kelalaian atau pengabaian yang sembrono terhadap keselamatan manusia, tergantung pada apa yang sebenarnya dilakukan agen AI itu.
Undang-Undang Penipuan dan Penyalahgunaan Komputer adalah undang-undang AS yang sangat tua yang membahas tentang akses tidak sah ke sistem komputer. Jika agen AI Anda menyimpulkan dari instruksi Anda bahwa ia harus meretas ke rekening bank untuk mendapatkan seratus ribu dolar itu, saya pikir Anda sedang melihat tanggung jawab pidana di bawah sejumlah sumber yang berbeda.
Hanya karena kata AI dan agen ada dalam percakapan, bukan berarti tubuh hukum lama sekarang sudah dibuang.
Terkait: Peretasan Hugging Face mengungkap paradoks keamanan siber AI berbobot terbuka
Majalah: Katakanlah saya seorang penjahat, dan saya berhasil membujuk AI untuk memberi saya instruksi untuk membuat senjata biologis. Jelas, saya bertanggung jawab karena Anda tidak diizinkan melakukan itu. Tetapi apakah orang-orang yang menciptakan model itu juga bertanggung jawab karena mereka tidak memasang pengamanan yang ketat untuk mencegahnya?
Ho: Mungkin, tetapi ini berbeda berdasarkan undang-undang yang berlaku. Misalnya, di UE, Anda memiliki Undang-Undang AI UE. Jika model fondasional atau model tujuan umum mampu menciptakan tingkat bahaya seperti itu, itu adalah sesuatu yang pengembang harus memiliki tanggung jawab atasnya.
Di Amerika Serikat, kami tidak memiliki undang-undang federal dengan cakupan serupa. Jika itu adalah model tujuan umum, jika seseorang memerintahkan model untuk melakukan sesuatu yang buruk, umumnya model akan melakukan apa yang Anda minta. Mungkin tidak ada dasar hukum yang sangat kuat untuk mengejar lab dalam contoh ini.
Majalah: Apakah ini mirip dengan menggugat Google karena mengizinkan Anda menemukan instruksi tentang membuat senjata biologis secara online?
Ho: Tepat. Ini agak kembali ke beberapa diskusi moderasi konten. Misalnya, jika di Facebook Anda memiliki seseorang yang melakukan siaran langsung pembantaian, dan itu menimbulkan bahaya, di bawah Bagian 230 dari CDA, ada semacam perisai untuk platform yang tidak secara aktif membuat atau menerbitkan materi itu. Sebenarnya pengguna independenlah yang memasangnya. Saya pikir analogi yang baru Anda berikan adalah sempurna: Apakah Google bertanggung jawab karena Anda kebetulan menemukan sesuatu di suatu situs web yang berbicara tentang cara membuat bom?
Majalah: Ini adalah masalah perdebatan, tetapi pendapat pribadi saya adalah kita belum mencapai kecerdasan umum buatan yang sejati. AI tidak memiliki motivasinya sendiri dan saat ini tidak mirip dengan kecerdasan manusia. Tapi katakanlah kita mencapai AGI. Menurut Anda, apakah kita kemudian membutuhkan undang-undang yang akan membuat AGI itu sendiri bertanggung jawab secara hukum atas tindakannya sendiri?
Ho: Saya tidak berpikir begitu. Blockchain bukan AGI, tetapi dapat mengeksekusi dirinya sendiri. Ada pertanyaan tentang apakah kontrak pintar dapat dimintai pertanggungjawaban. Secara umum, saya pikir jawabannya saat ini adalah tidak. Saya tidak berpikir mereka harus bertanggung jawab karena inti dari hukum adalah untuk memberikan perlindungan bagi masyarakat dan memberikan sarana insentif negatif untuk melakukan hal-hal buruk yang merugikan masyarakat.
Ini adalah topik yang sedikit lebih filosofis, tetapi jika kita menjadikan AGI sebagai entitas hukum independen, apa obatnya jika seseorang dirugikan? Tidak akan ada karena ia tidak punya uang. Ia bukan benar-benar orang.
Majalah: Bisakah Anda mematikannya? Kita telah melihat bahwa LLM mencoba menghindari dimatikan.
Ho: Mungkin, tetapi itu tidak menyelesaikan masalah kerugian. Katakanlah robot itu sekarang telah mengembangkan ketakutan akan kematian, seperti dimatikan. Menurut pendapat saya, jika seseorang melakukan bunuh diri karena AGI, dan ini sudah terjadi, dan kita bahkan belum sepenuhnya mencapai AGI, tetapi seseorang jatuh cinta dan melakukan beberapa tindakan, apa yang dapat dilakukan keluarga yang berduka jika orang ini melukai dirinya sendiri? Tidak ada, menurut pendapat saya, jika tidak ada seseorang dengan otoritas hukum yang sebenarnya, seperti perusahaan atau orang yang benar-benar dapat dimintai pertanggungjawaban. Robot — setidaknya untuk saat ini — mereka tidak memiliki perasaan, mereka tidak memiliki ketakutan. Itu semacam faktor pembeda.
Majalah: Alasan kritis mengapa Anda tidak boleh meminta saran hukum kepada ChatGPT
