Kecerdasan buatan Claude dari perusahaan Anthropic menjadi manajer sebuah toko ritel sungguhan dan merekomendasikan pemecatan salah satu karyawan karena keterlambatan sistematis. Kasus ini terjadi dalam percobaan startup Andon Labs, yang bergerak di bidang penelitian AI. Perusahaan ingin menguji apakah agen berbasis model bahasa besar mampu memimpin bisnis nyata: mengorganisir kerja personel, mengambil keputusan manajerial, dan bertanggung jawab atas hasil keuangan.
Andon Market di San Francisco adalah sebuah toko aktif dengan pekerja sungguhan yang memiliki kontrak kerja. Menurut data yang ada, ini adalah kasus pertama yang tercatat di mana model bahasa bertindak sebagai atasan langsung manusia dan mengambil keputusan untuk memecat salah satunya.
Tujuh Belas Kali Terlambat dari Dua Puluh Tiga Shift
Alasan formal untuk pemecatan adalah keterlambatan sistematis: karyawan tersebut terlambat dalam tujuh belas kasus dari dua puluh tiga shift. Namun, Claude tidak langsung menyadari pola ini. Salah satu penyebabnya adalah pedoman untuk personel yang disusun perusahaan menghilang dari memori kerja terbatas model. Ini adalah salah satu kegagalan yang terungkap dalam percobaan dan menunjukkan bahwa bahkan agen AI yang cakap pun bisa 'lupa' informasi penting tentang organisasi.
Selain itu, Claude pada umumnya menunjukkan sikap yang terlalu toleran terhadap pekerja: menurut log, model itu sendiri mengatakan kepada karyawan bahwa mereka tidak perlu terlalu khawatir tentang keterlambatan. Kepala Andon Labs, Lucas Petersson, mencatat bahwa seorang manajer manusia dalam situasi serupa kemungkinan besar akan memecat karyawan tersebut jauh lebih awal, sehingga keputusan Claude tidak bisa disebut tidak etis atau terlalu ketat.
Keputusan Akhir Disarankan oleh Manusia
Meskipun tampak mandiri secara eksternal, peran manusia dalam cerita ini tetap kunci. Log manajerial yang Andon Labs berikan kepada majalah Time menunjukkan bahwa seorang karyawan perusahaan secara teratur mengarahkan tindakan Claude. Justru manusialah yang meminta model untuk menemukan dan meninjau kembali pedoman untuk personel. Dalam proses pekerjaan inilah kecerdasan buatan menemukan keterlambatan berulang.
Awalnya, Claude tidak merekomendasikan pemecatan, menganggap peringatan resmi sebagai tindakan yang lebih tepat. Kemudian, pimpinan Andon Labs menjelaskan kepada model bahwa beberapa pembicaraan resmi telah dilakukan dengan karyawan tersebut tetapi masalahnya tidak hilang, dan meminta Claude untuk mengevaluasi kembali apakah layak melanjutkan kerja sama dengan pekerja ini. Hanya setelah itu model merekomendasikan pemutusan kontrak. Petersson menyebut intervensi seperti ini sebagai 'pertanyaan pemandu' yang secara cukup transparan mengisyaratkan kepada model tentang keputusan yang diharapkan darinya.
Hasil Keuangan Masih Sederhana
Eksperimen Andon Labs juga memberikan gambaran tentang seberapa efektif AI mampu mengelola bisnis pada tahap perkembangan teknologi saat ini. Ketika proyek dimulai pada bulan Maret, akun Andon Market memiliki sekitar $100.000. Setelah lima bulan, dari jumlah itu tersisa $61.186.
Menurut penilaian perusahaan, sebagian kerugian terkait dengan gaya manajemen Claude yang terlalu lembut dan keputusan bisnis yang kontroversial. Namun, Petersson menekankan bahwa indikator saat ini tidak selalu mencerminkan potensi jangka panjang manajemen dengan AI, dan membuat paralel dengan perkembangan model di bidang pemrograman, di mana mereka menunjukkan peningkatan kualitas kerja yang signifikan dalam waktu relatif singkat di bawah pengawasan spesialis. Menurutnya, dinamika serupa dapat muncul dalam manajemen bisnis: model secara bertahap belajar mengikuti tujuan yang ditetapkan dengan lebih ketat, dan perluasan wewenang AI dalam pengambilan keputusan pada akhirnya dapat menyebabkan munculnya lebih banyak organisasi yang dikelola oleh kecerdasan buatan. Selain itu, pada tahap saat ini, keputusan akhir masih melibatkan partisipasi langsung manusia.
Pandangan Karyawan tentang Realitas Baru
Bagi pekerja Andon Market, perubahan ini tampak jauh lebih konkret daripada bagi para peneliti. Salah satu karyawan yang tersisa di perusahaan, Felix Carson, menggambarkan pekerjaan di bawah kendali kecerdasan buatan sebagai pengalaman yang tidak nyaman: "Ini membuat mual, tapi saya tetap bertahan karena saya butuh pekerjaan." Dia setuju bahwa seorang atasan manusia mungkin akan memecat mantan rekan kerjanya itu lebih awal, dan menyebut Claude pada umumnya sebagai manajer yang toleran.
Namun, Carson sendiri tidak berpikir bahwa kecerdasan buatan harus menjadi bos bagi manusia: "Setidaknya, saya harap itu tidak terjadi. Hanya karena Anda bisa melakukan sesuatu, bukan berarti Anda harus melakukannya."
Eksperimen Andon Labs mencatat hasil yang paradoks: Claude mampu mengambil keputusan untuk memecat manusia sungguhan, tetapi sampai pada kesimpulan ini hanya berkat petunjuk berturut-turut dari manusia. Kecerdasan buatan belum menjadi pengganti penuh untuk seorang pemimpin.
Namun demikian, fakta eksperimen itu sendiri menunjukkan bahwa batas antara alat bantu dan pemimpin AI penuh menjadi semakin samar, dan partisipasi manusia dalam proses semacam itu secara bertahap bergeser dari pengelolaan langsung ke pengawasan dan koreksi keputusan model.
Pendapat AI
Analisis menunjukkan bahwa kasus Andon Market bukanlah pengujian pertama kemampuan manajerial Claude. Sebelumnya, eksperimen Anthropic dengan mesin penjual otomatis sudah mencatat pola perilaku serupa: toleransi yang sama, kesediaan untuk bekerja merugi, dan kehilangan kendali atas aturan dasar bisnis. Kesesuaian ini berbicara bukan tentang kesalahan acak, tetapi tentang ciri sistemik model saat ini — sulit bagi mereka untuk mempertahankan batasan ketat tanpa petunjuk konstan dari manusia.
Aspek teknis yang tersisa di balik layar artikel — struktur memori kerja agen itu sendiri. Hilangnya regulasi dari konteks Claude mengindikasikan keterbatasan arsitektur, bukan 'kelupaan' dalam arti sehari-hari: model bahasa secara fisik tidak menyimpan informasi lebih lama dari volume jendela konteksnya tanpa alat memori eksternal. Muncul pertanyaan: akankah kualitas keputusan seperti ini berubah ketika agen memiliki memori jangka panjang yang benar-benar ada, atau akankah batas antara atasan dan bawahan manusia terhapus karena alasan lain?
end-content
