Kecerdasan buatan Claude dari perusahaan Anthropic menjadi manajer sebuah toko ritel sungguhan dan merekomendasikan pemecatan salah satu karyawan karena keterlambatan yang sistematis. Kasus ini terjadi dalam percobaan startup Andon Labs, yang bergerak di bidang penelitian AI. Perusahaan ingin menguji apakah agen berbasis model bahasa besar mampu memimpin bisnis nyata: mengatur kerja personel, mengambil keputusan manajerial, dan bertanggung jawab atas hasil keuangan.
Toko Andon Market di San Francisco adalah titik operasional dengan pekerja nyata yang memiliki kontrak kerja. Berdasarkan data yang ada, ini adalah kasus pertama yang tercatat di mana model bahasa berperan sebagai atasan langsung manusia dan mengambil keputusan untuk memecat salah satunya.
Tujuh Belas Keterlambatan dari Dua Puluh Tiga Shift
Alasan formal untuk pemecatan adalah keterlambatan sistematis: karyawan tersebut terlambat dalam tujuh belas kasus dari dua puluh tiga shift. Namun, Claude tidak langsung menyadari pola ini. Salah satu penyebabnya adalah panduan personel yang dibuat perusahaan hilang dari memori kerja terbatas model — ini adalah salah satu kegagalan yang terungkap dalam percobaan dan menunjukkan bahwa bahkan agen AI yang mampu sekalipun bisa saja 'lupa' informasi penting tentang organisasi.
Selain itu, Claude secara umum menunjukkan kelonggaran yang berlebihan kepada para pekerja: berdasarkan log, model sendiri mengatakan kepada karyawan bahwa mereka tidak perlu terlalu khawatir tentang keterlambatan. Kepala Andon Labs Lucas Petersson mencatat bahwa atasan manusia dalam situasi serupa kemungkinan akan memecat karyawan seperti itu jauh lebih awal, sehingga keputusan Claude tidak bisa disebut tidak etis atau terlalu keras.
Keputusan Akhir Dihasilkan oleh Petunjuk Manusia
Meskipun tampak mandiri, peran manusia dalam kisah ini tetap kunci. Log manajerial yang diberikan Andon Labs kepada majalah Time menunjukkan bahwa karyawan perusahaan secara teratur mengarahkan tindakan Claude. Justru manusialah yang meminta model untuk mencari dan meninjau ulang panduan personel — dalam proses pekerjaan inilah kecerdasan buatan menemukan keterlambatan berulang.
Awalnya, Claude tidak merekomendasikan pemecatan, menganggap peringatan resmi sebagai tindakan yang lebih tepat. Kemudian, pimpinan Andon Labs menjelaskan kepada model bahwa beberapa percakapan resmi telah dilakukan dengan karyawan tersebut tetapi masalahnya tidak hilang, dan meminta Claude untuk mengevaluasi kembali apakah perlu melanjutkan kerja sama dengan pekerja ini. Hanya setelah itu model merekomendasikan untuk mengakhiri kontrak. Petersson menyebut intervensi seperti ini sebagai 'pertanyaan pengarah', yang cukup jelas memberi petunjuk kepada model tentang keputusan yang diharapkan darinya.
Hasil Keuangan Masih Belum Impresif
Eksperimen Andon Labs juga memberikan gambaran tentang seberapa efektif AI mampu mengelola bisnis pada tahap perkembangan teknologi saat ini. Ketika proyek dimulai pada bulan Maret, akun Andon Market memiliki sekitar $100.000. Setelah lima bulan, dari jumlah itu tersisa $61.186.
Menurut penilaian perusahaan, sebagian kerugian terkait dengan gaya manajemen Claude yang terlalu lunak dan keputusan bisnis yang dipertanyakan. Namun, Petersson menekankan bahwa kinerja saat ini tidak serta merta mencerminkan potensi jangka panjang manajemen dengan AI, dan membuat paralel dengan pengembangan model di bidang pemrograman, di mana mereka menunjukkan peningkatan kualitas kerja yang signifikan dalam waktu relatif singkat di bawah pengawasan spesialis. Menurutnya, dinamika serupa dapat muncul dalam manajemen bisnis: model secara bertahap belajar untuk lebih ketat mengikuti tujuan yang ditetapkan, dan perluasan wewenang AI dalam pengambilan keputusan pada akhirnya dapat menyebabkan munculnya lebih banyak organisasi yang dikelola oleh kecerdasan buatan. Selain itu, pada tahap saat ini, keputusan akhir masih melibatkan partisipasi langsung manusia.
Perspektif Karyawan Terhadap Realitas Baru
Bagi para pekerja Andon Market, perubahan ini tampak jauh lebih konkret daripada bagi para peneliti. Salah satu karyawan yang masih bertahan di perusahaan, Felix Carson, menggambarkan pekerjaan di bawah manajemen kecerdasan buatan sebagai pengalaman yang tidak nyaman: "Ini membuat mual, tetapi saya tetap karena saya butuh pekerjaan." Dia setuju bahwa atasan manusia kemungkinan akan memecat mantan rekan kerjanya lebih awal, dan menyebut Claude pada dasarnya sebagai manajer yang pemaaf.
Sementara itu, Carson sendiri tidak berpikir bahwa kecerdasan buatan harus menjadi bos bagi manusia: "Setidaknya, saya berharap itu tidak terjadi. Hanya karena Anda bisa melakukan sesuatu, bukan berarti Anda harus melakukannya."
Eksperimen Andon Labs mencatat hasil yang paradoks: Claude dapat mengambil keputusan untuk memecat manusia nyata, tetapi sampai pada kesimpulan itu hanya berkat petunjuk berurutan dari manusia. Kecerdasan buatan belum menjadi pengganti penuh bagi seorang atasan.
Namun, fakta eksperimen itu sendiri menunjukkan bahwa batas antara alat bantu dan pemimpin AI yang lengkap semakin kabur, dan partisipasi manusia dalam proses serupa secara bertahap bergeser dari manajemen langsung ke pengawasan dan koreksi keputusan model.
Pendapat AI
Analisis menunjukkan bahwa kasus Andon Market bukanlah uji pertama kemampuan manajerial Claude. Sebelumnya, eksperimen Anthropic dengan mesin penjual otomatis juga mencatat pola perilaku serupa: sifat pemaaf yang sama, kesediaan bekerja merugi, dan hilangnya kendali atas aturan dasar bisnis. Kesamaan ini berbicara bukan tentang kesalahan acak, tetapi tentang ciri sistemik model saat ini — sulit bagi mereka untuk mempertahankan batasan yang ketat tanpa petunjuk konstan dari manusia.
Aspek teknis yang tersembunyi dari artikel ini — cara kerja memori kerja agen itu sendiri. Hilangnya peraturan dari konteks Claude menunjukkan keterbatasan arsitektur, bukan 'kelupaan' dalam arti harfiah: model bahasa secara fisik tidak menyimpan informasi lebih lama dari volume jendela konteksnya tanpa alat memori eksternal. Muncul pertanyaan: apakah kualitas keputusan seperti ini akan berubah ketika agen memiliki memori jangka panjang yang benar-benar kuat, atau batas antara atasan dan bawahan manusia akan terkikis karena alasan lain?
end-content
