Tiga Momen Anthropic: Kebocoran Kode, Konfrontasi dengan Pemerintah, dan Senjata
Anthropic merilis model Fable (versi Mythos yang lebih aman), tetapi aksesnya diblokir pemerintah AS karena kekhawatiran keamanan nasional terkait metode "jailbreak". Insiden ini menyoroti ketegangan antara perusahaan AI dan pemerintah.
Artikel ini membahas pergeseran strategi Anthropic dari laboratorium riset menjadi perusahaan yang mendekati pengguna akhir, bersaing dengan perusahaan perangkat lunak seperti Microsoft. Anthropic memberikan subsidi besar pada langganan untuk mengumpulkan data penggunaan, yang vital untuk peningkatan model melalui pembelajaran penguatan. Perubahan kebijakan retensi data Fable (menyimpan data 30 hari) didorong oleh alasan keamanan dan keunggulan kompetitif.
Anthropic juga menerapkan pembatasan pada Fable untuk menghambat pengembangan model bahasa besar (LLM) pesaing, mencerminkan keyakinan bahwa merekalah yang paling cocok mengembangkan AI mutakhir. Narasi keamanan yang konstan digunakan untuk membenarkan keputusan bisnis dan kebijakan kontrol. Artikel ini menyimpulkan bahwa misi, talenta, dan model bisnis Anthropic selaras sempurna, menciptakan perusahaan yang sangat efektif namun juga menimbulkan kekhawatiran terkait konsentrasi kekuasaan atas teknologi yang berpotensi sangat transformatif.
marsbit06/16 05:50
