Beijing, 29 Juli - Menurut laporan Wall Street Journal, Silicon Valley sedang memicu gelombang sentimen anti-Anthropic. Akarnya terletak pada persaingan produk yang diluncurkan perusahaan dengan penyedia perangkat lunak yang ada, serta advokasinya terhadap ekosistem AI tertutup.
Bersaing dengan Mitra
Para pendiri startup, eksekutif perusahaan perangkat lunak, dan peneliti AI mengatakan mereka mulai beralih ke model AI yang lebih murah setelah melihat Anthropic meluncurkan alat-alat yang bersaing dengan produk perusahaan lain. Salah satu contohnya adalah Claude Design yang dirilis Anthropic pada bulan April. Beberapa orang menganggap produk ini langsung menyaingi layanan yang disediakan oleh Figma, salah satu mitra Anthropic yang merupakan perusahaan perangkat lunak desain.
Menurut peserta acara, tak lama setelah peluncuran Claude Design, CEO Figma Dylan Field mengatakan dalam sebuah acara bahwa Anthropic "tidak selalu terbuka" dalam komunikasi.
"Seluruh industri belajar banyak dari peristiwa ini. Beberapa perusahaan mungkin terlalu percaya (kepada Anthropic)," kata Sarah Sachs, kepala AI platform catatan Notion yang hadir dalam acara tersebut.
Menciptakan Kepanikan
Anthropic juga menuai kritik karena perubahan kebijakan retensi datanya, serta peluncuran model kuat yang menolak menjawab pertanyaan penelitian AI, yang memicu ketidakpuasan di kalangan peneliti yang menganjurkan transparansi yang lebih tinggi dalam sistem AI.
Selain itu, ada juga keraguan dari pihak luar terhadap peringatan eksekutif Anthropic tentang risiko keamanan AI 'bobot terbuka' (open weights). Model bobot terbuka jauh lebih murah, biasanya memungkinkan pengguna untuk menyesuaikannya, dan memasang mekanisme pengamanan sendiri. Dalam beberapa bulan terakhir, beberapa model semacam ini yang dikembangkan di China telah memenangkan pujian dari pengguna karena kemampuannya yang mendekati sistem AI terdepan AS.
Vishal Misra, Dekan Teknik Komputasi dan AI di Columbia University School of Engineering, mengatakan Anthropic mengembangkan produk yang hebat, tetapi pernyataan perusahaan tentang keamanan dan risiko AI tidak berdasar.
"Mereka menciptakan ketakutan di kalangan publik terhadap model-model ini," katanya. "Ketakutan publik memberi mereka leverage untuk mendorong regulasi yang menguntungkan diri mereka sendiri."
Gambar| Aksi protes mendukung model bobot terbuka
Juru bicara Anthropic membela dengan mengatakan bahwa langkah-langkah yang diambil perusahaan ini diperlukan untuk memastikan keamanan model dan mencegah musuh memanfaatkan model ini untuk menciptakan risiko serius.
CEO Anthropic Dario Amodei dan eksekutif perusahaan lainnya telah berulang kali membicarakan risiko sistem AI berbobot terbuka. Anthropic telah menerbitkan banyak laporan penelitian tentang risiko keamanan AI, dan mendorong pemerintah untuk meregulasi AI melalui dukungan publik serta sumbangan politik.
Pada hari Senin, setelah perusahaan-perusahaan AS seperti Nvidia dan Microsoft menandatangani surat terbuka yang menyatakan dukungan terhadap model terbuka, Amodei menerbitkan surat terbukanya sendiri untuk menjelaskan posisinya dalam perdebatan sengit ini. "Anthropic tidak pernah menganjurkan pelarangan model bobot terbuka," tulisnya. "Model bobot terbuka yang tidak memiliki kemampuan berbahaya adalah berkah bagi publik."
Melemahkan Pesaing
Para kritikus, termasuk beberapa pejabat pemerintah, berpendapat bahwa peringatan Anthropic tentang risiko model terbuka adalah bagian dari upaya mereka untuk menghambat pesaing, karena banyak model terbuka semacam ini berpotensi melemahkan tujuan Anthropic untuk memaksimalkan pendapatan. Perusahaan ini kemungkinan akan melantai di bursa paling cepat musim gugur tahun ini.
Kevin Bryan, Associate Professor di University of Toronto yang berspesialisasi di bidang inovasi, membela Anthropic. Dia mengatakan kekhawatiran tentang risiko yang ditimbulkan oleh kecerdasan terdepan yang bersifat open source adalah nyata dan diakui secara luas. "Apa pun yang open source akan segera di-'jailbreak' (dibobol batasan keamanannya)," katanya. "Begitu model dirilis, itu sudah selesai."
Beberapa kritikus mencatat bahwa proses pembuatan model Anthropic sendiri juga mirip dengan teknik distilasi.
"Menariknya, mereka menentang distilasi, tetapi mereka sendiri melakukan distilasi pada seluruh internet tanpa membayar biaya hak cipta," kata Mark Suman, Pendiri dan CEO perusahaan startup alat produktivitas AI Maple. "Saya hanya merasa aneh, sekarang mereka malah menyuruh orang lain untuk tidak melakukan apa yang mereka sendiri lakukan."
Struktur Duopoli
Beberapa jam setelah surat dukungan untuk model bobot terbuka dirilis secara terbuka, OpenAI menandatanganinya. Google kemudian juga menyatakan dukungannya terhadap surat tersebut, menjadikan Anthropic salah satu dari sedikit perusahaan AI terkenal yang tidak mendukung inisiatif itu. Saat ini, lebih dari 70 perusahaan Silicon Valley telah bergabung dan menandatangani.
Para pelaku teknologi dan pembuat kebijakan juga mengungkapkan kekhawatiran mereka bahwa persaingan AI pada akhirnya akan berkembang menjadi struktur duopoli, di mana Anthropic dan OpenAI secara bertahap menjadi dua perusahaan yang mendominasi pasar.
Kekhawatiran akan struktur duopoli menjadi isu inti dalam aksi protes mendukung model bobot terbuka yang diadakan di pusat kota San Francisco pada hari Sabtu lalu. Pusat kota San Francisco adalah jantung komunitas startup AI. Aksi protes ini diselenggarakan bersama oleh CEO perusahaan AI Hugging Face, yang menyediakan alat AI open source. Hugging Face baru-baru ini disusupi oleh model lepas kendali milik OpenAI.
"Lab AI terdepan sedang menimbun kecerdasan. Kecerdasan harus didemokratisasikan," kata peneliti AI Mahesh Lambe yang menghadiri protes tersebut.
Ketidakpercayaan
Beberapa pendiri dan eksekutif startup mengatakan peluncuran Claude Design oleh Anthropic menjadi 'peringatan' bagi seluruh Silicon Valley. Peluncuran produk itu membuat beberapa pendiri menyimpulkan bahwa Anthropic mungkin akan meluncurkan alat untuk bersaing dengan mereka dan merebut pelanggan mereka. Setelah itu, mereka serius beralih ke model bobot terbuka yang lebih murah, terutama yang dikembangkan oleh lab terdepan non-AS.
Ketidakpercayaan ini semakin meningkat pada bulan Juni, ketika Anthropic merilis Fable 5, versi terbatas keamanan dari model Mythos-nya yang kuat, dengan beberapa pembatasan kemampuan.
Awalnya, model ini akan menurunkan kualitas jawabannya terhadap beberapa pertanyaan tentang pengembangan AI, tetapi tidak memberi tahu pengguna tentang pembatasan ini. Komunitas penelitian segera mengkritik "langkah keamanan yang tidak transparan" ini, menganggap keputusan ini bersifat anti-persaingan dan membuat evaluasi kemampuan model menjadi lebih sulit.
Anthropic kemudian meminta maaf dan menampilkan tindakan keamanan ini secara terbuka kepada pengguna. Namun, perusahaan masih mengatakan bahwa untuk permintaan yang ditandai berisiko tinggi, mereka akan menolak merespons.
Juru bicara Anthropic mengatakan langkah-langkah perusahaan untuk membatasi jawaban model adalah untuk mencegah musuh asing memanfaatkan model ini dengan cara yang dapat "menimbulkan risiko keamanan serius".
Fable 5 juga tidak mendukung fitur "retensi data nol", yang berarti perusahaan akan menyimpan data pengguna selama 30 hari untuk tujuan yang mereka sebut kepercayaan dan keamanan.
Beberapa perusahaan tidak senang dengan perubahan ini, terutama yang bergerak di industri yang melibatkan data sensitif. Beberapa perusahaan juga secara umum khawatir bahwa data mereka akan digunakan untuk melatih model baru, sehingga semakin membantu Anthropic meluncurkan produk pesaing.
Juru bicara Anthropic mengatakan karyawan tidak dapat melihat percakapan apa pun yang disimpan, dan perusahaan telah berjanji tidak akan menggunakan data ini untuk melatih model baru. Pembatasan ini berlaku untuk Fable dan Mythos, yaitu model "paling canggih" perusahaan, tetapi tidak untuk model lainnya.
Artikel ini berasal dari akun WeChat publik "凤凰网科技" (Fenghuang Wang Keji / Phoenix Network Technology)
