BẮC KINH, ngày 29/7 – Theo tờ Wall Street Journal, Thung lũng Silicon đang nhen nhóm một làn sóng phản đối Anthropic, bắt nguồn từ việc các sản phẩm của công ty này cạnh tranh với các nhà cung cấp phần mềm hiện có, cũng như việc họ ủng hộ một hệ sinh thái AI khép kín.
Cạnh tranh với đối tác
Các nhà sáng lập startup, lãnh đạo công ty phần mềm và nhà nghiên cứu AI cho biết họ đang chuyển sang các mô hình AI có giá thấp hơn sau khi thấy Anthropic tung ra thị trường một số công cụ cạnh tranh với sản phẩm của các công ty khác. Một ví dụ là Claude Design được Anthropic ra mắt vào tháng 4. Một số người cho rằng sản phẩm này nhắm trực tiếp vào các dịch vụ do Figma, một công ty phần mềm thiết kế và là đối tác của Anthropic, cung cấp.
Theo những người tham gia sự kiện, không lâu sau khi Claude Design ra mắt, tại một sự kiện, CEO Figma Dylan Field đã cho biết Anthropic “đã không luôn trung thực” trong giao tiếp.
“Toàn ngành đã rút ra nhiều bài học từ sự việc này. Một số công ty có thể đã quá tin tưởng (Anthropic).” Sarah Sachs, người đứng đầu Notion AI, một nền tảng ghi chú có mặt tại sự kiện, cho biết.
Tạo ra nỗi sợ hãi
Anthropic cũng bị chỉ trích vì những thay đổi trong chính sách lưu giữ dữ liệu, cũng như việc phát hành một mô hình mạnh mẽ từ chối trả lời các câu hỏi nghiên cứu về AI, điều này khiến một số nhà nghiên cứu ủng hộ tính minh bạch cao hơn trong hệ thống AI không hài lòng.
Ngoài ra, bên ngoài cũng tỏ ra nghi ngờ về những cảnh báo của lãnh đạo Anthropic liên quan đến rủi ro an ninh của mô hình AI “trọng số mở”. Mô hình trọng số mở có chi phí thấp hơn nhiều và thường cho phép người dùng tùy chỉnh cũng như tự cài đặt các cơ chế bảo vệ an ninh. Trong vài tháng gần đây, một số mô hình như vậy được phát triển ở Trung Quốc đã nhận được lời khen ngợi từ người dùng nhờ khả năng tiệm cận với các hệ thống AI tiên phong của Mỹ.
Vishal Misra, Phó hiệu trưởng Khoa Tính toán và AI thuộc Trường Kỹ thuật Đại học Columbia, cho biết Anthropic đã phát triển những sản phẩm tuyệt vời, nhưng những tuyên bố của công ty về an ninh và rủi ro AI là không có cơ sở.
“Họ tạo ra nỗi sợ hãi về những mô hình này trong công chúng,” ông nói, “Nỗi sợ của công chúng cho họ đòn bẩy để thúc đẩy các chính sách quản lý có lợi cho bản thân.”
Ảnh| Một cuộc biểu tình ủng hộ các mô hình trọng số mở
Người phát ngôn của Anthropic biện hộ rằng các biện pháp này của công ty là cần thiết để đảm bảo mô hình an toàn và ngăn chặn đối thủ sử dụng chúng tạo ra những rủi ro nghiêm trọng.
CEO Anthropic Dario Amodei cùng các lãnh đạo khác của công ty đã nhiều lần đề cập đến rủi ro của hệ thống AI trọng số mở. Anthropic đã công bố nhiều báo cáo nghiên cứu về rủi ro an ninh AI, đồng thời thông qua việc ủng hộ công khai và đóng góp chính trị để thúc đẩy chính phủ quản lý AI.
Vào thứ Hai, sau khi nhiều công ty Mỹ như Nvidia, Microsoft ký tên vào một bức thư ngỏ thể hiện sự ủng hộ đối với các mô hình mở, Amodei đã công bố một bức thư ngỏ để làm rõ lập trường của mình trong cuộc tranh luận gay gắt này. “Anthropic chưa bao giờ đề xuất cấm các mô hình trọng số mở,” ông viết, “Các mô hình trọng số mở không có khả năng nguy hiểm là một phúc lợi công cộng.”
Làm suy yếu đối thủ
Các nhà phê bình, bao gồm một số quan chức chính phủ, cho rằng những cảnh báo của Anthropic về rủi ro mô hình mở là một phần trong nỗ lực cản trở đối thủ của họ, bởi lẽ nhiều mô hình mở kiểu này có thể làm suy yếu mục tiêu tối đa hóa doanh thu của Anthropic. Công ty này có thể tiến hành IPO sớm nhất là vào mùa thu năm nay.
Kevin Bryan, Phó giáo sư chuyên về lĩnh vực đổi mới tại Đại học Toronto, đã bảo vệ Anthropic. Ông cho biết những lo ngại về rủi ro của việc mở mã nguồn trí tuệ tiên phong là có thật và được thừa nhận rộng rãi. “Bất cứ thứ gì mở nguồn đều sẽ ngay lập tức bị ‘jailbreak’ (phá vỡ các hạn chế an ninh),” ông nói, “Một khi mô hình được phát hành, thì không còn cách nào nữa.”
Một số nhà phê bình chỉ ra rằng chính quá trình Anthropic tự xây dựng mô hình cũng tương tự như kỹ thuật chưng cất (distillation).
“Thú vị ở chỗ họ phản đối chưng cất, nhưng chính họ đã chưng cất toàn bộ Internet mà không trả phí bản quyền.” Mark Suman, người đồng sáng lập kiêm CEO của startup công cụ năng suất AI Maple, cho biết, “Tôi chỉ thấy lạ là giờ họ lại quay ra bảo người khác đừng làm điều mà chính họ đã làm.”
Cấu trúc song quyền
Vài giờ sau khi bức thư ngỏ ủng hộ mô hình trọng số mở được công bố, OpenAI đã ký vào bức thư này. Google sau đó cũng tuyên bố ủng hộ, khiến Anthropic trở thành một trong số ít các công ty AI nổi tiếng không ủng hộ sáng kiến này. Hiện đã có hơn 70 công ty tại Thung lũng Silicon tham gia và ký tên.
Các chuyên gia công nghệ và nhà hoạch định chính sách cũng bày tỏ lo ngại rằng cuối cùng, cạnh tranh AI sẽ biến thành một cấu trúc song quyền, với Anthropic và OpenAI dần trở thành hai công ty thống trị thị trường.
Lo ngại về cấu trúc song quyền đã trở thành vấn đề cốt lõi tại một cuộc biểu tình ủng hộ mô hình trọng số mở diễn ra hôm thứ Bảy tuần trước tại trung tâm San Francisco, trung tâm của cộng đồng startup AI. Cuộc biểu tình này do CEO của công ty AI Hugging Face, một công ty cung cấp công cụ AI mã nguồn mở, đồng tổ chức. Hugging Face gần đây đã bị một mô hình mất kiểm soát của OpenAI xâm nhập.
“Các phòng thí nghiệm AI tiên phong đang tích trữ trí tuệ. Trí tuệ nên được dân chủ hóa.” Nhà nghiên cứu AI Mahesh Lambe, người tham gia cuộc biểu tình, cho biết.
Không tin tưởng
Một số nhà sáng lập và lãnh đạo startup cho biết việc Anthropic phát hành Claude Design đã gióng lên “hồi chuông cảnh báo” cho toàn bộ Thung lũng Silicon. Việc ra mắt sản phẩm này khiến một số nhà sáng lập kết luận rằng Anthropic có thể tung ra các công cụ cạnh tranh với họ và giành mất khách hàng. Sau đó, họ nghiêm túc chuyển sang các mô hình trọng số mở có giá rẻ hơn, đặc biệt là những mô hình không do các phòng thí nghiệm tiên phong của Mỹ phát triển.
Tháng 6 năm nay, sự không tin tưởng này càng trầm trọng thêm khi Anthropic phát hành Fable 5, một phiên bản bị hạn chế an ninh của mô hình Mythos mạnh mẽ của họ, với một số hạn chế về khả năng.
Ban đầu, mô hình này sẽ giảm chất lượng câu trả lời đối với một số câu hỏi về phát triển AI, nhưng không thông báo cho người dùng về hạn chế này. Cộng đồng nghiên cứu ngay lập tức chỉ trích “các biện pháp an ninh không minh bạch” này, cho rằng quyết định này mang tính chống cạnh tranh và khiến việc đánh giá năng lực mô hình trở nên khó khăn hơn.
Anthropic sau đó đã xin lỗi và công khai hiển thị các biện pháp hạn chế an ninh này cho người dùng. Tuy nhiên, công ty vẫn cho biết sẽ từ chối phản hồi đối với các yêu cầu được đánh dấu là có rủi ro cao.
Người phát ngôn của Anthropic cho biết các biện pháp hạn chế câu trả lời của mô hình là để ngăn chặn đối thủ nước ngoài sử dụng chúng theo cách “có thể tạo ra rủi ro an ninh nghiêm trọng”.
Fable 5 cũng không hỗ trợ tính năng “không lưu giữ dữ liệu” (zero data retention), nghĩa là công ty sẽ lưu giữ dữ liệu người dùng trong 30 ngày cho mục đích mà họ gọi là tin cậy và an toàn.
Một số doanh nghiệp tỏ ra không hài lòng với sự thay đổi này, đặc biệt là những công ty trong các ngành liên quan đến dữ liệu nhạy cảm. Một số công ty cũng lo ngại chung rằng dữ liệu của họ sẽ được sử dụng để đào tạo các mô hình mới, từ đó giúp Anthropic tiếp tục tung ra các sản phẩm cạnh tranh.
Người phát ngôn của Anthropic cho biết nhân viên công ty không thể xem bất kỳ cuộc hội thoại nào bị lưu giữ và công ty đã cam kết không sử dụng dữ liệu này để đào tạo mô hình mới. Các hạn chế này áp dụng cho Fable và Mythos, tức các “mô hình mạnh nhất” của công ty, nhưng không áp dụng cho các mô hình khác.
Bài viết này đến từ tài khoản công chúng WeChat “凤凰网科技” (Phoenix Network Technology)
