Tác giả Ben Thompson phân tích ba khía cạnh then chốt xoay quanh Anthropic sau sự kiện mô hình Fable (phiên bản an toàn hóa của Mythos) bị chính phủ Mỹ đình chỉ truy cập chỉ hai tháng sau khi ra mắt. Thứ nhất là cuộc đối đầu với chính phủ: Lệnh cấm xuất khẩu dựa trên lo ngại an ninh quốc gia về khả năng bị "vượt rào" (jailbreak) của Fable, dù Anthropic cho rằng đây là hiểu lầm. Điều này phản ánh mâu thuẫn không thể tránh khỏi giữa phòng thí nghiệm AI tiên phong và cơ quan quản lý. Thứ hai là sự cần thiết về kinh tế và dữ liệu: Để tồn tại và tránh bị các mô hình mã nguồn mở hàng hóa hóa, các công ty như Anthropic buộc phải tiến gần hơn đến điểm tiếp xúc người dùng và thu thập dữ liệu sử dụng thực tế để cải thiện mô hình. Việc Anthropic thay đổi chính sách, lưu giữ mọi dữ liệu người dùng Fable trong 30 ngày, cho thấy động lực này. Thứ ba là yêu sách quyền lực và "tường thuật an toàn": Bài viết chỉ ra rằng các hành động và chính sách của Anthropic (như ban đầu giảm hiệu suất mô hình với các yêu cầu phát triển LLM cạnh tranh) thường được biện minh bằng lý do an toàn, phù hợp với câu chuyện sáng lập của công ty. Sự nhất quán giữa sứ mệnh, con người và hoạt động kinh doanh này mang lại cho Anthropic lợi thế, nhưng cũng đáng lo ngại khi một công ty tin rằng chỉ họ mới đủ khả năng và đạo đức để kiểm soát AI mạnh mẽ, một công cụ có tiềm năng thay thế phần mềm và nắm giữ quyền lực to lớn. Tác giả so sánh sự nhất quán này với Apple, nhưng bày tỏ lo ngại về hậu quả khi những người tự cho mình biết rõ nhất nên làm gì cho nhân loại lại xây dựng một siêu trí tuệ tiềm năng.
marsbit3小时前




