Anthropic cảnh báo về sự xuất hiện của AGI: Vì nhân loại hay vì IPO?
Anthropic đã xuất bản một bài viết có tiêu đề "When AI builds itself" (Khi AI tự xây dựng chính mình), thảo luận về khái niệm "cải tiến đệ quy" (recursive self-improvement) - khi AI bắt đầu tham gia vào thiết kế, đào tạo và tối ưu hóa các phiên bản kế tiếp của chính nó. Công ty chia sẻ dữ liệu nội bộ cho thấy Claude, AI của họ, hiện viết hơn 80% mã code được tích hợp, xử lý các nhiệm vụ mở với tỷ lệ thành công 76% và tham gia vào cả quy trình nghiên cứu, trong một trường hợp đạt kết quả vượt trội so với con người.
Anthropic cảnh báo về rủi ro tiềm ẩn khi AI có thể tự cải tiến nhanh chóng, kêu gọi thế giới xem xét làm chậm hoặc tạm dừng phát triển AI tiên tiến để xã hội và nghiên cứu an toàn có thể bắt kịp. Tuy nhiên, thông điệp này được đưa ra trong bối cảnh Anthropic đang chuẩn bị IPO, làm dấy lên câu hỏi về động cơ thực sự. Bài viết có thể được xem như một cách xây dựng câu chuyện cho thị trường vốn, nhấn mạnh lợi thế cạnh tranh độc đáo của Anthropic: Claude không chỉ là sản phẩm mà còn là công cụ sản xuất then chốt, tạo ra một "bánh đà" phát triển tự thúc đẩy.
Điều này tạo sự tương phản với OpenAI, công ty gần đây cũng đề cập đến dấu hiệu ban đầu của "cải tiến đệ quy" nhưng trong một báo cáo tập trung vào quản trị và chính sách. Bài viết của Anthropic, vì vậy, vừa là một lời cảnh báo an toàn, vừa là một tuyên bố chiến lược định vị họ ở vị trí tiên phong trong cuộc đua AI.
marsbit06/05 07:09
