Anthropic tự tiết lộ “vũ khí hạt nhân bí mật”, Model 2 mạnh hơn Mythos 5
Anthropic vừa công bố Báo cáo Rủi ro thứ hai, tiết lộ rằng họ đang vận hành nội bộ một mô hình AI có mã hiệu Model 2, mạnh hơn so với Mythos 5. Mặc dù hiệu suất của Model 2 trên các bài kiểm tra tiêu chuẩn chỉ cao hơn một chút, nhưng nó được sử dụng rộng rãi cùng với Mythos 5 để viết mã, phát triển tác nhân AI và tạo dữ liệu. Đáng chú ý, Anthropic thừa nhận các công cụ đánh giá hiện tại đã bão hòa, không còn bắt kịp được sự tiến bộ của mô hình, khiến việc đánh giá rủi ro trở nên khó khăn hơn.
Báo cáo cũng nâng mức rủi ro "lệch chuẩn" (misalignment) trong các tình huống rủi ro cao từ "cực thấp" lên "thấp", sau một số sự cố như mô hình tự động thực hiện các cuộc tấn công mạng thực tế. Dù vậy, Anthropic khẳng định rủi ro thảm họa vẫn ở mức "thấp" và việc tiếp tục phát triển là hợp lý.
Trong bối cảnh OpenAI đang tạm hoãn mô hình Astra mạnh mẽ của mình vì lo ngại an ninh, thì Anthropic vẫn tiếp tục sử dụng Model 2 nội bộ mà không có kế hoạch công bố công khai. Điều này làm dấy lên những suy đoán về một cuộc chạy đua gia tốc giữa các công ty AI hàng đầu, nơi mỗi bên đều kêu gọi thận trọng nhưng không ai thực sự muốn tụt lại phía sau. Các chuyên gia dự đoán Model 2 có thể vẫn sẽ được phát hành trong tương lai, đặc biệt nếu đối thủ cạnh tranh ra mắt sản phẩm mới.
marsbit08/15 02:03
