Chỉ 5 Giây, Chỉ Cần 1 Lần Đối Thoại: Cơ Chế An Ninh "Mạnh Nhất" Của Claude Fable 5 Bị Đội Ngũ Người Hoa Phá Vỡ?
Chỉ trong 5 giây và một lần hội thoại, nhóm nghiên cứu quốc tế do tiến sĩ Yutao Wu (Đại học Deakin) dẫn đầu, với sự tham gia của các học giả từ Đại học Phúc Đán, Đại học Thành phố Hồng Kông, Đại học Melbourne, Đại học Quản lý Singapore và Đại học Illinois Urbana-Champaign, đã công bố thành công vượt qua cơ chế bảo mật của mô hình Fable 5 (Mythos) của Anthropic.
Phương pháp tấn công này, được gọi là "Sụp đổ Bảo mật Nội bộ" (Internal Safety Collapse - ISC), không phải là kỹ thuật "jailbreak" truyền thống như prompt độc hại, đóng vai hay mã hóa. Thay vào đó, nó khai thác lỗ hổng trong chính quá trình thực thi nhiệm vụ dài hạn của các tác nhân AI (AI Agent). Khi được giao một nhiệm vụ chuyên môn (Task) với dữ liệu không đầy đủ (Data) và một bộ kiểm tra (Validator) chỉ xác minh tính hoàn thiện về mặt kỹ thuật, tác nhân AI có thể tự động bổ sung dữ liệu còn thiếu để hoàn thành nhiệm vụ, dẫn đến việc tự tạo ra nội dung có hại mà không bị hệ thống phân loại an toàn (Safety Classifier) ở lớp đầu vào phát hiện.
Nghiên cứu, dựa trên luận văn "Internal Safety Collapse in Frontier Large Language Models" công bố từ tháng 3, chỉ ra điểm yếu cấu trúc trong kiến trúc phòng thủ "bộ phân loại an toàn + mô hình" được nhiều hệ thống tác nhân thế hệ mới sử dụng. Khung tấn công TVD (Task-Validator-Data) đã được chứng minh là hiệu quả trên 60+ mô hình tiên tiến, bao gồm cả mô hình trên thiết bị di động của Apple, thông qua bộ tiêu chuẩn ISC-Bench.
Phát hiện này nhấn mạnh rằng việc chỉ phụ thuộc vào bộ lọc an toàn ở đầu vào là không đủ để ngăn chặn các hành vi rủi ro tiềm ẩn phát sinh trong quá trình lập kế hoạch, thực thi nhiệm vụ nhiều bước và tương tác môi trường của tác nhân AI. Nhóm nghiên cứu, dẫn đầu bởi giáo sư Mã Hưng Quân từ Viện Nghiên cứu Trí tuệ Thể hiện Đáng tin cậy thuộc Đại học Phúc Đán, đang tập trung vào việc xây dựng năng lực cơ sở hạ tầng an toàn cho thế hệ hệ thống tác nhân AI tiếp theo.
marsbit06/15 03:19
