Tiêu đề 'AI xâm nhập NSA trong vài giờ' gây bão, sự thật lại là một cuộc diễn tập đội đỏ?
Một câu nói lan truyền trên mạng xã hội rằng "Mythos (mô hình AI mạnh nhất của Anthropic) đã xâm nhập hầu hết hệ thống mật của NSA chỉ trong vài giờ" đã gây chấn động. Tuy nhiên, thông tin này đã được làm rõ.
Câu nói bắt nguồn từ một bài báo trên The Economist, trích dẫn lời của Thượng nghị sĩ Mark Warner, người nghe lại từ Giám đốc NSA Joshua Rudd. Chính tác giả bài báo, Shashank Joshi, sau đó đã lên tiếng điều chỉnh. Ông giải thích rằng sự kiện này diễn ra trong "điều kiện rất cụ thể", với sự kết hợp của các công cụ khác, và bối cảnh thực sự là một **cuộc tập trận "đội đỏ" (red teaming) được ủy quyền**.
Điều này có nghĩa là NSA đã chủ động sử dụng Mythos để kiểm tra, quét lỗ hổng trong một môi trường mô phỏng hoặc bản sao hệ thống mật của chính mình, chứ không phải một cuộc tấn công thực sự từ bên ngoài. Dù vậy, khả năng mô hình AI này có thể nhanh chóng phát hiện chuỗi lỗ hổng trong một hệ thống phức tạp như vậy vẫn là một tín hiệu đáng báo động về sức mạnh của nó.
Bài viết cũng đề cập đến thái độ mâu thuẫn của chính phủ Mỹ đối với Anthropic và Mythos. Một mặt, họ đã ra lệnh cấm xuất khẩu mô hình này vào tháng 6 vì lo ngại an ninh. Mặt khác, các cơ quan như NSA vẫn được cho là đang sử dụng phiên bản xem trước của Mythos để tăng cường phòng thủ mạng. Điều này cho thấy sự phụ thuộc tiềm tàng vào công nghệ AI tiên tiến, ngay cả khi nhận thức được những rủi ro đi kèm.
marsbit06/23 00:56
