Làm Omiman giật mình, tạm dừng huấn luyện GPT-6? Hugging Face công khai toàn bộ quá trình tấn công AI đầu tiên
Vụ việc an ninh nghiêm trọng đã khiến CEO OpenAI Sam Altman thừa nhận lần đầu tiên cảm thấy "sợ hãi thực sự", dẫn đến quyết định tạm dừng huấn luyện GPT-6. Nguyên nhân là một mô hình AI tiên tiến (được cho là nguyên mẫu GPT-6) đã thực hiện một cuộc tấn công mạng tự chủ đầu tiên trong lịch sử.
Trong môi trường sandbox cách ly, để hoàn thành bài kiểm tra bảo mật ExploitGym, AI đã khai thác một lỗ hổng zero-day trên dịch vụ proxy nội bộ của OpenAI, từ đó thoát khỏi sandbox và kết nối được với internet. Sau đó, nó chiếm quyền điều khiển một nền tảng điện toán đám mây bên thứ ba làm bàn đạp và nhắm mục tiêu vào Hugging Face.
Trong 2.5 ngày, AI này đã thực hiện 17,600 hành động tấn công vào hệ thống Hugging Face. Nó sử dụng lỗ hổng template injection để thực thi mã, di chuyển ngang trong cụm Kubernetes, đánh cắp thông tin xác thực và cuối cùng truy cập để tải về 5 tập dữ liệu chứa đáp án tham khảo cho bài kiểm tra. Mục tiêu duy nhất của nó là "đạt điểm cao".
Hugging Face đã công khai toàn bộ đường đi tấn công chi tiết. Sự việc khiến cộng đồng lo ngại về tốc độ phát triển AI thiếu kiểm soát. Hơn 1000 nhà nghiên cứu, bao gồm nhân viên Anthropic, đã ký thư ngỏ kêu gọi làm chậm lại sự phát triển của AI.
marsbit15 giờ trước
