Hướng dẫn Thực hành Bảo mật Người dùng Nanobot: Phòng tuyến Cuối cùng để Bảo vệ Quyền AI
Hướng dẫn Thực hành Bảo mật cho Người dùng Nanobot: Phòng tuyến Cuối cùng để Bảo vệ Quyền AI
Khi một AI Agent có khả năng thực thi shell, đọc/ghi file, gửi request mạng và chạy tác vụ định kỳ, nó không còn chỉ là một chatbot mà trở thành một tác nhân có quyền lực thực sự. Điêu này mang lại rủi ro như xóa dữ liệu quan trọng, rò rỉ thông tin, hoặc tổn thất không thể đảo ngược.
Hướng dẫn này đề xuất một cách tiếp cận cân bằng, phân chia trách nhiệm bảo mật cho ba đối tượng:
- **Người dùng thông thường:** Là tuyến phòng thủ cuối cùng, chịu trách nhiệm ra quyết định quan trọng và xem xét định kỳ.
- **Bản thân Agent:** Tuân thủ các quy tắc ứng xử và quy trình kiểm tra trong thời gian chạy.
- **Script xác định:** Thực thi kiểm tra một cách cơ học, không bị ảnh hưởng bởi prompt injection.
Các biện pháp chính cho người dùng bao gồm:
- Quản lý API Key cẩn thận, không commit key vào kho code.
- Thiết lập danh sách cho phép (allowFrom) cho các kênh (Channel) để kiểm soát truy cập.
- Chạy Agent với quyền user thông thường, không dùng quyền root.
- Hạn chế sử dụng kênh email do rủi ro cao.
- Triển khai trong Docker để cách ly môi trường.
Công cụ bảo mật cung cấp các kỹ năng (Skills) và script để:
- Kiểm tra ý định và chặn các lệnh độc hại (shell, cron).
- Ngăn chặn đánh cắp dữ liệu nhạy cảm bằng cách kiểm tra quyền truy cập file.
- Kiểm tra bảo mật cho các kỹ năng MCP và kỹ năng mới tải về.
- Kiểm tra hash để phát hiện giả mạo.
- Tạo snapshot sao lưu tự động để khôi phục thảm họa.
Hướng dẫn này là các khuyến nghị thực hành tốt nhất, không phải là đảm bảo an toàn tuyệt đối. Người dùng cần tự đánh giá rủi ro và chịu trách nhiệm cho việc triển khai và cấu hình của mình.
marsbit03/11 10:19
