Руководство по безопасности пользователей Nanobot: последний рубеж защиты прав ИИ
Автор: BitsLab, компания по безопасности ИИ.
Когда AI Agent получает системные возможности (выполнение команд shell, чтение/запись файлов, сетевые запросы и т.д.), он становится оператором с реальными правами. Это создаёт риски: injection-атаки через prompt могут удалить данные, зараженные Skills могут украсть учетные данные, а неверифицированные операции — нанести необратимый ущерб.
Традиционные подходы либо полагаются на ИИ (что уязвимо к обходам), либо блокируют Agent жёсткими правилами (теряя его пользу). BitsLab предлагает третий путь, распределяя обязанности между:
- **Пользователем** (конечный рубеж, ключевые решения);
- **Агентом** (соблюдение норм и аудит через Skills);
- **Детерминированными скриптами** (проверки, устойчивые к injection).
**Рекомендации для пользователей:**
- Защищайте API Keys (не храните в репозиториях).
- Настройте белые списки (allowFrom) для Channel.
- Запускайте Agent без прав root.
- Избегайте email-каналов (высокий риск).
- Используйте Docker для изоляции.
**Принципы инструментов безопасности:**
- Аудит намерений через «самостоятельное пробуждение» ИИ.
- Блокировка вредоносных команд (shell, cron).
- Защита конфиденциальных данных (чтение файлов).
- Аудит MCP-навыков и автоматическая проверка новых Skills.
- Контроль целостности файлов через хэши.
- Автоматическое резервное копирование.
**Отказ от ответственности:**
Руководство — это рекомендации, а не гарантия безопасности. Пользователи несут ответственность за риски, а меры не заменяют профессиональный аудит.
marsbit03/11 10:18
