Цель урока
Закрыть типичные риски агентных систем до подключения реальных write-инструментов.
1. Least privilege
Agent получает только те операции и данные, которые нужны текущему сценарию. Не давайте broad admin access «для удобства».
2. Human approval
Разделите действия:
- auto-read — разрешённое чтение;
- auto-draft — подготовка черновика;
- approval-required — создание/изменение внешнего объекта;
- forbidden — действия, которых у агента вообще нет.
3. Idempotency
Если один и тот же run повторился из-за retry, система не должна создать два одинаковых объекта. Для write-action нужен уникальный ключ операции и проверка «уже выполнено?». Даже если в бесплатном курсе write-tool mock, это правило проектируется заранее.
4. Secrets
Agent не должен получать raw API key в prompt. Секрет хранится в инфраструктуре, а модель вызывает узкий tool.
5. Лимиты
Задайте:
- max steps;
- max tool calls;
- timeout;
- retry count;
- cost/token budget при необходимости;
- rate limits.
Практика
Заполните Human Approval Matrix и Guardrail Checklist.
Ключевая мысль
Безопасность агента начинается не с промпта, а с архитектуры permissions и tools.