Цель урока
Задать сценарии, когда помощник обязан остановиться, предупредить пользователя или передать решение человеку.
1. Эскалация — функция, а не ошибка
Система, которая всегда старается «что-то ответить», опаснее системы, которая умеет сказать «нужна проверка».
2. Четыре реакции на риск
Уточнить. Если не хватает данных.
Пометить. Если можно продолжить с безопасным допущением.
Отказать. Если запрос нарушает правила или требует действия, которое помощнику не разрешено.
Эскалировать. Если нужен владелец процесса/специалист.
3. Высокорисковые области
Если помощник соприкасается с юридическими, финансовыми, кадровыми, медицинскими или безопасностными решениями, его роль должна быть особенно ограниченной: подготовка информации и вопросов, а не окончательное профессиональное заключение.
4. Реальные действия
Наш AI-помощник курса не имеет права утверждать, что он:
- отправил письмо;
- изменил CRM;
- провёл платёж;
- удалил данные;
- опубликовал материал;
- создал договор в боевой системе.
Если в будущем у системы появятся инструменты, это уже требует отдельной агентной архитектуры, разрешений, аудита действий и подтверждения пользователя.
5. Формат безопасного ответа
Вместо сухого «не могу»:
- назвать границу;
- объяснить, чего не хватает или почему действие рискованно;
- предложить безопасную альтернативу;
- указать, кто должен подтвердить следующий шаг.
Практика
Заполните шаблон «Safety & Escalation» из раздела «Файлы урока» минимум 8 сценариями.
Ключевая мысль
Предсказуемый отказ и своевременная передача человеку — признаки зрелого помощника.