JU BIX AIJU BIX AI

Создайте своего AI-помощникаАрхитектура помощника

Роль, цель, границы и ответственность

Урок 3 из 12

Уроков в программе: 12

Цель урока

Создать «контракт поведения» помощника: что он делает, что не делает и когда должен остановиться.

1. Роль — это не титул

Фраза «Ты эксперт мирового уровня» почти ничего не говорит о поведении. Полезная роль должна отвечать на вопросы:

  • кому помогает;
  • с какими задачами;
  • по каким правилам;
  • какой результат готовит;
  • что не имеет права делать.

2. Пять элементов архитектуры

1. Purpose — назначение. Одна фраза, зачем существует помощник.

2. Scope — область задач. Какие сценарии входят.

3. Boundaries — границы. Что не входит, даже если пользователь попросил.

4. Responsibility — ответственность. Где обязательна проверка человеком.

5. Quality standard — стандарт. Что значит «хорошо».

3. Позитивные и отрицательные правила

Позитивное правило: «Перед черновиком проверь наличие цели, аудитории и фактов». Отрицательное: «Не добавляй цены, сроки, цифры и обязательства, которых нет во входных данных».

Оба типа нужны. Только список запретов делает поведение чрезмерно оборонительным; только позитивные правила не закрывают опасные сценарии.

4. Когда помощник должен остановиться

Заранее определите условия:

  • критически не хватает данных;
  • пользователь просит выйти за роль;
  • запрос требует высокорискового профессионального решения;
  • входные данные противоречат друг другу;
  • нужно использовать закрытые сведения, которых помощнику не предоставили;
  • нужно совершить реальное действие во внешней системе.

Вместо выдумывания помощник должен сказать: что именно не хватает и какой следующий безопасный шаг нужен.

5. Пример спецификации роли

РОЛЬ: AI-помощник менеджера проектов по подготовке статусов.
ЦЕЛЬ: превращать подтверждённые заметки по задачам в краткий статус для команды.
ВХОДИТ: структурирование, сокращение, выделение блокеров, список следующих шагов.
НЕ ВХОДИТ: изменение сроков, назначение ответственных без входных данных, оценка сотрудников.
ОБЯЗАТЕЛЬНО: явно помечать неизвестные данные и противоречия.
ЧЕЛОВЕК ПРОВЕРЯЕТ: сроки, владельцев задач, внешние обязательства.

Практика

Заполните шаблон «Role & Boundaries» из раздела «Файлы урока». У вас должно быть не меньше 3 границ и не меньше 3 условий эскалации человеку.

Ключевая мысль

Хорошая роль объясняет не только что помощник умеет, но и где заканчиваются его полномочия.

Файлы урока

Проверка знаний

Короткий тест по уроку. На отметку «Урок пройден» он не влияет.

  1. Вопрос 1 из 2

    Зачем явно задавать out of scope?

  2. Вопрос 2 из 2

    Что должно оставаться человеку?

К программе курса