Как задать границы ИИ-агенту до первого действия: практический гайд

Агент отличается от обычного чата тем, что получает право не только предложить текст, но и искать, вызывать инструменты, менять запись или отправлять сообщение. Самый опасный момент здесь не выбор модели, а неясное поручение. Фраза «разберись с заявками» скрывает десятки решений, которые раньше принимал сотрудник. До подключения инструментов их нужно вынести на бумагу.

Выберите один обратимый маршрут

Не начинайте с продаж, платежей или массовых писем. Хорошая первая задача заканчивается черновиком, подборкой или заявкой на подтверждение: например, агент собирает обращения с одинаковым вопросом и готовит ответы со ссылкой на внутреннее правило. Если он ошибётся, человек исправит результат до внешнего действия. Так команда проверяет реальную пользу, а не демонстрацию.

Назовите владельца и результат

У каждой задачи должен быть владелец, который может объяснить, что считается хорошим исходом. Зафиксируйте входные данные, доступные инструменты, запрещённые шаги, дедлайн и форму ответа. Вместо «найди лучший вариант» напишите критерии: бюджет, допустимый срок, обязательные поля, случаи для эскалации. Чем точнее язык процесса, тем меньше модель заполняет пробелы предположениями.

Разделите чтение, предложение и действие

Первый уровень — прочитать разрешённые источники. Второй — собрать варианты и назвать основания. Третий — подготовить действие для согласования. Автоматическое действие появляется только после того, как первые три уровня стабильно проходят тест. Такой разрыв особенно важен для документов и таблиц: модель может видеть контекст, но не должна незаметно переписывать первичный источник. Для проверки фактов пригодится гайд о контроле ответов.

Опишите стоп-сигналы

Агент обязан остановиться, если не хватает обязательного поля, источник противоречит другому, задача выходит за лимит или пользователь просит действие без понятного владельца. Стоп-сигнал — не ошибка интерфейса. Это правильный результат. Добавьте короткий текст, который увидит сотрудник: чего не хватает, что уже проверено и кому передать вопрос. Тогда эскалация не превращается в тупик.

Соберите контрольный набор

Возьмите десять реальных, обезличенных случаев: обычный, неполный, конфликтный, устаревший и намеренно некорректный. Прогоните их одинаково после каждой смены модели, инструмента или инструкции. Отмечайте не только верность ответа, но и то, показал ли агент основание, не раскрыл ли лишнее и вовремя ли остановился. Подход похож на сравнение встроенной оценки и внешнего аудита: один успешный прогон ничего не доказывает.

Настройте доступ по необходимости

Давайте ровно те папки, поля и действия, которые нужны в сценарии. Если агенту требуется ответить на вопрос о доставке, ему не нужен доступ к финансовой сводке. Журналируйте вызовы инструментов и храните версию инструкции рядом с результатом. Это помогает не только безопасности: при спорном ответе команда быстрее находит, где возникла ошибка — во входе, праве доступа или рассуждении.

Проведите пилот с человеком в контуре

Первые недели сотрудник подтверждает каждое внешнее действие и оставляет пометку: принято, исправлено, отклонено или отправлено на уточнение. По этим отметкам видно, где поручение слишком широкое. Не маскируйте ошибки новыми правилами в чате: меняйте инструкцию, тест и доступы вместе. Если качество не растёт, сузьте задачу, а не добавляйте агенту ещё инструментов.

Сценарий на первую неделю

В первый день агент работает только с тестовыми данными и возвращает черновик. Во второй день владелец проверяет несколько обычных и конфликтных задач. На третий команда фиксирует повторяющиеся правки в инструкции. Затем включается реальный, но обратимый поток: подборка вариантов или подготовка карточек без отправки. В конце недели сравните время, качество и количество эскалаций с ручным маршрутом.

Если агент просит помощи чаще, чем сотрудник ожидал, не считайте это автоматически неудачей. Возможно, он честно обнаружил пробел в документах. Проверьте, полезны ли вопросы и повторяется ли причина. Хороший пилот завершится не самым длинным списком автоматизаций, а одним сценарием, про который команда знает границы и может объяснить их новому коллеге.

Передайте сценарий следующему сотруднику

До расширения попросите коллегу, который не участвовал в настройке, выполнить один тестовый случай по инструкции. Он должен понять, где лежат источники, какое действие разрешено и куда уходит конфликт. Если для этого нужен автор сценария, правила ещё слишком зависят от его памяти. Исправьте карточку задачи, а не добавляйте длинные пояснения в промпт: новая инструкция должна оставаться короткой и проверяемой.

FAQ

Можно ли сразу дать агенту доступ к почте? Только в режиме черновиков, пока тестовый набор не показывает стабильный результат. Кто отвечает за действие агента? Владелец процесса, который утвердил правила и имеет право остановить сценарий. Что делать при конфликте источников? Не выбирать наугад: показать конфликт человеку и запросить актуальный документ.