ИИ в Чат-бот агенте — это обращение к внешней модели. Здесь настраивается, к какому сервису обращаться, какая модель отвечает по умолчанию, какие заготовки текста используются и сколько всё это стоит.
Провайдеры
Подключить можно любой сервис, совместимый с OpenAI, — то есть большинство современных сервисов ИИ. Указываются адрес сервиса, список моделей с ценами и ключи доступа. Ключи хранятся на сервере и в интерфейсе всегда показаны в скрытом виде: видно только намёк, что ключ задан. Если сохранить уже скрытое значение, ключ не изменится — так его нельзя случайно стереть.
Выбор модели
Модель выбирается по цепочке: сначала смотрит конкретный узел сценария, если там ничего не задано — настройка бота, если и её нет — общий выбор платформы. Так один бот может отвечать дешёвой моделью, а для сложного случая использовать модель посильнее. Можно задать и запасные модели: если первая не ответила, отвечает следующая, а в следе шага сохраняется, кто именно отвечал.
Промпты в одном месте
Промпты — это готовые заготовки текста-задания для ИИ. Они хранятся в одном месте, и на них могут ссылаться узлы разных ботов. Правите текст один раз — меняется поведение всех ботов, которые на него ссылаются. Имя заготовки изменить нельзя: чтобы переименовать, удалите старую и создайте новую. Так ссылки никогда не «поедут».
Проверка связи
У модели есть кнопка проверки: приложение делает настоящий запрос и показывает результат и время ответа. Полезно сразу после настройки — убедиться, что ключ верный и сервис отвечает.
Учёт расхода
Каждое обращение к ИИ записывается: какой бот, какая модель, сколько токенов ушло и пришло, сколько это стоит, сколько заняло времени и всё ли прошло успешно. Токен — это условная единица длины текста, по которой сервисы ИИ считают плату. Отчёт показывает расход за период с разбивкой по ботам и моделям, так что видно, куда уходят деньги.
Правила для бота
Ограничения — это набор указаний про тон, запреты и рамки разговора. Они добавляются к каждому обращению бота к ИИ, поэтому единый стиль общения сохраняется у всех узлов сразу. Например: «Никогда не выдумывай цены — говори только то, что есть в прайсе» или «Не обещай сроков, которых нет в документах».
Дальше: как отвечать по вашим документам — в разделе База знаний, как использовать ИИ в сценарии — в разделе Узлы сценария, а цифры по расходу — в разделе Аналитика и журналы.