Журнал — это ответ на вопрос «кто, что и за сколько». По каждой программе и каждому человеку видно, какие модели они вызывают, сколько это стоит и сколько занимает по времени. Журнал не заменяет разговоры с людьми, но избавляет от догадок: вместо «кажется, кто-то много тратит» вы открываете список и видите, кто именно.
Что записывается
- Время — когда запрос завершился.
- Модель — публичное имя, которое указала программа.
- Ключ — чей ключ доступа использовался.
- Канал связи — через что ушёл запрос, или пометка «напрямую».
- Объём в токенах — отправлено, получено и повторно использовано.
- Длительность — сколько миллисекунд занял ответ.
- Две стоимости — «наша» и та, что сообщил поставщик.
- Признак потокового ответа — приходил ответ целиком или по частям.
- Текст ошибки, если запрос не удался.
У каждого запроса есть и отдельная карточка с полным набором полей — включая подробности ошибки, которые в списке не показываются.
Чего в журнале нет
Важное и приятное: тексты запросов и ответов не сохраняются никогда. Продукт держит их в памяти ровно столько, сколько нужно, чтобы посчитать токены и достать ошибку, а в базу не пишет. Это значит, что ваша переписка с моделями не копится на сервере, и журнал нельзя «прочитать» — по нему видно только, что обращение было и сколько оно стоило.
Как искать
- Фильтры — по модели, ключу и каналу связи; значения подставляются из уже записанных строк.
- Показывать только ошибки — полезно, когда что-то перестало работать и хочется увидеть, у кого именно.
- Диапазон дат — от вчерашнего дня до произвольного периода.
- Сортировка — по времени, длительности, объёму токенов или имени модели; свежие записи идут сверху.
- Постраничный просмотр — по 50 строк на страницу, удобно листать большие периоды.
- Автообновление — список сам обновляется каждые 5 секунд, пока вкладка открыта и видна.
Сверху — плитки со сводкой: сколько всего запросов, сколько из них с ошибкой, средняя длительность и общий объём. Часть плиток следует за фильтрами, часть показывает цифры за всё время — это видно по подписям.
Прокси-служба — отдельный журнал
Обычный трафик — браузеры, служебные программы, боты, — который идёт через прокси для обычного трафика, пишется в свой журнал. В нём другие поля: протокол, адрес назначения, сколько байт ушло и пришло, длительность и ошибка.
Денег в этом журнале нет вообще: такой трафик считается в объёме, но не в стоимости и не влияет на пределы расхода. Поэтому «тяжёлый» обычный трафик не может исчерпать пределы ИИ-ключей.
Отсюда же — отдельная сводка: сколько соединений было за сегодня, сколько байт прошло и какие каналы связи использовались чаще всего.
Объёмы и сроки
Журнал растёт в вашей базе PostgreSQL и никуда не удаляется сам. Это хорошо для истории и плохо для дискового места: при большом потоке запросов база будет расти постоянно. Практический совет — делать резервные копии базы и время от времени смотреть на её размер; подробнее об этом в разделе Размещение и данные.
Дальше: как превратить журнал в цифры и графики — в разделе Аналитика.