Аналитика — это тот же журнал, только собранный в цифры и графики. Журнал отвечает на вопрос «что случилось с этим конкретным запросом», аналитика — на вопросы «сколько мы тратим», «когда пик нагрузки» и «какая модель подводит чаще остальных». Здесь удобно искать узкие места и разговаривать с руководством на языке цифр, а не впечатлений.
Диапазоны и детализация
Период выбирается готовым набором или вручную: сегодня, вчера, 7, 14, 30, 90 или 365 дней, всё время или произвольные даты. Внутри периода точки на графиках можно сгруппировать по часам, дням, неделям или месяцам. Недели начинаются с воскресенья — это стоит помнить, когда сравниваете недельные итоги с отчётами других систем.
Пустые промежутки на графиках не дорисовываются нулями: если в среду запросов не было, точки за среду просто нет. Так график не выглядит «провалом», которого на самом деле не было.
Что показывает аналитика
- Объём запросов — сколько всего, сколько из них потоковых и сколько с ошибкой.
- Задержка — среднее время ответа, середина списка (медиана) и «медленный край»: 95-й процентиль, то есть время, быстрее которого уложились 95 запросов из 100. Именно он показывает, насколько плохо бывает в худших случаях, — среднее это скрывает.
- Разбивки по моделям, ключам и каналам связи — кто и чем пользуется чаще, кто медленнее, у кого больше ошибок.
- Распределения по длительности и объёму — сколько запросов уложилось в 100 миллисекунд, сколько тянулось дольше 10 секунд.
- Расходы во времени — «наша» цена и цена поставщика рядом, чтобы видеть расхождения.
Рядом с итогами есть сравнение с предыдущим периодом той же длины: сразу видно, стало больше или меньше, а не приходится держать в голове прошлые цифры.
Часы пик и разбор ошибок
Отдельный график показывает, в какие часы суток приходит больше всего запросов. По нему видно, когда нагрузка максимальна и когда безопаснее запускать тяжёлые задачи — например, массовую обработку документов ночью, а не в рабочий полдень.
Разбор ошибок отвечает на вопросы «сколько их», «у каких моделей и ключей» и «какие это коды». Рядом — список последних ошибок с текстом сообщения, чтобы не ходить за этим в журнал по одной строке.
Важно понимать: в объём запросов попадают и отклонённые обращения — те, что не прошли из-за предела расхода или списка моделей. Так и должно быть: иначе вы бы не увидели, что кто-то упирается в предел каждый день.
Расходы
В аналитике расходы видны в деньгах и во времени: где дороже модель, где больше всего тратит ключ, как это меняется от недели к неделе. Полезно сравнивать «нашу» цену с ценой поставщика: заметное расхождение обычно означает, что цены модели в разделе «Модели» пора обновить.
Сводка на главной
На странице «Главная» собраны плитки с самыми нужными цифрами за всё время: сколько моделей и ключей, сколько запросов, доля ошибок, средняя длительность, объём токенов, общий расход и трафик прокси-службы за сегодня. Этого обычно достаточно для быстрого взгляда «как дела», а за деталями стоит идти в аналитику.
Отправка статистики в ClickHouse
Если у вас уже есть ClickHouse, продукт может каждый день отсылать туда копию статистики — удобно, когда все отчёты компании собираются в одном месте. Возможность включается переменной окружения PROXYAGENT_CLICKHOUSE_URL, которая читается один раз при запуске.
Когда ClickHouse подключён, в аналитике появляется кнопка «Восстановить статистику ClickHouse»: она сравнивает вашу базу и ClickHouse и досылает пропущенные дни. Кнопки нет, если ClickHouse не настроен, — и это нормально.
Честная оговорка
Вся аналитика считается по вашему журналу в вашей же базе. Значит, у неё ровно та же полнота, что и у журнала: если запись не сохранилась, её не будет и в цифрах. Внешних источников у аналитики нет — для сторонних отчётов придётся опираться на свою базу. Отсюда и практический вывод: держите базу в порядке и делайте резервные копии.
Дальше: как убрать секреты из запросов до отправки в модель — в разделе Скрытие секретов.