Данные для Analytics Agent

Data Agent служит источником данных для Analytics Agent. Вместе они образуют конвейер «собрал → подготовил → показал»: Data Agent регулярно собирает данные и приводит их к единому виду, а Analytics Agent строит на них отчёты, графики и панели. Каждый продукт делает своё, и оба работают на вашем сервере.

Как это устроено

Скрипты Data Agent выгружают данные в Parquet — это исходные данные, источник правды. Затем скрипт load.py собирает их в единую базу SQLite — именно эту базу использует Analytics Agent для визуализации. Parquet при этом остаётся рядом: по нему всегда можно проверить целостность данных, не трогая базу.

Чтение отделено от записи

Analytics Agent работает с данными Data Agent только по чтению: строит отчёты, графики и панели по готовым базам, а запросы к ним ничего не меняют — данные можно смотреть, но не испортить. Ни базу, ни исходные файлы аналитик напрямую не правит.

Когда отчёт нужно добавить, исправить или расширить — например, в отчёте не хватает колонки или нужен еженедельный пересчёт, — Analytics Agent не трогает файлы сам, а передаёт работу Data Agent через его защищённое API (доступ по ключу, каждый вызов проверяется). По этому API он кладёт или заменяет скрипт, запускает его, обновляет данные и при необходимости ставит расписание — Data Agent проверяет и выполняет всё сам. Так что свежие данные появляются, а порядок в хранилище не нарушается.

Что нужно сделать

  1. Попросите агента в чате собрать нужные данные — он создаст источник, скрипты и запустит их.
  2. После запуска load.py база появится в Lakehouse, а источник зарегистрируется автоматически (как — на странице Источники данных).
  3. В Analytics Agent подключите этот источник — раздел «Источники данных» в его документации — и стройте отчёты и графики.

Пример: демо-конвейер

В Data Agent есть демонстрационный конвейер — симулятор данных рынка Forex: папка forex-simulator/api со скриптами extract.py и load.py. После запуска в Lakehouse появляется база forex-simulator_api.sqlite — готовый пример того, что получит Analytics Agent: источники, схемы, таблицы.

Правила согласованности

  • Parquet — всегда источник правды: исходные данные не пересобираются;
  • SQLite — производная база: пересобирается каждый запуск, поэтому всегда соответствует последним исходным данным;
  • README рядом с базой описывает её: откуда данные, какая структура, какие поля — Analytics Agent и человек понимают данные одинаково;
  • данные меняет только Data Agent: Analytics Agent читает готовые базы, а любые добавления и исправления передаёт через его защищённое API, где каждый вызов проверяется.

Такой же связкой работают и шаблоны анализа в Analytics Agent (библиотека из 257 готовых решений: прогнозы, сегменты, скоринг, аномалии): агент адаптирует их скрипты под ваши данные и запускает их на Data Agent по его API. Подробнее — в разделе Шаблоны анализа.

Подробнее о возможностях Analytics Agent — на странице Аналитический агент.

Читайте также: Lakehouse, Источники данных.

← Оглавление документации