Модели и цены

Модель в продукте — это запись о том, куда и как обращаться за ответами, и сколько стоит эта работа. Одной записью вы описываете и подключение к поставщику, и цену, по которой считаются расходы. Всё остальное — ключи доступа, журнал, аналитика — опирается на эту запись.

Что описывает модель

  • Публичное имя — то, которое программы указывают в запросе. Именно оно попадает в список моделей и в журнал.
  • Метка поставщика — свободный текст для порядка: «openai», «anthropic», «свой сервер». На работу не влияет, нужна для наглядности.
  • Базовый адрес — адрес поставщика, к которому уходит запрос.
  • Адрес запроса — необязательное уточнение, если у поставщика нестандартный путь.
  • Ключ поставщика и способ авторизации — чем подтверждается запрос на стороне поставщика.
  • Переключатель «активна» — выключенная модель остаётся в списке настроек, но программам не выдаётся и запросы к ней не проходят.

Цены за миллион токенов

У каждой модели четыре цены, все — за миллион «порций текста», то есть токенов. Токен — это небольшая часть текста: примерно слово или его обрывок. Именно токенами измеряется работа модели.

  • Ввод — за текст, который вы отправляете модели.
  • Вывод — за текст, который модель присылает в ответ. Сюда же относится скрытая работа «размышлений», если модель её ведёт.
  • Повторно использованный ввод — за ту часть отправленного текста, которую поставщик уже видел раньше и не пересчитывает заново. Обычно она дешевле обычного ввода.
  • Запись во временное хранилище — за подготовку текста к повторному использованию.

По этим ценам продукт считает стоимость каждого запроса, а по стоимости работают пределы расхода и аналитика. Если оставить все цены нулями, модель будет считаться бесплатной: запросы и токены в журнале появятся, а расход останется нулевым. Для честных цифр цены стоит заполнить по тарифам поставщика.

Отдельное подключение у каждой модели

Раньше подключение описывалось отдельной сущностью, общей на несколько моделей. Сейчас этого нет: у каждой модели своё подключение — свой адрес, свой ключ, свой способ авторизации. Так проще жить, когда модели живут у разных поставщиков: ничего не нужно согласовывать и переключать, каждая запись самодостаточна.

Если у модели должен быть свой постоянный канал связи — например, через ваш прокси, — его можно привязать к модели. Тогда запросы этой модели всегда идут через выбранный канал, без переключения на другой или на прямое соединение.

Клонирование

Если модель отличается от существующей только парой полей, её не нужно заводить с нуля — достаточно кнопки «Клонировать». Копия получит имя вида «имя copy», «имя copy 2» и так далее, унаследует подключение, ключ, цены, настройки и состояние активности, а вы поправите то, что нужно.

Проверка связи

Кнопка «Проверить» отправляет запрос по настоящему пути модели — через тот же канал связи, если он привязан, — и показывает результат: отвечает ли поставщик, сколько это заняло времени и какой код он вернул. Отдельно полезно знать: проверка всегда представляется поставщику обычным заголовком авторизации. Если поставщик по каким-то причинам его не принимает, проверка может не пройти, хотя реальные запросы будут работать.

Ключ показывается заглушкой

Ключ поставщика никогда не показывается целиком: в интерфейсе видна только заглушка вроде sk-1...cdef. Если открыть модель и сохранить её, ничего не меняя, ключ останется прежним — заглушка понимается как «оставьте как есть». Заменить ключ можно, только вписав новое значение целиком.

Удаление и ограничения

Модель нельзя удалить, если она — последняя разрешённая у какого-нибудь ключа. Иначе ключ, у которого был список разрешённых моделей, незаметно превратился бы в ключ без ограничений, а это небезопасно. Продукт сообщит, какие именно ключи мешают, и предложит сначала снять ограничение. Если модель разрешена среди нескольких, она удалится спокойно, а ключ останется ограниченным на оставшиеся.

То же правило действует и для каналов связи: канал не удалится, пока на него ссылается хотя бы одна модель.

Особые настройки DeepSeek

У моделей DeepSeek есть дополнительная настройка: что делать, когда в запросе нужны «размышления», а подходящей сохранённой записи не нашлось. Вариантов два — отказать с понятным текстом «Начните новый чат» или подставить фиксированную заглушку и продолжить. Первый честнее: вы сразу видите, что диалог придётся начать заново. Второй удобнее, если обрыв не критичен.

Дальше: как выходить в интернет через свой прокси, SOCKS5 или VPN — в разделе Каналы связи.

← Оглавление документации