Тот же сервер умеет работать и обычным прокси — для браузеров, служебных программ, ботов и всего, что к ИИ отношения не имеет. Это удобно, когда нужен один выход в интернет с понятным учётом: видно, кто подключался и сколько трафика прошло. В интерфейсе эта возможность называется «Прокси-служба».
Что именно предлагается
Прокси-служба понимает два привычных способа подключения на одном и том же порту: HTTP-прокси и SOCKS5. Программа сама выбирает способ по своим настройкам — вам не нужно заводить два порта. Подходит для браузеров, менеджеров загрузок, любых программ, которые умеют работать через прокси.
Включение
По умолчанию прокси-служба выключена — ничего не слушает и никуда не пускает. Включается она переключателем в настройках; там же задаётся порт. Изменения применяются в течение примерно 15 секунд, без перезапуска: смена порта или условий входа просто переносится на новые соединения. Уже открытые соединения продолжают работать до своего конца.
Если порт занят другой программой, служба не запустится и будет пытаться снова при следующей проверке. Само приложение при этом продолжает работать — ничего не падает.
Порт и публикация
Порт по умолчанию — 5001. В отличие от основного адреса приложения, он не подчиняется подпапке и публикуется отдельно. Практический совет: не открывайте его наружу, если он не нужен. Если прокси-служба используется только внутри вашей сети, публиковать порт наружу не следует вовсе — тогда снаружи до него просто не добраться.
Вход по ключу доступа
По умолчанию подключиться может только владелец ключа доступа, и ключ здесь тот же, что и для моделей. В HTTP-прокси это обычная авторизация: логин любой, пароль — ваш ключ. В SOCKS5 проверка идёт по тому же ключу.
Проверку можно отключить — тогда порт открыт любому, кто до него дотянется. Продукт предупреждает об этом прямо в настройках. Такой режим допустим только во внутренней сети; наружу его лучше не выставлять.
Ограничения
- До 256 одновременных соединений. Лишние подключения закрываются сразу, без ответа — это защита от перегрузки.
- 30 секунд на установку соединения. Если за это время соединение не установлено, оно закрывается.
- После установки время не ограничено — соединение живёт, пока есть чем обмениваться.
Каналы связи
Обычный трафик выходит через те же каналы связи, что и запросы к моделям: они пробуются по убыванию приоритета, и при неудаче берётся следующий. Если каналов нет, трафик идёт напрямую.
Ключ с ограниченным списком каналов никогда не выходит напрямую: если ни один разрешённый канал не работает, соединение просто не устанавливается. Это та же логика, что и с моделями, — ограничение означает ограничение.
Журнал
Каждое соединение попадает в отдельный журнал прокси-службы: время, ключ, канал связи, протокол, адрес назначения, сколько байт ушло и пришло, длительность и ошибка, если была. Там же — статистика за сегодня и список каналов, через которые прошло больше всего трафика. Фильтровать можно по ключу, каналу, протоколу и ошибкам.
Деньги
Обычный трафик считается в объёме, но никогда не считается в деньгах и не влияет на пределы расхода. Даже если через прокси-службу пройдут гигабайты, ИИ-ключ не заблокируется — это разные вещи, и смешивать их не нужно.
Дальше: что вообще настраивается в интерфейсе — в разделе Настройки.