# Higress

> ИИ-шлюз с открытым исходным кодом для маршрутизации, защиты и наблюдения за трафиком к API больших языковых моделей, MCP-серверам и инференс-нагрузкам.

Higress — ИИ-шлюз с открытым исходным кодом, проект уровня CNCF Sandbox, который стоит между приложениями и большими языковыми моделями. Higress даёт единый интерфейс вызова для многих провайдеров моделей и добавляет резервное переключение, фильтрацию контента, кеширование и квоты на токены. Разработчики разворачивают Higress локально через Docker или пользуются управляемой облачной версией в Alibaba Cloud.

**Best for:** Инженерным командам, которые обращаются к нескольким провайдерам моделей или публикуют MCP-инструменты и нуждаются в централизованной маршрутизации, квотах и защите.

- Official site: https://higress.ai/en
- Listed in: [API для разработчиков](https://trendhub.net/ru/ai-tools/category/developer-api), [DevOps и мониторинг](https://trendhub.net/ru/ai-tools/category/devops-monitoring)
- Last checked: 2026-10-09 (facts taken from higress.ai)
- Source page: https://trendhub.net/ru/ai-tools/higress-open-source-ai-gateway-llm-apis

## Key facts

- Platforms: API
- Pricing model: Free
- Free plan: Yes
- API: Yes

## Что такое Higress

Higress — ИИ-шлюз с открытым исходным кодом на основе Istio и Envoy, который поддерживается как проект уровня Sandbox в Cloud Native Computing Foundation (CNCF). Через одну точку входа он обрабатывает три вида ИИ-трафика: вызовы API моделей, запросы к MCP-инструментам и инференс-нагрузки, работающие в Kubernetes. Для доступа к моделям он преобразует протоколы более чем сотни распространённых моделей, так что приложения используют единый формат запросов, и может переключаться на другую модель, если одна из них даёт сбой. К другим функциям шлюза относятся проверки безопасности содержимого запросов и ответов, точное и семантическое кеширование результатов и подсчёт токенов по потребителям с ограничениями. Существующие сервисы можно публиковать как MCP-серверы, а поведение расширяется плагинами Wasm. Коммерческая полностью управляемая версия предлагается как Alibaba Cloud AI Gateway.

## Key features

- **Единый доступ к моделям**: Преобразует один формат запроса в протоколы более чем 100 моделей и поддерживает резервное переключение на уровне моделей.
- **Хостинг MCP-серверов**: Принимает MCP-запросы и добавляет к существующим сервисам аутентификацию, планирование трафика, сопоставление параметров и аудит.
- **Безопасность контента**: Фильтрует данные, отправляемые во внешние модели, и проверяет ответы, возвращаемые пользователям.
- **Кеширование результатов**: Сохраняет точные и семантически близкие ответы, чтобы сократить расход токенов и задержку при повторяющихся вопросах.
- **Квоты на токены**: Отслеживает расход токенов по потребителям и ограничивает тех, кто превышает свой лимит.
- **Плагины Wasm**: Расширяет шлюз плагинами, включая множество готовых от сообщества.

## Use cases

- **Маршрутизация между несколькими провайдерами**: Платформенная команда ставит OpenAI, Claude и локальные модели за одной внутренней конечной точкой.
- **Превращение API в MCP-инструменты**: Компания публикует существующие HTTP-сервисы как MCP-серверы для своих агентов.
- **Контроль расходов**: Администратор задаёт лимиты токенов для каждой команды и просматривает данные об использовании.
- **Проверка промптов и ответов**: Инженер по безопасности добавляет проверки безопасности, не меняя код приложений.
- **Локальная оценка**: Разработчик запускает шлюз в Docker, чтобы за несколько минут проверить возможности.

## Things to know

- **Две версии**: Шлюз с открытым исходным кодом администрируется самостоятельно, а Alibaba Cloud AI Gateway — управляемый коммерческий сервис с серверлесс- и корпоративным уровнями.
- **Цены в облаке указаны в юанях**: Для управляемого серверлесс-уровня заявлена оплата по факту использования, цены указаны в китайских юанях.
- **Лицензия документации**: Документация проекта распространяется по лицензии CC-BY-4.0.

## FAQs

### Что такое Higress?

Higress — ИИ-шлюз с открытым исходным кодом, который управляет трафиком между приложениями и API LLM, ИИ-агентами и MCP-серверами.

### Higress бесплатный?

Да. Higress имеет открытый исходный код, и развернуть его самостоятельно можно бесплатно; отдельная коммерческая облачная версия продаётся через Alibaba Cloud.

### Как попробовать Higress?

Higress можно запустить локально через развёртывание Docker в один клик без регистрации, и, по данным сайта, основные функции можно проверить примерно за пять минут.

### Какие модели поддерживает Higress?

Higress заявляет, что выполняет единое преобразование протоколов для более чем 100 распространённых моделей, включая OpenAI, Claude и локально размещённые LLM.

### Поддерживает ли Higress MCP?

Да. Higress может размещать MCP-серверы и преобразовывать в них существующие сервисы, обеспечивая аутентификацию и управление трафиком на уровне шлюза.

### Кто стоит за Higress?

Higress — проект уровня Sandbox в Cloud Native Computing Foundation (CNCF); его коммерческая версия предлагается в Alibaba Cloud.

---

Source: https://trendhub.net/ru/ai-tools/higress-open-source-ai-gateway-llm-apis (trendhub)