Higress
Passerelle d’IA open source pour acheminer, sécuriser et observer le trafic vers les API de LLM, les serveurs MCP et les charges d’inférence.
Higress est une passerelle d’IA open source, hébergée comme projet CNCF Sandbox, qui se place entre les applications et les grands modèles de langage. Higress offre une interface d’appel unique pour de nombreux fournisseurs de modèles et ajoute le repli, le filtrage de contenu, la mise en cache et des quotas de jetons. Les développeurs déploient Higress en local avec Docker ou utilisent l’édition cloud gérée d’Alibaba Cloud.
Idéal pour Équipes d’ingénierie qui appellent plusieurs fournisseurs de modèles ou exposent des outils MCP et ont besoin d’un routage, de quotas et d’une sécurité centralisés.
- Plateformes
- API
- Modèle tarifaire
- Gratuit
- Formule gratuite
- Oui
- API
- Oui
- Ajouté le
Dernière vérification : . Informations issues de higress.ai.
Qu’est-ce que Higress ?
Higress est une passerelle d’IA open source construite sur Istio et Envoy et maintenue comme projet Sandbox de la Cloud Native Computing Foundation (CNCF). Elle traite trois types de trafic d’IA par un seul point d’entrée : les appels aux API de modèles, les requêtes vers des outils MCP et les charges d’inférence exécutées sur Kubernetes. Pour l’accès aux modèles, elle convertit entre les protocoles de plus d’une centaine de modèles courants, de sorte que les applications utilisent un format de requête unique, et peut basculer vers un autre modèle en cas de panne de l’un d’eux. Les autres fonctions de la passerelle comprennent des contrôles de sécurité du contenu sur les prompts et les réponses, la mise en cache exacte et sémantique des résultats, et le comptage des jetons par consommateur avec des plafonds. Des services existants peuvent être exposés comme serveurs MCP, et le comportement s’étend avec des plugins Wasm. Une édition commerciale entièrement gérée est proposée sous le nom d’Alibaba Cloud AI Gateway.
Fonctionnalités clés
Accès unifié aux modèles
Traduit un format de requête unique vers les protocoles de plus de 100 modèles et prend en charge le repli au niveau du modèle.
Hébergement de serveurs MCP
Reçoit les requêtes MCP et ajoute authentification, planification du trafic, mappage des paramètres et audit aux services existants.
Sécurité du contenu
Filtre les données envoyées à des modèles externes et contrôle les sorties renvoyées aux utilisateurs.
Mise en cache des résultats
Stocke les réponses exactes et sémantiquement proches pour réduire la consommation de jetons et la latence sur les questions répétées.
Quotas de jetons
Suit la consommation de jetons par consommateur et restreint les appelants qui dépassent leur quota.
Plugins Wasm
Étend la passerelle avec des plugins, dont de nombreux plugins prêts à l’emploi issus de la communauté.
Cas d’usage
- Routage multifournisseur
- Une équipe plateforme place OpenAI, Claude et des modèles locaux derrière un seul point d’accès interne.
- Transformer des API en outils MCP
- Une entreprise publie ses services HTTP existants comme serveurs MCP pour ses agents.
- Maîtrise des coûts
- Un administrateur fixe des plafonds de jetons par équipe et consulte les données d’utilisation.
- Contrôle des prompts et des sorties
- Un ingénieur en sécurité ajoute des contrôles de sécurité sans modifier le code de l’application.
- Évaluation en local
- Un développeur fait tourner la passerelle dans Docker pour tester les fonctionnalités en quelques minutes.
À savoir
- Deux éditions
- La passerelle open source s’auto-gère, tandis qu’Alibaba Cloud AI Gateway est un service commercial géré, avec des niveaux serverless et entreprise.
- Tarifs du cloud en yuans
- Le niveau serverless géré est présenté avec une facturation à l’usage indiquée en yuans chinois.
- Licence de la documentation
- La documentation du projet est distribuée sous licence CC-BY-4.0.
Questions fréquentes
Qu’est-ce que Higress ?
Higress est une passerelle d’IA open source qui gère le trafic entre les applications et les API de LLM, les agents d’IA et les serveurs MCP.
Higress est-il gratuit ?
Oui. Higress est open source et son déploiement par vos soins est gratuit ; une édition cloud commerciale distincte est vendue via Alibaba Cloud.
Comment essayer Higress ?
Higress peut être lancé en local par un déploiement Docker en un clic, sans inscription, et le site indique que les fonctionnalités de base peuvent être vérifiées en environ cinq minutes.
Quels modèles Higress prend-il en charge ?
Higress indique assurer une conversion de protocole unifiée pour plus de 100 modèles courants, dont OpenAI, Claude et des LLM hébergés en local.
Higress prend-il en charge MCP ?
Oui. Higress peut héberger des serveurs MCP et y convertir des services existants, en gérant l’authentification et le contrôle du trafic au niveau de la passerelle.
Qui est derrière Higress ?
Higress est un projet Sandbox de la Cloud Native Computing Foundation (CNCF) ; son édition commerciale est proposée sur Alibaba Cloud.
Pour qui
- Ingénieurs plateforme
- Développeurs back-end
- Équipes DevOps
- Équipes d’applications d’IA
Présent dans ces guides
- Créer une appli reposant sur l’IA : la pile d’outils, couche par coucheÉtape 3 : API de modèles, passerelles et hébergement d’inférence
Chaque guide décompose un projet en étapes et indique les outils utiles à chacune. Tous les guides
Commentaires
Aucun commentaire pour l’instant. Vous avez utilisé Higress ? Racontez aux autres lecteurs comment cela s’est passé.
Alternatives à Higress
| Outil | Formule gratuite | Prix de départ | API |
|---|---|---|---|
 Kong KonnectPlateforme unifiée de Kong pour gérer et encadrer le trafic d’API, d’IA, de MCP et d’événements via des passerelles. |
Non | 25 $/mois | Oui |
 LangChainFrameworks open source pour agents et plateforme LangSmith pour tracer, évaluer et déployer des agents d’IA. |
Oui | — | Oui |
 TrueFoundryPasserelle d’IA pour entreprises qui achemine, encadre et observe le trafic des LLM, des serveurs MCP et des agents dans votre propre infrastructure. |
Oui | — | Oui |
 VercelPlateforme cloud pour déployer des applications web et des agents d’IA, avec passerelle d’IA, sandboxes, workflows et CDN mondial. |
Oui | 20 $/mois | Oui |
 APIParkPasserelle unifiée pour appeler, authentifier, facturer et surveiller des modèles d’IA, des API et des services MCP. |
— | — | Oui |
Dans les mêmes catégories que Higress. Un prix de départ n’apparaît que si nous l’avons vérifié sur la page des tarifs de l’éditeur ; un tiret signifie qu’il n’a pas été vérifié ou n’est pas publié. Tous les outils : API pour développeurs