# Higress

> Gateway di IA open source per instradare, proteggere e osservare il traffico verso API di LLM, server MCP e carichi di inferenza.

Higress è un gateway di IA open source, ospitato come progetto CNCF Sandbox, che si colloca tra le applicazioni e i modelli linguistici di grandi dimensioni. Higress offre un’unica interfaccia di chiamata per molti fornitori di modelli e aggiunge fallback, filtraggio dei contenuti, caching e quote di token. Gli sviluppatori installano Higress in locale con Docker oppure usano l’edizione cloud gestita su Alibaba Cloud.

**Best for:** Team di ingegneria che chiamano più fornitori di modelli o espongono strumenti MCP e hanno bisogno di instradamento, quote e sicurezza centralizzati.

- Official site: https://higress.ai/en
- Listed in: [API per sviluppatori](https://trendhub.net/it/ai-tools/category/developer-api), [DevOps e monitoraggio](https://trendhub.net/it/ai-tools/category/devops-monitoring)
- Last checked: 2026-10-09 (facts taken from higress.ai)
- Source page: https://trendhub.net/it/ai-tools/higress-open-source-ai-gateway-llm-apis

## Key facts

- Platforms: API
- Pricing model: Free
- Free plan: Yes
- API: Yes

## Che cos’è Higress?

Higress è un gateway di IA open source costruito su Istio ed Envoy e mantenuto come progetto Sandbox della Cloud Native Computing Foundation (CNCF). Gestisce da un unico punto di ingresso tre tipi di traffico di IA: le chiamate alle API dei modelli, le richieste agli strumenti MCP e i carichi di inferenza in esecuzione su Kubernetes. Per l’accesso ai modelli converte tra i protocolli di oltre cento modelli comuni, così le applicazioni usano un unico formato di richiesta, e può passare a un altro modello quando uno fallisce. Le altre funzioni del gateway comprendono controlli di sicurezza dei contenuti su prompt e risposte, caching esatto e semantico dei risultati e conteggio dei token per consumatore con relativi limiti. I servizi esistenti si possono esporre come server MCP e il comportamento si estende con plugin Wasm. Un’edizione commerciale completamente gestita è offerta come Alibaba Cloud AI Gateway.

## Key features

- **Accesso unificato ai modelli**: Traduce un unico formato di richiesta nei protocolli di oltre 100 modelli e supporta il fallback a livello di modello.
- **Hosting di server MCP**: Riceve richieste MCP e aggiunge ai servizi esistenti autenticazione, pianificazione del traffico, mappatura dei parametri e audit.
- **Sicurezza dei contenuti**: Filtra i dati inviati ai modelli esterni e controlla l’output restituito agli utenti.
- **Caching dei risultati**: Memorizza risposte esatte e semanticamente simili per ridurre uso di token e latenza sulle domande ripetute.
- **Quote di token**: Tiene traccia del consumo di token per consumatore e limita i chiamanti che superano il proprio limite.
- **Plugin Wasm**: Estende il gateway con plugin, tra cui molti già pronti dalla community.

## Use cases

- **Instradamento tra più fornitori**: Un team di piattaforma mette OpenAI, Claude e modelli locali dietro un unico endpoint interno.
- **Trasformare le API in strumenti MCP**: Un’azienda pubblica i servizi HTTP esistenti come server MCP per i propri agenti.
- **Controllo dei costi**: Un amministratore imposta limiti di token per team e consulta i dati di utilizzo.
- **Controllo di prompt e output**: Un tecnico della sicurezza aggiunge controlli senza modificare il codice dell’applicazione.
- **Valutazione in locale**: Uno sviluppatore esegue il gateway in Docker per provare le funzioni in pochi minuti.

## Things to know

- **Due edizioni**: Il gateway open source si gestisce in proprio, mentre Alibaba Cloud AI Gateway è un servizio commerciale gestito con livelli serverless ed enterprise.
- **Prezzi del cloud in yuan**: Il livello serverless gestito è proposto con una fatturazione a consumo quotata in yuan cinesi.
- **Licenza della documentazione**: La documentazione del progetto è distribuita con la licenza CC-BY-4.0.

## FAQs

### Che cos’è Higress?

Higress è un gateway di IA open source che gestisce il traffico tra applicazioni e API di LLM, agenti di IA e server MCP.

### Higress è gratis?

Sì. Higress è open source e gratuito da installare in proprio; un’edizione cloud commerciale separata è venduta tramite Alibaba Cloud.

### Come si prova Higress?

Higress si può avviare in locale con un’installazione Docker con un clic che non richiede registrazione, e il sito dice che le funzioni principali si possono verificare in circa cinque minuti.

### Quali modelli supporta Higress?

Higress dichiara di eseguire una conversione unificata dei protocolli per più di 100 modelli comuni, tra cui OpenAI, Claude e LLM ospitati in locale.

### Higress supporta MCP?

Sì. Higress può ospitare server MCP e convertire in essi i servizi esistenti, gestendo autenticazione e controllo del traffico nel gateway.

### Chi c’è dietro Higress?

Higress è un progetto Sandbox della Cloud Native Computing Foundation (CNCF); la sua edizione commerciale è offerta su Alibaba Cloud.

---

Source: https://trendhub.net/it/ai-tools/higress-open-source-ai-gateway-llm-apis (trendhub)