# Higress

> LLM API'lerine, MCP sunucularına ve çıkarım iş yüklerine giden trafiği yönlendiren, güvenceye alan ve izleyen açık kaynaklı yapay zekâ ağ geçidi.

Higress, uygulamalarla büyük dil modelleri arasında duran, CNCF Sandbox projesi olarak barındırılan açık kaynaklı bir yapay zekâ ağ geçididir. Birçok model sağlayıcısı için tek bir çağrı arayüzü sunar; yedek model geçişi, içerik filtreleme, önbellekleme ve token kotaları ekler. Geliştiriciler Higress'i Docker ile yerelde çalıştırabilir ya da Alibaba Cloud'daki yönetilen bulut sürümünü kullanabilir.

**Best for:** Birden fazla model sağlayıcısını çağıran veya MCP araçları sunan, merkezî yönlendirme, kota ve güvenlik isteyen mühendislik ekipleri için.

- Official site: https://higress.ai/en
- Listed in: [Geliştirici API'si](https://trendhub.net/tr/ai-tools/category/developer-api), [DevOps ve izleme](https://trendhub.net/tr/ai-tools/category/devops-monitoring)
- Last checked: 2026-10-09 (facts taken from higress.ai)
- Source page: https://trendhub.net/tr/ai-tools/higress-open-source-ai-gateway-llm-apis

## Key facts

- Platforms: API
- Pricing model: Free
- Free plan: Yes
- API: Yes

## Higress nedir?

Higress, Istio ve Envoy üzerine kurulu ve Cloud Native Computing Foundation (CNCF) bünyesinde Sandbox projesi olarak sürdürülen, açık kaynaklı bir yapay zekâ ağ geçididir. Üç tür yapay zekâ trafiğini tek bir giriş noktasından yönetir: model API'lerine yapılan çağrılar, MCP araçlarına gelen istekler ve Kubernetes üzerinde çalışan çıkarım iş yükleri. Model erişiminde yüzün üzerinde yaygın modelin protokolleri arasında dönüşüm yapar; böylece uygulamalar tek bir istek biçimi kullanır, bir model başarısız olduğunda ise başka bir modele geçilebilir. Diğer ağ geçidi işlevleri arasında istemlerde ve yanıtlarda içerik güvenliği denetimi, sonuçların birebir ve anlamsal önbelleklenmesi, tüketici başına token sayımı ve sınırlandırma yer alır. Mevcut hizmetler MCP sunucusu olarak sunulabilir, davranış Wasm eklentileriyle genişletilir. Tamamen yönetilen ticari bir sürüm de Alibaba Cloud AI Gateway adıyla sunuluyor.

## Key features

- **Birleşik model erişimi**: Tek bir istek biçimini 100'den fazla modelin protokollerine çevirir ve model düzeyinde yedek geçişi destekler.
- **MCP sunucusu barındırma**: MCP isteklerini alır; mevcut hizmetlere kimlik doğrulama, trafik zamanlama, parametre eşleme ve denetim kaydı ekler.
- **İçerik güvenliği**: Dış modellere gönderilen verileri filtreler, kullanıcılara dönen çıktıyı denetler.
- **Sonuç önbellekleme**: Tekrarlanan sorularda token kullanımını ve gecikmeyi azaltmak için birebir ve anlamca benzer yanıtları saklar.
- **Token kotaları**: Tüketici başına token kullanımını izler, payını aşan çağıranları kısıtlar.
- **Wasm eklentileri**: Topluluğun hazırladığı çok sayıda eklenti de dahil olmak üzere, ağ geçidini eklentilerle genişletir.

## Use cases

- **Çok sağlayıcılı yönlendirme**: Bir platform ekibi OpenAI, Claude ve yerel modelleri tek bir dahili uç noktanın arkasına koyar.
- **API'leri MCP araçlarına dönüştürme**: Bir şirket mevcut HTTP hizmetlerini ajanları için MCP sunucuları olarak yayımlar.
- **Maliyet denetimi**: Bir yönetici ekip başına token sınırları belirler ve kullanım verilerini inceler.
- **İstem ve çıktı denetimi**: Bir güvenlik mühendisi, uygulama kodunu değiştirmeden güvenlik denetimleri ekler.
- **Yerelde değerlendirme**: Bir geliştirici, özellikleri birkaç dakikada denemek için ağ geçidini Docker'da çalıştırır.

## Things to know

- **İki sürüm**: Açık kaynaklı ağ geçidini kendiniz yönetirsiniz; Alibaba Cloud AI Gateway ise sunucusuz ve kurumsal katmanları olan, yönetilen ticari bir hizmettir.
- **Bulut fiyatları yuan cinsinden**: Yönetilen sunucusuz katman, Çin yuanı cinsinden verilen kullanım bazlı faturalamayla duyuruluyor.
- **Dokümantasyon lisansı**: Projenin dokümantasyonu CC-BY-4.0 lisansıyla dağıtılıyor.

## FAQs

### Higress nedir?

Higress, uygulamalar ile LLM API'leri, yapay zekâ ajanları ve MCP sunucuları arasındaki trafiği yöneten, açık kaynaklı bir yapay zekâ ağ geçididir.

### Higress ücretsiz mi?

Evet. Higress açık kaynaklıdır ve kendiniz kurmak ücretsizdir; ayrı bir ticari bulut sürümü Alibaba Cloud üzerinden satılıyor.

### Higress'i nasıl deneyebilirim?

Higress, kayıt gerektirmeyen tek tıkla Docker kurulumuyla yerelde başlatılabilir; site, temel özelliklerin yaklaşık beş dakikada doğrulanabildiğini söylüyor.

### Higress hangi modelleri destekliyor?

Higress, OpenAI, Claude ve yerelde barındırılan LLM'ler dahil 100'den fazla yaygın model için birleşik protokol dönüşümü yaptığını belirtiyor.

### Higress MCP'yi destekliyor mu?

Evet. Higress MCP sunucuları barındırabilir ve mevcut hizmetleri bunlara dönüştürebilir; kimlik doğrulamayı ve trafik denetimini ağ geçidinde yürütür.

### Higress'in arkasında kim var?

Higress, Cloud Native Computing Foundation'ın (CNCF) bir Sandbox projesidir; ticari sürümü Alibaba Cloud'da sunuluyor.

---

Source: https://trendhub.net/tr/ai-tools/higress-open-source-ai-gateway-llm-apis (trendhub)