TrueFoundry
KI-Gateway für Unternehmen, das Datenverkehr zu LLMs, MCP und Agenten in der eigenen Infrastruktur leitet, steuert und überwacht.
TrueFoundry ist ein KI-Gateway für Unternehmen, das zwischen Anwendungen und den Sprachmodellen, MCP-Servern und Agenten sitzt, die sie nutzen. TrueFoundry bietet eine einheitliche Schnittstelle zu vielen Modellanbietern und ergänzt Routing, Rate Limits, Guardrails, Kostenkontrolle und Tracing. TrueFoundry wird als gehosteter Dienst genutzt oder in der eigenen Cloud oder im eigenen Rechenzentrum eines Unternehmens installiert.
Am besten geeignet für Entwicklungs- und Plattform-Teams, die eine gesteuerte, beobachtbare Zugriffsschicht für LLMs, MCP-Tools und Agenten brauchen, auch in privaten oder regulierten Umgebungen.
- Plattformen
- Web, API
- Preismodell
- Freemium
- Kostenloser Tarif
- Ja
- Kostenlose Testphase
- Ja
- API
- Ja
- Anbieter
- Ensemble Labs Inc
- Hinzugefügt
Zuletzt geprüft: . Die Angaben stammen von truefoundry.com.
Was ist TrueFoundry?
TrueFoundry ist eine Plattform für Unternehmen, die ein einziges Gateway zwischen Anwendungen und die KI-Modelle, Tools und Agenten stellt, die sie aufrufen. Das LLM Gateway bietet eine Schnittstelle zu vielen Modellanbietern, mit Routing, Fallbacks, Rate Limits und Kostenkontrolle. Ein MCP Gateway übernimmt Erkennung, Authentifizierung und Zugriffsregeln für MCP-Server und Tools, und ein Agent Gateway wendet Identität, Nutzungsrichtlinien und Tracing auf die Aktivität von Agenten an. Drumherum gibt es Prompt-Verwaltung, eine Registry für Skills und Agenten, Guardrails, Budgetgrenzen und Audit-Logs. Die Observability folgt OpenTelemetry und kann Grafana, Datadog oder Prometheus speisen. Die Plattform wird als SaaS verkauft und lässt sich auch in einer VPC, On-Premises, in Air-Gapped-Umgebungen oder über mehrere Clouds hinweg installieren. Weitere Produkte decken Modellbereitstellung, Training und Fine-Tuning ab. Das Unternehmen dahinter ist Ensemble Labs Inc aus San Francisco.
Wichtigste Funktionen
LLM Gateway
Sendet Anfragen über einen Endpunkt an verschiedene Modellanbieter und wendet Routing-Regeln, Fallbacks, Rate Limits und Ausgabenobergrenzen an.
MCP Gateway
Registriert MCP-Server zentral und steuert, welche Agenten welche Tools erreichen, mit Authentifizierung und Prüfprotokoll.
Agent Gateway
Gibt jedem Agenten eine verwaltete Identität und protokolliert, was er aufruft, nach Richtlinien, die Administratoren festlegen.
Guardrails und Budgets
Setzt Nutzungskontingente, Regeln zum Datenstandort und Kostenlimits durch, während Workloads laufen.
Tracing und Monitoring
Erfasst Latenz, Durchsatz, Token-Nutzung, Kosten und GPU-Auslastung und exportiert sie in bestehende Observability-Tools.
Zugriffskontrolle und Audit-Logs
Unterstützt Single Sign-on, rollenbasierte Berechtigungen und ein Protokoll zu Modellnutzung, Nutzerzugriffen und Konfigurationsänderungen.
Screenshots
Anwendungsfälle
- Modellzugriff zentralisieren
- Ein Plattform-Team gibt jeder internen Anwendung einen gesteuerten Weg zu mehreren LLM-Anbietern.
- KI-Ausgaben kontrollieren
- Finanzen und Entwicklung legen Budgetregeln pro Team fest und beobachten Token-Kosten in gemeinsamen Dashboards.
- Tool-Nutzung von Agenten absichern
- Das Sicherheitsteam entscheidet, welche MCP-Tools Agenten aufrufen dürfen, und verlangt für sensible Freigaben.
- KI im privaten Netzwerk betreiben
- Eine regulierte Organisation installiert die Plattform in der eigenen VPC oder On-Premises, damit die Daten in ihrem Bereich bleiben.
- KI-Aktivität prüfen
- Compliance-Verantwortliche exportieren Protokolle darüber, wer welches Modell genutzt und was geändert hat.
Gut zu wissen
- Plätze und Datenverkehr werden getrennt abgerechnet
- Die Tarife enthalten ein gemeinsames Monatskontingent an Anfragen und Tool-Aufrufen pro Nutzer; Verkehr darüber hinaus wird als Mehrverbrauch berechnet, nicht durch zusätzliche Nutzer.
- Was als Anfrage zählt
- Jeder Aufruf eines Modells und jeder MCP-Tool-Aufruf wird einmal gezählt, Wiederholungen und fehlgeschlagene Aufrufe innerhalb des Gateways nicht.
- Modellkosten kommen extra
- Gebühren der Modellanbieter und verwaltete Guardrails von Drittanbietern sind nicht Teil des Abos.
- Manche Produkte nur auf Anfrage
- Laut den häufigen Fragen zu den Preisen haben Agent Gateway und Agent Harness vorerst einen Preis auf Anfrage.
Häufige Fragen
Was ist TrueFoundry?
TrueFoundry ist ein KI-Gateway und eine Bereitstellungsplattform für Unternehmen. Sie leitet und steuert den Datenverkehr zu LLMs, MCP-Servern und Agenten und zeichnet ihn zur Überwachung auf.
Wofür wird TrueFoundry verwendet?
TrueFoundry gibt Teams einen einzigen kontrollierten Zugang zu KI-Modellen und Tools, mit Routing, Rate Limits, Guardrails, Kostenverfolgung und Audit-Logs.
Ist TrueFoundry kostenlos?
TrueFoundry hat einen Developer-Tarif, der als dauerhaft kostenlos für bis zu drei Nutzer beschrieben wird, mit einem monatlichen Anfragekontingent pro Nutzer. Größere Teams wechseln zum Pro- oder Enterprise-Tarif.
Was kostet TrueFoundry?
TrueFoundry berechnet den Pro-Tarif pro Nutzer und Monat, mit Mehrverbrauch für zusätzliche Gateway-Anfragen; Enterprise ist individuell. Aktuelle Preise findest du auf der offiziellen Preisseite.
Kann TrueFoundry selbst gehostet werden?
Ja. TrueFoundry kann zusätzlich zur SaaS-Option in einer VPC, On-Premises, in Air-Gapped-Umgebungen oder über mehrere Clouds hinweg laufen. Der Tarifvergleich ordnet die Bereitstellung in der VPC und On-Premises der Enterprise-Stufe zu.
Sind die Kosten der Modellanbieter in TrueFoundry enthalten?
Nein. Laut den häufigen Fragen zu den Preisen von TrueFoundry werden die Gebühren der Modellanbieter (Anthropic, OpenAI, AWS, Azure, Google und andere) separat abgerechnet.
Wer steckt hinter TrueFoundry?
Die Website von TrueFoundry nennt Ensemble Labs Inc mit Sitz in San Francisco als Unternehmen hinter dem Produkt.
Für wen es sich eignet
- Plattform-Ingenieure
- ML-Ingenieure
- IT-Leitungen
- Sicherheitsteams
- Unternehmen
- Entwickler
Kommentare
Noch keine Kommentare. Hast du TrueFoundry schon genutzt? Erzähl den anderen, wie es lief.
Alternativen zu TrueFoundry
| Tool | Kostenloser Tarif | Einstiegspreis | API |
|---|---|---|---|
 Kong KonnectDie einheitliche Plattform von Kong zum Verwalten und Steuern von API-, KI-, MCP- und Event-Verkehr über Gateways. |
Nein | 25 $/Monat | Ja |
 LangChainOpen-Source-Frameworks für Agenten plus die Plattform LangSmith zum Nachverfolgen, Bewerten und Bereitstellen von KI-Agenten. |
Ja | — | Ja |
 VercelCloud-Plattform zum Bereitstellen von Web-Apps und KI-Agenten, mit AI Gateway, Sandboxes, Workflows und globalem CDN. |
Ja | 20 $/Monat | Ja |
 Elastic StackProduktsuite rund um Elasticsearch für Suche, Observability und Sicherheit, mit Vektorsuche und Werkzeugen für KI-Agenten. |
— | — | Ja |
 HigressOpen-Source-KI-Gateway zum Routen, Absichern und Beobachten von Datenverkehr zu LLM-APIs, MCP-Servern und Inferenz-Workloads. |
Ja | — | Ja |
Aus denselben Kategorien wie TrueFoundry. Ein Einstiegspreis steht nur dort, wo wir ihn auf der Preisseite des Anbieters geprüft haben. Ein Strich bedeutet: nicht geprüft oder nicht veröffentlicht. Alle Tools in DevOps und Monitoring