TrueFoundry
Корпоративный ИИ-шлюз для маршрутизации, контроля и наблюдения за трафиком LLM, MCP и агентов в вашей собственной инфраструктуре.
TrueFoundry — это корпоративный ИИ-шлюз, который стоит между приложениями и теми языковыми моделями, MCP-серверами и агентами, к которым они обращаются. TrueFoundry даёт единый интерфейс для многих провайдеров моделей и добавляет маршрутизацию, лимиты запросов, ограничители (guardrails), контроль расходов и трассировку. Сервис работает как облачный или устанавливается в собственном облаке либо дата-центре компании.
Подходит для Инженерным командам и командам платформ, которым нужен единый управляемый и наблюдаемый уровень доступа к LLM, MCP-инструментам и агентам, в том числе в закрытых и регулируемых средах.
- Платформы
- Web, API
- Модель оплаты
- Freemium
- Бесплатный тариф
- Да
- Пробный период
- Да
- API
- Да
- Разработчик
- Ensemble Labs Inc
- Добавлен
Последняя проверка: . Источник информации: truefoundry.com.
Что такое TrueFoundry?
TrueFoundry — это корпоративная платформа, которая ставит один шлюз между приложениями и ИИ-моделями, инструментами и агентами, к которым они обращаются. LLM Gateway предоставляет единый интерфейс ко многим провайдерам моделей с маршрутизацией, резервными вариантами, лимитами запросов и контролем расходов. MCP Gateway отвечает за обнаружение, аутентификацию и правила доступа к MCP-серверам и инструментам, а Agent Gateway применяет к действиям агентов идентификацию, политики использования и трассировку. Вокруг них работают управление промптами, реестр навыков и агентов, ограничители (guardrails), бюджетные лимиты и журналы аудита. Наблюдаемость совместима с OpenTelemetry и может передавать данные в Grafana, Datadog или Prometheus. Платформа продаётся как SaaS, а также устанавливается в VPC, на собственных серверах, в изолированных контурах или сразу в нескольких облаках. Другие продукты отвечают за развёртывание, обучение и дообучение моделей. Компания-разработчик — Ensemble Labs Inc из Сан-Франциско.
Ключевые возможности
LLM Gateway
Отправляет запросы разным провайдерам моделей через одну точку входа и применяет правила маршрутизации, резервные варианты, лимиты запросов и ограничения расходов.
MCP Gateway
Регистрирует MCP-серверы в одном месте и определяет, какие агенты могут обращаться к каким инструментам, с аутентификацией и журналом аудита.
Agent Gateway
Выдаёт каждому агенту управляемую идентичность и отслеживает, что он вызывает, по политикам, которые задают администраторы.
Ограничители и бюджеты
Следит за квотами использования, правилами размещения данных и лимитами расходов прямо во время работы нагрузок.
Трассировка и мониторинг
Записывает задержку, пропускную способность, расход токенов, стоимость и загрузку GPU и передаёт их в уже используемые средства наблюдаемости.
Контроль доступа и журналы аудита
Поддерживает единый вход (SSO), ролевую модель прав и журнал использования моделей, доступа пользователей и изменений конфигурации.
Скриншоты
Сценарии использования
- Единая точка доступа к моделям
- Команда платформы даёт каждому внутреннему приложению один управляемый путь к нескольким провайдерам LLM.
- Контроль расходов на ИИ
- Финансисты и инженеры задают бюджеты по командам и следят за стоимостью токенов на общих панелях.
- Защита вызовов инструментов агентами
- Специалисты по безопасности решают, какие MCP-инструменты могут вызывать агенты, и требуют подтверждения для чувствительных.
- ИИ внутри закрытой сети
- Организация с жёсткими требованиями регулятора устанавливает платформу в собственной VPC или на своих серверах, чтобы данные оставались в её контуре.
- Аудит работы ИИ
- Специалисты по комплаенсу выгружают журналы: кто использовал какую модель и что было изменено.
Что важно знать
- Места и трафик оплачиваются отдельно
- В тарифы входит общий ежемесячный объём запросов и вызовов инструментов на пользователя; трафик сверх него тарифицируется как превышение, а не добавлением пользователей.
- Что считается запросом
- Каждое обращение к модели и каждый вызов MCP-инструмента считается один раз, а повторные и неудачные вызовы внутри шлюза не учитываются.
- Стоимость моделей оплачивается отдельно
- Платежи провайдерам моделей и сторонним управляемым ограничителям в подписку не входят.
- Часть продуктов — только по запросу
- В FAQ по ценам сказано, что Agent Gateway и Agent Harness пока продаются по индивидуальной цене.
Вопросы и ответы
Что такое TrueFoundry?
TrueFoundry — это корпоративный ИИ-шлюз и платформа развёртывания. Она маршрутизирует трафик к LLM, MCP-серверам и агентам, управляет им и записывает его для мониторинга.
Для чего нужен TrueFoundry?
TrueFoundry даёт командам единую контролируемую точку входа к ИИ-моделям и инструментам: с маршрутизацией, лимитами запросов, ограничителями, учётом расходов и журналами аудита.
TrueFoundry бесплатный?
У TrueFoundry есть тариф Developer, который описан как бесплатный навсегда для не более чем трёх пользователей, с ежемесячным объёмом запросов на пользователя. Командам побольше нужны тарифы Pro или Enterprise.
Сколько стоит TrueFoundry?
Тариф Pro в TrueFoundry оплачивается за пользователя в месяц, а за дополнительные запросы к шлюзу взимается плата за превышение; тариф Enterprise — по индивидуальной цене. Актуальные цены смотрите на официальной странице с ценами.
Можно ли развернуть TrueFoundry у себя?
Да. Помимо SaaS, TrueFoundry работает в VPC, на собственных серверах, в изолированных средах или сразу в нескольких облаках. По сравнению тарифов, развёртывание в VPC и на собственных серверах входит в тариф Enterprise.
Входит ли в TrueFoundry стоимость моделей?
Нет. В FAQ по ценам TrueFoundry сказано, что платежи провайдерам моделей (Anthropic, OpenAI, AWS, Azure, Google и другим) выставляются отдельно.
Кто разрабатывает TrueFoundry?
На сайте TrueFoundry в качестве компании-разработчика указана Ensemble Labs Inc из Сан-Франциско.
Кому подойдёт
- Инженеры платформ
- ML-инженеры
- ИТ-руководители
- Команды безопасности
- Крупные компании
- Разработчики
Комментарии
Комментариев пока нет. Если вы пользовались TrueFoundry, расскажите другим читателям, как всё прошло.
Аналоги TrueFoundry
| Инструмент | Бесплатный тариф | Начальная цена | API |
|---|---|---|---|
| Нет | 25 $/мес | Да | |
| Да | — | Да | |
| Да | 20 $/мес | Да | |
| — | — | Да | |
| Да | — | Да |
Из тех же категорий, что и TrueFoundry. Начальная цена указана, только если мы проверили её на странице цен разработчика; прочерк означает, что цена не проверена или не опубликована. Все инструменты в категории «DevOps и мониторинг»