Cookie. Мы считаем посещения без cookie. Если вы согласны, мы также сохраним cookie, чтобы понимать, как используется сайт. Политика использования cookie
Создание приложения на основе ИИ: набор инструментов, слой за слоем
Этапов: 9, инструментов: 24
обновлено
ИИ-функция, которая работает в демо, — небольшая часть задачи. Демо — это один запрос, одна модель и пять удобных вводных. Продукт — это то же самое, но для тысяч непредсказуемых пользователей, с вашими данными за спиной, счётом, который растёт вместе с использованием, и необходимостью знать, когда ответы становятся хуже.
Поэтому стек состоит из слоёв. Модель, к которой обращаются через API или которую размещают у себя. Промпты, версии которых хранятся как код. Поиск и память, чтобы модель отвечала по вашему содержимому, а не наугад. Возможно, цикл агента с инструментами, которые он вправе вызывать. Обычный код приложения вокруг всего этого, затем тесты, оценка и место для развёртывания.
Кодирующие агенты уже пишут значительную часть кода приложения, а конструкторы приложений могут создать рабочий интерфейс по описанию. Но инженерное суждение они не заменяют: какая модель достаточно хороша для задачи при приемлемой цене, как измерить качество раньше пользователей, какие данные могут покидать вашу систему и что происходит, когда модель уверенно ошибается. Модели и их условия к тому же часто меняются, поэтому проектируйте приложение так, чтобы модель можно было заменить без переписывания.
Для кого это руководство Разработчики, технические основатели и небольшие продуктовые команды, которые добавляют в продукт функцию на основе языковой модели или создают вокруг неё новое приложение и хотят увидеть карту инструментов до выбора стека.
Типичный первый проход для прототипа: сравнить модели на собственных промптах, написать код с агентом, рано добавить трассировку, затем развернуть. Инструменты идут в этом порядке, а не по рейтингу.
Подключите репозиторий и отправьте ссылку на предпросмотр пятерым тестовым пользователям.
1
Этап 1: Выбор модели
Вы решаете, какую модель или модели будет вызывать приложение, взвешивая качество результата на вашей задаче, скорость, размер контекста, стоимость запроса, требования к конфиденциальности и то, нужен ли размещённый API или открытая модель, которую вы запускаете сами.
Что здесь делает ИИ
Отправлять один и тот же промпт разным моделям и сравнивать ответы рядом, предоставлять модели через привычные форматы API и запускать открытые модели на вашем оборудовании.
Чего ИИ здесь не сделает
Сказать, какая модель подходит вашей задаче. Публичные рейтинги отражают чужие голоса и чужие промпты, поэтому единственная надёжная проверка — ваши собственные примеры.
Runs open-source models inside secure hardware enclaves and exposes them through an OpenAI-compatible API, for apps that handle sensitive data.
Закрытое облако ИИ, где модели работают внутри защищённых аппаратных анклавов: чат-приложение, API для инференса и контейнеры.
Открыть инструмент
2
Этап 2: Промпты и прототипирование
До написания кода приложения вы отрабатываете инструкции: системный промпт, примеры, формат ответа. Вы пробуете их на реальных входных данных, в том числе неудобных, и сохраняете каждую версию, чтобы изменения можно было сравнивать.
Что здесь делает ИИ
Переписать черновой запрос в структурированный промпт, разобрать слабые места существующего и вести библиотеку промптов с версиями.
Чего ИИ здесь не сделает
Знать ваши крайние случаи. Промпт, который хорошо читается, всё равно может не справиться с теми данными, которые присылают ваши пользователи, а выявит это только проверка на собранных примерах.
Analyzes a prompt for strengths and weaknesses, rewrites it in rounds and records each version so earlier ones can be recovered.
Рабочее пространство для промптов: создание, анализ, оптимизация и восстановление промптов для текстовых, графических и видеомоделей.
Открыть инструмент
3
Этап 3: API моделей, шлюзы и хостинг инференса
Вы подключаете приложение к моделям так, чтобы оно выдерживало работу в продакшене: ключи хранятся на сервере, есть повторные попытки и запасные варианты на случай сбоя провайдера, лимиты запросов, учёт расходов и хостинг GPU, если вы сами обслуживаете открытую модель.
Что здесь делает ИИ
Направлять запросы ко многим моделям через одну точку доступа с запасными вариантами и квотами и запускать открытые модели на GPU-инфраструктуре с автомасштабированием, не управляя кластерами.
Чего ИИ здесь не сделает
Убрать зависимость от провайдеров. Цены, лимиты и версии моделей меняются по их расписанию, поэтому фиксируйте версии и читайте условия использования данных.
Его AI Gateway направляет запросы ко многим ИИ-моделям через один сервис, с запасными вариантами, балансировкой нагрузки, повторными попытками и мониторингом расходов.
Облачная платформа для развёртывания веб-приложений и ИИ-агентов: ИИ-шлюз, песочницы, рабочие процессы и глобальная CDN.
Documents how to call its models from application code and coding agents, with thinking mode that can be switched off per request.
Компания по исследованиям в области ИИ: чат-ассистент, настольная программа Harness и API с оплатой за токены для её языковых моделей.
Открыть инструмент
4
Этап 4: Поиск, память и данные
Большинство полезных приложений отвечают по конкретному содержимому: вашей документации, файлам клиента, живому вебу, прошлым разговорам. Вы загружаете и индексируете это содержимое, для каждого запроса находите нужные фрагменты и передаёте их модели вместе с источниками.
Что здесь делает ИИ
Получать веб-страницы в виде чистого Markdown, хранить эмбеддинги и искать по ним, возвращать релевантные фрагменты со ссылками на источники и сохранять память о каждом пользователе между сессиями.
Чего ИИ здесь не сделает
Исправить плохой исходный материал. Поиск выдаёт то, что есть в индексе, поэтому устаревшие или противоречивые документы дают устаревшие или противоречивые ответы.
Builds a per-user graph of dated facts from data and conversations and returns the context a task needs in one call.
Слой контекста и памяти для ИИ-агентов: строит управляемые графы знаний из бизнес-данных, документов и диалогов.
Открыть инструмент
5
Этап 5: Фреймворки агентов и доступ к инструментам
Если приложение должно не только отвечать, но и действовать, вы строите цикл агента: модель решает, какой инструмент вызвать, ваш код выполняет вызов и возвращает результат. Вы определяете инструменты, их права и случаи, когда нужно подтверждение человека.
Что здесь делает ИИ
Предоставить библиотеки для написания агентов с любым провайдером моделей, создавать схемы инструментов из обычных функций и управлять аутентификацией на сторонних серверах инструментов.
Чего ИИ здесь не сделает
Сделать агента безопасным по умолчанию. Каждый открытый вами инструмент модель может вызвать не вовремя, поэтому жёстко ограничивайте права и подтверждайте необратимые действия.
Подключает агента к MCP-серверам из каталога и управляет OAuth, учётными данными и сессиями для этих подключений.
Реестр и слой подключения, который связывает ИИ-агентов с MCP-серверами и берёт на себя OAuth и учётные данные.
Открыть инструмент
6
Этап 6: Написание кода
Вокруг модели находится обычное приложение: маршруты API, модели данных, аутентификация, фоновые задачи, интерфейс. Вы пишете, проверяете и тестируете этот код, всё чаще поручая задачи кодирующему агенту и просматривая его изменения.
Что здесь делает ИИ
Изучить кодовую базу, спланировать изменение, отредактировать файлы, запустить тесты и открыть pull request по описанию задачи на обычном языке, а также проверять pull request построчно.
Чего ИИ здесь не сделает
Отвечать за архитектуру и последствия. Сгенерированный код может пройти свои тесты и всё равно быть небезопасным или не соответствовать вашим требованиям, поэтому разработчик должен прочитать то, что вливается в проект.
Планирует задачи программирования, редактирует файлы, запускает тесты и открывает pull request в вашем репозитории, спрашивая разрешения перед изменением файлов или выполнением команд.
ИИ-агент для программирования от Anthropic: планирует, правит код, запускает тесты и открывает пул-реквесты из терминала или IDE.
Проверяет каждый pull request комментариями к отдельным строкам и предложениями, которые можно применить сразу, что помогает, когда значительная часть кода написана агентами.
ИИ-ревью кода, которое комментирует каждый pull request, а также сортирует запросы, объясняет изменения и следит за безопасностью.
Открыть инструмент
7
Этап 7: Голосовые, графические и видеофункции
Некоторым приложениям нужно больше, чем текст: голосовые ответы, транскрибация, голосовой диалог в реальном времени, созданные изображения или ролики. Это отдельные модели со своими API, бюджетами задержки и правилами использования.
Что здесь делает ИИ
Добавлять через API синтез речи, распознавание речи и полнодуплексный голосовой диалог, а также создавать видео и изображения из кода приложения.
Чего ИИ здесь не сделает
Оформить права за вас. Клонирование голоса реального человека требует его согласия, а коммерческое использование созданных материалов зависит от условий провайдера и вашего тарифа.
Открывает свои модели генерации видео и изображений через API для разработчиков с документацией и маршрутизатором моделей.
ИИ-платформа для создания и редактирования видео, изображений и звука с API для разработчиков и моделями мира.
Открыть инструмент
8
Этап 8: Оценка и мониторинг
Вы собираете тестовый набор из реальных входных данных, оцениваете результаты перед каждым изменением, а после запуска трассируете каждый запрос, чтобы видеть сбои, стоимость и задержки. То, что автоматическая оценка не может судить, проверяют люди.
Что здесь делает ИИ
Записывать каждый шаг запуска, создавать наборы данных из реальных трасс, запускать автоматические оценщики для таких проблем, как галлюцинации, и ставить результаты в очередь на оценку человеком.
Чего ИИ здесь не сделает
Определить, что такое хороший ответ для вашего продукта. Критерии и разметку примеров должен задать человек, а автоматические судьи сами являются моделями и тоже ошибаются.
Запускает ИИ-оценщиков против чат- и голосовых агентов, чтобы до релиза проверить галлюцинации, предвзятость, токсичность и проблемы соответствия требованиям.
Облако для тестирования ПО, прежде LambdaTest: ИИ-агенты планируют, пишут и запускают тесты для веб-, мобильных и ИИ-приложений.
Его ИИ-наблюдаемость отслеживает события, порождаемые вызовами моделей в приложении, рядом с записями сессий и отслеживанием ошибок для остальной части приложения.
Платформа данных о продукте: аналитика, запись сессий, фича-флаги, отслеживание ошибок и хранилище данных, а сверху — ИИ.
Открыть инструмент
9
Этап 9: Выпуск приложения
Приложению нужны интерфейс, учётные записи пользователей, хостинг, домен и процесс релизов с предпросмотром и откатом. Для прототипа или внутреннего инструмента всё это можно сгенерировать, а для продукта это продуманная инженерная работа.
Что здесь делает ИИ
Создать по описанию рабочее веб-приложение с интерфейсом, логикой и слоем данных, разворачивать его при каждой отправке кода и давать каждому изменению адрес предпросмотра.
Чего ИИ здесь не сделает
Заняться тем, что наступает после запуска: злоупотреблениями, ограничением частоты запросов, запросами о приватности, поддержкой и счётом за использование, который растёт с каждым пользователем.
Обрабатывает регистрацию и вход и открывает таблицы базы данных через REST-эндпоинты, так что у приложения есть бэкенд без собственного серверного кода.
Платформа разработки на Postgres с аутентификацией, готовыми API, edge-функциями, Realtime, хранилищем и векторными эмбеддингами.
от 25 $/месОткрыть инструмент
Реалистичные ожидания
Модели уверенно ошибаются
Языковая модель может выдать гладкий, но ложный ответ, а поиск по данным снижает вероятность этого, но не убирает её. Показывайте источники, где это возможно, проверяйте на реальных входных данных и не позволяйте непроверенному результату влиять на решения о здоровье, деньгах или юридических вопросах.
Данные пользователей и условия провайдеров
Каждый отправляемый вами запрос может содержать персональные или конфиденциальные данные. Проверьте условия каждого провайдера о хранении и обучении, сообщите пользователям, что обрабатывается, и рассмотрите инференс на собственных серверах или в защищённых анклавах для чувствительных задач.
Стоимость растёт вместе с использованием
Токены, кредиты, секунды GPU и вызовы инструментов — всё это тарифицируется. Функция, которая почти ничего не стоит в тестировании, может стать дорогой при длинных контекстах или циклах агентов, поэтому задайте лимиты расходов и измеряйте стоимость одного запроса.
Сгенерированный код всё равно нужно проверять
Кодирующие агенты и конструкторы приложений быстро создают работающее ПО, в том числе с уязвимостями. До появления реальных пользователей сами проверьте аутентификацию, правила доступа к данным и обращение с секретами.
Prompt injection — реальная атака
Текст, который модель читает на веб-страницах, в документах или от пользователей, может содержать инструкции. Считайте результат модели недоверенным, ограничьте набор инструментов, которые может вызывать агент, и требуйте подтверждения для всего необратимого.
Вопросы и ответы
Что выбрать: API размещённой модели или открытую модель на собственном оборудовании?
Начните с размещённого API, если нет явной причины поступить иначе. На нём быстрее строить, и не нужно заниматься эксплуатацией GPU. Запускать открытую модель самостоятельно имеет смысл, когда данные должны оставаться в вашей среде, когда нужно дообучение или когда объём настолько велик, что собственные вычисления обходятся дешевле. Многие команды делают прототип на API и возвращаются к выбору, когда становится известен объём использования.
Нужен ли фреймворк для агентов, чтобы создать ИИ-приложение?
Часто нет. Один вызов модели с хорошими инструкциями и найденным контекстом покрывает многие функции: резюмирование, классификацию, извлечение, ответы по документам. Фреймворк оправдывает себя, когда модели нужно выбирать между инструментами, выполнять несколько шагов, хранить состояние или восстанавливаться после сбоев. Если подключить его рано, добавятся и новые понятия, которые придётся отлаживать, поэтому начните с простого и переходите к фреймворку, когда простого подхода станет мало.
Может ли человек без навыков разработки создать ИИ-приложение с этими инструментами?
Прототип или внутренний инструмент — да. Конструкторы приложений из этого руководства создают по описанию рабочее веб-приложение со входом и хостингом. Продукт, который работает с данными клиентов и платежами, — другое дело: кто-то должен разбираться в безопасности, стоимости и обработке сбоев. Разумный путь — сделать прототип без кода, проверить на реальных пользователях и привлечь разработчика до масштабирования.
Как понять, что ИИ-функция достаточно хороша для запуска?
Соберите набор реальных входных данных, запишите, как выглядит правильный ответ для каждого, и оценивайте систему по нему перед каждым изменением. Включите трудные и намеренно провокационные случаи. Сочетайте автоматические проверки с ручной проверкой выборки. Запустите для небольшой группы с включённой трассировкой, прочитайте сбои и расширяйте доступ по мере того, как доля ошибок становится приемлемой для вашей задачи.
Инструменты распределяет по этапам редакция, опираясь на карточку каждого из них. Список пополняется по мере публикации новых карточек. Все руководства