Label Studio
Открытая платформа для разметки данных и оценки ИИ-моделей с участием человека.
Label Studio — платформа с открытым кодом для разметки данных и оценки ИИ от HumanSignal. Label Studio устанавливают через pip, Homebrew или Docker и используют в браузере, чтобы размечать изображения, видео, текст, аудио и временные ряды и чтобы люди-проверяющие оценивали ответы LLM, ответы RAG и трассы агентов.
Подходит для Командам и исследователям в области машинного обучения, которым нужен один self-hosted инструмент для разметки данных разных типов и для оценки ответов моделей человеком.
- Платформы
- Web, API
- Модель оплаты
- Freemium
- Бесплатный тариф
- Да
- API
- Да
- Разработчик
- HumanSignal, Inc.
- Добавлен
Последняя проверка: . Источник информации: labelstud.io.
Что такое Label Studio?
Label Studio — платформа с открытым кодом для разметки данных и оценки ИИ, которую поддерживает HumanSignal. Команды устанавливают её сами через pip, Homebrew, Docker или из Git-репозитория и затем открывают в браузере. В одном инструменте можно работать со многими типами данных: изображениями и видео для классификации, обнаружения объектов, трекинга и сегментации; документами и текстом для OCR, распознавания именованных сущностей и анализа тональности; аудио для транскрибации и диаризации; временными рядами с датчиков. Более новая группа шаблонов относится к генеративному ИИ: оценка LLM по собственным рубрикам, оценка ответов RAG, сбор предпочтений для RLHF и проверка трасс агентов. Интерфейсы разметки настраиваются, для предварительной разметки можно подключить хранилища и модели, а API, Python SDK и вебхуки встраивают платформу в ML-пайплайны. Отдельно предлагается и редакция Enterprise.
Ключевые возможности
Мультимодальная разметка
Размечает изображения, видео, текст, документы, аудио и временные ряды в одном приложении.
Инструменты для компьютерного зрения
Рисует рамки, многоугольники, окружности и ключевые точки и отслеживает несколько объектов от кадра к кадру.
Оценка LLM и агентов
Поддерживает собственные бенчмарки, сравнение моделей рядом, оценку ответов RAG и проверку трасс агентов человеком.
Настраиваемые интерфейсы
Позволяет задавать макеты и шаблоны, которые соответствуют данным, задаче и критериям оценки.
Интеграция в пайплайны
Предлагает API, Python SDK и вебхуки для создания проектов, потоковой передачи предсказаний и запуска обучения или оценки.
Разметка с помощью моделей
Подключает ML-модели для предварительной разметки элементов и синхронизирует данные из внешнего хранилища.
Как работает Label Studio
Установите
Добавьте пакет через pip, используйте cask Homebrew, скачайте образ Docker или соберите из Git-репозитория.
Запустите
Запустите сервер командой label-studio и откройте его в браузере; в примере с Docker он доступен на порту 8080.
Импортируйте и размечайте
Загрузите данные, выберите или настройте шаблон разметки и приступайте к аннотированию.
Сценарии использования
- Датасеты для обнаружения объектов
- Команда по компьютерному зрению рисует ограничивающие рамки и многоугольники на изображениях, чтобы обучить детектор.
- Извлечение данных из документов
- Разметчики отмечают сущности в PDF и отсканированных страницах, чтобы собрать обучающие наборы для NER и OCR.
- Анализ записей звонков
- Аудио колл-центра расшифровывается, делится по говорящим и размечается как текст в одной задаче.
- Проверка ответов LLM
- Проверяющие оценивают ответы модели по рубрике или сравнивают две модели рядом.
- Сегментация данных датчиков
- Инженеры отмечают области активности и отдельные события во временных рядах с устройств.
Что важно знать
- Размещать нужно самостоятельно
- Версия с открытым кодом — это программа, которую вы устанавливаете и запускаете сами, а не облачный сервис с регистрацией.
- Некоторые интерфейсы — функции Enterprise
- В записях блога на сайте интерфейсы аннотирования DICOM и LiDAR описаны как часть Label Studio Enterprise.
- Есть две редакции
- На сайте есть ссылки на Community Edition и платформу Enterprise, а также страница для сравнения версий.
Вопросы и ответы
Что такое Label Studio?
Label Studio — программа с открытым кодом от HumanSignal для разметки данных и для привлечения людей-проверяющих при оценке ИИ-систем.
Для чего нужен Label Studio?
Label Studio нужен, чтобы размечать обучающие данные для машинного обучения и чтобы люди проверяли и оценивали ответы ИИ-моделей, в том числе LLM и агентов.
Label Studio бесплатный?
Community-редакция Label Studio имеет открытый код, и её можно скачать с сайта. HumanSignal также предлагает редакцию Enterprise; цены на неё на главной странице нет.
Как установить Label Studio?
Label Studio можно установить через pip, через cask Homebrew, запустив образ Docker или клонировав Git-репозиторий.
Есть ли у Label Studio API?
Да. Label Studio предоставляет API, Python SDK и вебхуки для подключения к ML- и ИИ-пайплайнам.
Какие типы данных поддерживает Label Studio?
Label Studio поддерживает изображения, видео, текст и документы, аудио, временные ряды и мультимодальные сочетания этих типов.
Кто разрабатывает Label Studio?
Label Studio разрабатывает компания HumanSignal, Inc., названная в нижней части сайта.
Кому подойдёт
- ML-инженеры
- Специалисты по данным
- Команды разметчиков
- Исследователи ИИ
- Академические лаборатории
Используется в руководствах
- Создание приложения на основе ИИ: набор инструментов, слой за слоемЭтап 8: Оценка и мониторинг
Каждое руководство разбивает одну задачу на этапы и показывает инструменты для каждого из них. Все руководства
Комментарии
Комментариев пока нет. Если вы пользовались Label Studio, расскажите другим читателям, как всё прошло.
Аналоги Label Studio
| Инструмент | Бесплатный тариф | Начальная цена | API |
|---|---|---|---|
| Да | — | Да | |
| — | — | Да | |
| — | — | Да | |
UltralyticsПлатформа компьютерного зрения от создателей YOLO: разметка данных, обучение моделей на облачных GPU и их развёртывание. |
Да | — | Да |
| — | — | Да |
Из тех же категорий, что и Label Studio. Начальная цена указана, только если мы проверили её на странице цен разработчика; прочерк означает, что цена не проверена или не опубликована. Все инструменты в категории «Распознавание изображений и OCR»