Перейти к содержимому

MLOps ​

Планы технологического развития

Описанная функциональность находится в разработке и планируется к поставке через Магазин приложений платформы Боцман.

Ценность

Конвейер «от эксперимента до продакшена» в одном месте: трекинг, воспроизводимые пайплайны, версионирование моделей — упорядоченный ML-процесс для всей команды.

Описание ​

MLOps (МЛопс) — набор open-source инструментов для организации жизненного цикла моделей машинного обучения на платформе Боцман. Он объединяет экспериментирование, построение воспроизводимых пайплайнов и управление моделями в единый контур, который доступен всей команде.

Раздел предназначен для специалистов по данным, ML-инженеров и DevOps-инженеров, которые хотят стандартизировать процесс «от эксперимента до продакшена»: фиксировать результаты экспериментов, автоматически собирать и запускать пайплайны обучения, а также версионировать и сопровождать модели.

Состав (компоненты) ​

КомпонентЧто этоЗачем в связке
MLflowПлатформа управления жизненным циклом ML: отслеживание экспериментов, версионирование моделей, реестр моделейЕдиная точка фиксации результатов экспериментов и управления версиями моделей
Kubeflow PipelinesОркестрация воспроизводимых ML-пайплайнов на KubernetesАвтоматизация и повторяемость многошаговых пайплайнов обучения и подготовки

MLflow — открытая платформа управления жизненным циклом машинного обучения. Обеспечивает трекинг экспериментов (логирование метрик, параметров и артефактов), версионирование моделей и ведение реестра моделей. В связке выступает «единым окном» для всей команды: каждый эксперимент и каждая версия модели фиксируются и доступны для сравнения.

Kubeflow Pipelines — компонент для оркестрации воспроизводимых ML-пайплайнов поверх Kubernetes. Позволяет описывать многошаговые процессы (подготовка данных, обучение, оценка, регистрация модели) и запускать их автоматически. В связке обеспечивает воспроизводимость: один и тот же пайплайн даёт одинаковый результат при одинаковых входных данных.

Ключевые возможности ​

  • Трекинг ML-экспериментов: логирование параметров, метрик и артефактов в одном месте.
  • Воспроизводимые пайплайны обучения, которые можно перезапускать без потери результата.
  • Версионирование моделей и ведение реестра моделей для всей команды.
  • Хранение артефактов и моделей в объектном хранилище как опция развёртывания.
  • Автоматическая регистрация обученной модели и переход к её сопровождению.
  • Прозрачность и единый процесс: любой участник команды видит полную историю экспериментов.
  • Единая точка входа в ML-процесс из контура платформы Боцман.

Архитектура ​

mermaid
graph LR
    A[Эксперименты команды] --> B[Трекинг и реестр моделей MLflow]
    A --> C[Пайплайны Kubeflow Pipelines]
    C --> B
    B --> D[Хранение артефактов и моделей]
    C --> D
    D --> E[Сопровождение модели в среде платформы]

Схема отражает концептуальный контур MLOps: эксперименты команды попадают в трекинг и реестр моделей, пайплайны автоматизируют подготовку, обучение и оценку. Результаты работы — артефакты и версии моделей — сохраняются в хранилище, откуда модель переходит к сопровождению в среде платформы. Схема общая и не привязана к конкретным именам объектов: детали развёртывания уточняются по мере готовности функциональности.

Варианты использования ​

  • Фиксация и сравнение экспериментов при подборе гиперпараметров модели.
  • Автоматический запуск пайплайна подготовки данных и обучения при появлении новых данных.
  • Ведение реестра моделей: выбор лучшей версии и перевод её в продуктив.
  • Перезапуск воспроизводимого пайплайна для повторного обучения модели.
  • Начало сопровождения новой версии модели после её регистрации в реестре.

Установка ​

Описанная функциональность находится в ограниченном доступе для клиентов, поставляется через Магазин приложений платформы Боцман.

Подключение репозиториев приложений → установка из раздела «Чарты» (см. страницу Приложения (Apps)).

INFO

На текущий момент перечисленные чарты могут отсутствовать среди подключённых репозиториев приложений. Они будут добавлены по мере готовности функциональности.

Связанные страницы ​

  • AI Workspace

  • AI Training

    Набор компонентов и планы развития могут быть изменены в одностороннем порядке.

Команда Боцман