Команда ML Platform из Yandex Infrastructure представила Dev Cluster - инструмент для гибкого распределения GPU между ML-разработчиками. За десять лет потребность в вычислительных ресурсах для обучения нейросетей выросла с нескольких видеокарт до тысяч - и привычные подходы к управлению инфраструктурой попросту перестали работать.
От коммуналки к управляемому кластеру
Ещё в 2012 году топовую модель можно было натренировать буквально на паре GPU. Сегодня крупные технологические компании оперируют кластерами на тысячи ускорителей. Вместе с масштабом вырос и организационный хаос: как делить дефицитное железо между десятками инженеров, не превращая процесс в бесконечную очередь с записками «почистите диск»?
В Яндексе поначалу пошли по пути коммунальных виртуальных машин. Несколько команд делили общие VM с GPU - и жили в них примерно как в коммунальной квартире: с конфликтами за ресурсы, неудобным соседством процессов и полной непредсказуемостью окружения. Выделять каждому разработчику персональную GPU-виртуалку тоже не вариант: такая машина обходится примерно в 100 раз дороже обычной CPU-инстанции.
Что такое Dev Cluster и как он устроен
Dev Cluster - это Managed GPU Cluster, заточенный под локальную ML-разработку. Инструмент раздаёт инженерам изолированные контейнеры, обеспечивает честный шеринг видеокарт и позволяет бесшовно переключаться между разными конфигурациями железа или мигрировать в YTsaurus, когда задачи вырастают до промышленных объёмов. Отлаживать код удобно в лёгком контейнере, а тяжёлое обучение - уже на распределённой платформе.
- Изолированные контейнеры вместо shared-виртуалок
- Гибкое распределение GPU без ручного согласования
- Бесшовная интеграция с YTsaurus для запуска крупных тренировочных джобов
- Возможность быстро менять конфигурацию железа под задачу
Результат измерили в удовлетворённости
Разработчики инструмента не ограничились техническими метриками - они провели внутренние опросы до и после внедрения Dev Cluster. Удовлетворённость инфраструктурой выросла почти вдвое. ML-инженеры отметили, что писать и дебажить код обучения стало принципиально удобнее. Это не просто субъективное ощущение: когда команды не тратят время на борьбу с ресурсами, они быстрее итерируют эксперименты и раньше выходят на результат.
Такой подход - измерять успех платформенного инструмента через опыт конечного пользователя, а не через утилизацию железа - сам по себе показателен. Кстати, для тех, кто интересуется применением технологий в неожиданных контекстах, показателен и матч Швейцария - Канада ЧМ-2026 как пример события, где аналитические платформы на базе ML уже вовсю работают в режиме реального времени. Индустрия, которая ещё десять лет назад обходилась таблицами в Excel, сегодня требует той же вычислительной мощи, что и обучение языковых моделей.
Подробное описание архитектуры Dev Cluster и опыта его внедрения команда ML Platform опубликовала в блоге Yandex Infrastructure. Особенно интересно читать про детали шеринга GPU - там есть нюансы, которые не очевидны до тех пор, пока не столкнёшься с ними на практике.
