GPU или графические ускорители — это не просто «мощные видеокарты для игр». Сегодня они нужны для самых разных задач: от работы с искусственным интеллектом и машинным обучением до анализа видео, 3D-визуализации и научных расчётов. Именно поэтому компании всё чаще ищут удобный и гибкий способ получить доступ к таким ресурсам.
В «Турбо Облаке» мы запустили сервис «Виртуальную инфраструктуру с GPU», и первыми на рынке предлагаем его на базе новейших видеокарт NVIDIA H200.
Продукты, входящие в сервис
В «Турбо Облаке» доступны два варианта сервиса: виртуальные машины с виртуализированными GPU и Linux-контейнеры с доступом к GPU через технологию MIG. Эти продукты рассчитаны на разные сценарии и дают нашим клиентам возможность выбрать тот вариант потребления GPU, который отвечает их бизнес-задачам.
- ВМ с виртуализированными GPU
Виртуальная машина (ВМ) — это как «компьютер в облаке», который работает через интернет. Виртуализированные GPU — технология, которая позволяет делить одну физическую видеокарту на несколько частей (профилей), и клиент получает один из них.
Можно выбрать как минимальный профиль для решения базовых задач, так и профиль, соответствующий целой GPU, — для более ресурсоёмких нагрузок.
Это экономичный и гибкий способ работы с GPU: можно начать с малого и расширяться по мере роста нагрузки.
- Linux-контейнеры с доступом к GPU
Контейнер — это «лёгкая оболочка» для приложений: всё, что нужно для запуска программы, собрано в одном пакете. В этом продукте мы применяем технологию Multi-Instance GPU, или MIG: мощная видеокарта делится на логические части — до семи независимых экземпляров.
По аналогии с первым вариантом на один контейнер можно выделить, например, 1/7 – 4/7 части или целую видеокарту, что дает пользователям точный контроль над ресурсами.
Это удобно, если нагрузка растёт неравномерно: ресурсы можно увеличивать или уменьшать в любой момент.
H200 — будущее вычислений
Сервис построен на современных GPU от NVIDIA. Мы используем три модели: L4, L40s и H200. Если L4 и L40s — уже проверенные решения, которые мы используем для ВМ с виртуализированными GPU, то H200 на сегодняшний день — флагманская видеокарта, которую мы используем в контейнерах с GPU на базе MIG, и именно под неё у нас самые интересные сценарии.
Что важно знать про NVIDIA H200:
- работает на архитектуре Hopper (поколение, специально созданное для ИИ);
- имеет 141 ГБ памяти HBM3e (это сверхбыстрая память, которая обеспечивает высокую скорость обмена данными между GPU и приложениями);
- может «прокачивать» до 4,8 ТБ/с (т.е. за секунду через карту может проходить колоссальный объём информации, почти в полтора раза больше, чем у предыдущей модели H100).
Благодаря этому H200 идеально подходит для генеративного ИИ (например, чат-ботов или создания изображений по описанию), обучения больших языковых моделей, а также для высокопроизводительных вычислений в научных и инженерных областях.
Как пользоваться сервисом
Управление сервисом доступно через личный кабинет «Турбо Облака». Там можно выбирать готовые конфигурации, запускать и останавливать сервис, увеличивать или уменьшать ресурсы, отслеживать метрики и статус работы.
Сервисы «Турбо Облака»
Продукты, упомянутые в этом материале, и другие релевантные решения:
