10.06.202611:00Онлайн

Готовая облачная платформа: как быстро запускать ИИ-модели в прод?

Можно ли запускать ИИ-модели в продакшене без отдельной команды для настройки и поддержки инфраструктуры? Да, в этом поможет наш новый сервис Inference Platform. На вебинаре разобрали возможности продукта, а также практический кейс компании, которая использует платформу для ИИ-ассистента.

Спикеры

  • Денис Боженко

    Денис Боженко

    директор направления ИИ-сервисов «Турбо Облака»

  • Дмитрий Змитрович

    Дмитрий Змитрович

    Основатель KodaCode

Запуск ИИ-моделей в продакшене требует не только самой модели, но и инфраструктуры для её размещения, настройки и масштабирования. При переменной нагрузке особенно важно не переплачивать за простаивающие GPU и при этом сохранять необходимую производительность.

На вебинаре наши эксперты рассказали о подходе, который позволяет перенести инфраструктурные задачи в готовую облачную среду и сосредоточиться на работе с ИИ-моделями и приложениями.

На вебинаре обсудили:

  • как запускать собственные ИИ-модели без привлечения DevOps-инженеров для настройки инфраструктуры

  • как работать с переменной нагрузкой и оптимизировать затраты на вычислительные ресурсы

  • как быстро запускать большие ИИ-модели для агентских сценариев

  • как готовая среда для инференса помогает упростить запуск и эксплуатацию ИИ-моделей

  • как использовать Inference Platform для более широкого внедрения ИИ в бизнесе

  • как компания «Кода», разработчик ИИ-ассистента, развернула модели на платформе и масштабировала ресурсы без простоя

Сервисы «Турбо Облака»

Продукты, про которые рассказали на вебинаре: