Как обучить ИИ в облаке
Приветствуем вас, дорогие коллеги, от имени компаний Цифровые привычки и immers.cloud и сегодня хотим поделиться с вами нашим успешным кейсом!
Компания «Цифровые привычки»:
- Занимаемся разработкой ПО уже 10 лет
- Входим в топ 5 ключевых подрядчиков для Сбербанка
- Реализовали более 200 проектов в различных сферах
- Цифровизация крупного бизнеса (Сбер, Альфа-банк, ВТБ, Optisystem)
- Наша команда-профессионалов всегда найдет эффективное IT-решение!
Становитесь партнером Цифровых привычек!
2 года назад запустили разработку нового продукта «CodeAche».
Это система для определения технического долга в коде.
dhabits.ru
Проблема:
В начале, мы приступили к проектированию модуля интеллектуального рефакторинга кода на нашей инфраструктуре. Это вызвало потребность в высокопроизводительном и дорогостоящем оборудовании. Стоимость мощных видеокарт возросла. Бюджетные ограничения также имели место быть.
Приобретение собственного сервера было не совсем удобно, так как наша компания имеет несколько географических локаций. Покупка такого оборудования связана с большими затратами: расходы на привлечение специалистов, организацию кондиционирования, обеспечение стабильного доступа, обслуживание, резервное копирование и прочее.
Решение:
Мы начали искать ресурсы в других компаниях. Провели интернет-исследование, задав поисковый запрос “Аренда GPU NVIDIA A100 80 Гб”. Изучили все компании, предоставляющие услуги аренды серверов. После этого сравнили крупнейшие предложения от Selectel и Yandex Cloud. Их цены оказались слишком высокими для нас.
Другие компании, такие как GPU DC и Unit7.ru, предлагали цены на корпоративном уровне или ниже, однако они не имели необходимой нам конфигурации или же время ожидания составляло от 45 до 60 дней. Средняя стоимость составляла около 250 тысяч рублей в месяц.
В результате нашего исследования мы обнаружили immers.cloud. После обращения в эту компанию, нам была предложена необходимая конфигурация по цене 115 тысяч рублей в месяц (на апрель 2023 года), что в 1.5-2 раза меньше, чем у других компаний. Оборудование было предоставлено нам в аренду в течение одного дня.
В результате получили:
- Высокопроизводительные мощности NVIDIA А100, которые вписались в наш бюджет и позволили выполнить все работы по развитию модуля рефакторинга кода в срок
- Оперативную помощь от технической поддержки до оплаты и использования инфраструктуры. При неправильно выбранном тарифе, коллеги обратили на это внимание, откорректировали нам оплату, показав, что клиент для них важнее сиюминутной выгоды
- Возможность работать без задержек и эффективно обучать наши модели
Наши планы:
Продолжить сотрудничество с компанией «immers.cloud», поскольку наша следующая задача — коммерциализировать обученные модели и для этого нам надо масштабироваться.
Несколько слов об облачном сервисе immers.cloud:
- Более 4 лет на рынке облачных услуг
- Входит в топ-3 российских облачных провайдеров GPU Cloud 2023
- Собственный инновационный ЦОД в Москве
- Мощный серверный парк
- Самый большой ассортимент видеокарт NVIDIA:
RTX: А5000, 4090, 3090, 3080, 2080Ti
Tesla: A2, A10, T4, V100
, А100, Н100
- Одни из самых дешевых цен на аренду GPU
- Специализация immers.cloud — создание кластера для работы с нейросетями.