Графические процессоры NVIDIA A100 стали доступны пользователям Yandex.Cloud

Пользователи Yandex.Cloud получили возможность использовать графические процессоры (GPU) NVIDIA A100 80GB, обеспечивающие самую высокую скорость работы и производительность в области искусственного интеллекта и высокопроизводительных вычислений (HPC). Новое поколение процессоров доступно для использования в виртуальных серверах Compute Cloud, работы с ML-сервисом Yandex DataSphere, а также при работе с сервисами контейнерной разработки Managed Service for Kubernetes.

Производительность GPU NVIDIA A100 в сравнении с предыдущими поколениями увеличена в два (а по некоторым тестам и в три) раза. A100 обладает самой быстрой в мире пропускной способностью памяти — более 2 ТБ/с, что позволяет работать с крупными моделями и наборами данных. Тензорные ядра с поддержкой режима Tensor Float 32 (TF32) обеспечивают самую высокую производительность HPC с момента появления GPU. 80 ГБ графической памяти позволяеют при работе с A100 сократить процесс моделирования с двойной точностью с десяти часов до менее чем четырех часов. Приложения для высокопроизводительных вычислений также могут использовать TF32 в NVIDIA A100 для достижения большей пропускной способности для точных операций.

GPU NVIDIA A100 обеспечивают быструю масштабируемость и высокую скорость тренировки моделей искусственного интеллекта и алгоритмов машинного обучения, анализа данных и высокопроизводительных вычислений (HPC). Новый графический процессор востребован для решения бизнес-задач в сфере финансовых услуг, ритейла, добывающей и обрабатывающей промышленности, строительства, фармацевтики и здравоохранения, медиа и многих других. Компании используют вычисления на GPU для прогнозирования спроса, управления заказами, подбора персонала, создания рекомендательных моделей, оптимизации логистики, анализа изображений и текста.

Сегодня решения на GPU NVIDIA A100 в Yandex.Cloud уже используются такими лидерами рынка как группа «М.Видео-Эльдорадо», компания VizorLabs. Кроме того, A100 доступны для участников программы поддержки цифровизации образовательных учреждений, к которой уже присоединились НИУ ВШЭ, МГТУ им. Н. Э. Баумана и МГУ.

В настоящее время в Yandex.Cloud предлагаются конфигурации с одной и восемью GPU NVIDIA A100 на машину, конфигурации по две и четыре GPU будут доступны уже в ближайшее время.