Компания Hetzner представила свой первый многопроцессорный сервер с четырьмя графическими процессорами NVIDIA Blackwell

С моделью GEX430 хостинг-провайдер Hetzner расширяет свой портфель, добавляя свой первый сервер с несколькими графическими процессорами. Новая модель оснащена четырьмя графическими процессорами NVIDIA RTX PRO 6000 Blackwell Max-Q и 384 ГБ графической памяти GDDR7 ECC. Этот высокопроизводительный выделенный сервер специально разработан для предприятий и профессиональных пользователей, которым требуется высокая вычислительная мощность для обучения ИИ, вывода больших языковых моделей (LLM), тонкой настройки, а также для сложных задач рендеринга и моделирования.
Четыре высокопроизводительных графических процессора позволяют запускать особенно ресурсоемкие модели ИИ и работать с несколькими моделями параллельно. Это позволяет компаниям объединять различные приложения ИИ на одном сервере. Например, одна языковая модель может использоваться для поддержки клиентов, другая — для помощи разработчикам в программировании, а третья — для автоматической обработки входящих запросов. Эти задачи могут быть распределены между отдельными графическими процессорами.
Доступная графическая память также играет центральную роль в выполнении задач искусственного интеллекта. Требования к памяти значительно возрастают, особенно при обработке большого объема одновременных запросов. Благодаря общему объему видеопамяти в 384 ГБ, GEX430 предлагает значительные ресурсы для обработки больших языковых моделей и одновременного обслуживания множества пользователей. Это выгодно, например, компаниям, использующим чат-боты с искусственным интеллектом в службе поддержки клиентов или внутренним информационным ассистентам для своих сотрудников.
Особенно когда речь идет о выводе данных в рамках искусственного интеллекта, графическая память так же важна, как и вычислительная мощность. Чем больше запросов обрабатывает модель одновременно, тем больше памяти ей, как правило, требуется. Благодаря четырем графическим процессорам и общему объему видеопамяти в 384 ГБ, GEX430 предлагает достаточный запас для ресурсоемких приложений ИИ. Компании могут использовать его, например, для параллельного запуска нескольких языковых моделей или для предоставления своих услуг ИИ большому количеству одновременно работающих пользователейговорит Стефан Вайберг, менеджер по продуктам в Hetzner.
Каждая из четырех видеокарт NVIDIA RTX PRO 6000 Blackwell Max-Q оснащена 96 ГБ видеопамяти GDDR7 ECC и поддерживает современные технологии искусственного интеллекта, такие как тензорные ядра пятого поколения, ядра RT четвертого поколения и FP4. Конфигурация видеокарт дополнена процессором Intel Xeon Gold 5412U с 24 ядрами и 48 потоками, 128 ГБ регистрируемой памяти DDR5 ECC и двумя твердотельными накопителями NVMe Datacenter Edition (Gen4) объемом 1,92 ТБ каждый.
Благодаря GEX430 компании могут запускать модели искусственного интеллекта с открытым исходным кодом, такие как GLM, Mistral или Qwen, на выделенном оборудовании в пределах ЕС, не полагаясь на внешние платформы ИИ. При соответствующей настройке конфиденциальная информация, такая как внутренние документы, данные клиентов или исходный код, остается в собственной серверной среде компании. Это создает благоприятные условия для выполнения индивидуальных требований по защите данных и соблюдению нормативных требований. В то же время пользователи сохраняют контроль над используемыми моделями, своими данными и конфигурацией инфраструктуры.
Маршрутизатор Hetzner GEX430 доступен по цене 3 599,00 евро / 4 199,00 долларов США в месяц, включая IPv4-адрес. Единовременная плата за настройку также составляет 3 599,00 евро / 4 199,00 долларов США.
Дополнительную информацию можно найти по адресу www.hetzner.com/dedicated-rootserver/matrix-gpu/
Все цены указаны без НДС.
0 комментариев
Вставка изображения
Оставить комментарий