Поставщик облачных услуг OVHcloud продолжает продвигать свою приверженность демократизации искусственного интеллекта в соответствии с открытым и заслуживающим доверия облаком. Кроме того, в предложение добавляются дополнительные графические процессоры (GPU) Nvidia и модели языка искусственного интеллекта с открытым исходным кодом.

OVHcloud предлагает решения, охватывающие проекты, от создания моделей искусственного интеллекта до вывода новейших LLM («Большие языковые модели»). Сюда также входят новейшие графические процессоры в составе портфолио общедоступных облаков: они доступны по запросу и состоят из новейшего оборудования Nvidia серий «H100 Tensor Core », «L4 Tensor Core» и «L40S». Последние являются новыми для программы и призваны сочетать высокую вычислительную мощность искусственного интеллекта с мощным ускорением графики и мультимедиа и, таким образом, поддерживать широкий спектр рабочих нагрузок.

В этом контексте OVHcloud также представила новые выделенные серверы без операционной системы на базе оборудования Nvidia «L40S». Серверы серии «High Grade» предназначены для таких случаев использования, как глубокое обучение (DL), машинное обучение (ML) и высокопроизводительные вычисления (HPC).

Они используют два процессора AMD Epyc 9354 и обеспечивают 64 ядра со 128 потоками и 384 гигабайта памяти DDR5. При необходимости основную память можно расширить до 2,3 терабайта. В зависимости от модели на один сервер можно установить до четырех «L40S» по 48 гигабайт памяти каждый. Специализированные инструменты для рабочих нагрузок ИИ упрощают использование предложений OVHcloud AI.

Интегрированные модели с открытым исходным кодом, такие как «Llama» и «Mixtral».
С помощью «Конечных точек ИИ» OVHcloud предлагает бессерверную систему, которая обеспечивает доступ к различным моделям ИИ через интерфейсы («Конечные точки API »). Предыдущие знания со стороны пользователя требуются лишь в ограниченной степени.

Прежде чем разработчики начнут использовать интерфейсы, они могут протестировать свои конечные точки на «игровой площадке». Из-за высокого спроса облачный провайдер теперь добавил LLM с открытым исходным кодом, такие как «Mixtral 8x22b» и «Llama 3», а также модели, оптимизированные Nvidia для таких задач, как автоматическое распознавание речи (ASR).

По словам провайдера, модели ИИ сразу же готовы к работе и пригодны к использованию. Таким образом, OVHcloud стремится помочь снизить барьеры на пути разработки успешных бизнес-моделей на основе искусственного интеллекта в Европе. Компания постоянно фокусируется на четырех ключевых элементах использования ИИ: мощных и эффективных вычислительных ресурсах, оптимизированных наборах данных, программных инструментах и ​​современных возможностях.

Новые варианты графического процессора Nvidia теперь доступны во «Вселенной публичного облака». Новые серверы «High Grade» (HGR-AI-2) с графическими процессорами Nvidia L40S первоначально появятся во Франции и Канаде по ценам от 2970 евро в месяц. Дополнительные модели ИИ теперь доступны через OVHcloud «Конечные точки AI».

www.ovhcloud.com/en-ie/bare-metal/high-grade/hgr-ai-2/

2x AMD Epyc 9354 64c/128t 3.25GHz/3.8GHz
384GB DDR5 ECC 4800MHz
2× 3.84TB SSD NVMe Soft RAID
100Gbit/s unmetered and guaranteed
2x NVIDIA L40S 80GB or 4x NVIDIA L40S 80GB

Запустив AI Deploy в апреле прошлого года, OVHcloud позиционирует себя на быстро растущем рынке: предоставление инструментов ИИ и предварительно обученных моделей для ускорения развертывания приложений на основе ИИ в производстве. На данный момент скандинавский поставщик объявляет об интеграции библиотеки предварительно обученных моделей от французского самородка Lettria.

Таким образом, скандинавский поставщик намерен предложить комплексное и управляемое предложение для специалистов по данным и разработчиков на этапах управления проектами ИИ и развертывания моделей или приложений машинного обучения. Благодаря AI Deploy и другим сопутствующим сервисам, таким как AI Notebooks, для подготовки ноутбуков, он предлагает полностью управляемую рабочую среду AI и такие среды разработки, как TensorFlow, PyTorch, Hugging Face и Scikit-learn. Цель этой услуги — упростить и ускорить развертывание моделей ИИ в производстве, предлагая интегрированную библиотеку, которая в конечном итоге будет включать ряд предварительно обученных моделей от надежных партнеров.

Инструменты для перехода от идеи к производству
Теперь OVHCloud завершает свое предложение, интегрируя первую библиотеку предварительно обученных моделей, модели Lettria. Напоминаем, что Lettria — французский стартап, основанный в 2019 году для разработки и продвижения платформы искусственного интеллекта без кода, предназначенной для обработки языков. Целью основателей является разработка инструментов, позволяющих компаниям перейти от идеи к производству проектов в области наук о данных, основанных на обработке естественного языка.

В октябре 2022 года стартап объявил о сборе средств в размере пяти миллионов евро от Galion.exe, Jezby Ventures (Octave Klaba / OVH) и Business Angels. Благодаря этому новому раунду финансирования Lettria, среди клиентов которой уже есть такие крупные группы, как La Poste и Leroy Merlin, а также стартапы, намерена продолжить разработку своей платформы искусственного интеллекта без кода и ее международную экспансию.

AI Deploy — это управляемая служба, которая абстрагируется от сложности инфраструктуры и размеров. Его цель — позволить пользователям сосредоточиться на использовании данных для создания ценности. Разработанный для специалистов по данным и инженеров ИИ, AI Deploy также упрощает работу разработчиков, помогая им развертывать предварительно обученные модели ИИ и интегрировать их в свои приложения.

Предварительно обученные модели для анализа настроений
Предварительно обученные модели имеют широкий спектр применения. Ключевые области включают обработку естественного языка, голосовой ИИ, компьютерное зрение, здравоохранение, кибербезопасность, художественные и творческие рабочие процессы. Например, предварительно обученные модели можно использовать для перевода, чат-ботов и других приложений обработки естественного языка. Их также можно использовать для трансферного обучения, выделения признаков и классификации.

Интегрируя шаблоны Lettria, OVHCloud теперь предлагает шаблоны
предварительно обучен для анализа настроений. Другие модели Lettria, в которых добавлены функции обнаружения сущностей, присоединятся к AI Deploy летом вместе с другими партнерами. В соответствии с обязательством OVHCloud по предсказуемости затрат, биллинг AI-Deploy основан на использовании с неограниченным количеством вызовов API. Плата за использование ресурсов AI Deploy взимается в дополнение к лицензионным сборам для предварительно обученных моделей, которые различаются в зависимости от развертывания GPU/CPU и их реплик.