Рейтинг
0.00

FirstDedic Хостинг

5 читателей, 240 топиков

Ollama: как развернуть свою модель и подключить её к приложению



Когда приложение обращается к внешнему API LLM, часть инфраструктурных задач уже решена провайдером: он размещает модель, масштабирует вычисления и поддерживает endpoint. При локальном развертывании модели эти задачи приходится решать самостоятельно.

Здесь на помощь приходит Ollama — это сервис, который позволяет загружать и запускать совместимые модели, а также предоставляет интерфейсы для администрирования — CLI для базового взаимодействия, UI для общения в окне чата и HTTP API для интеграции. Ollama можно использовать на рабочей станции для проверки гипотезы, а затем развернуть на отдельном сервере, к которому обращаются приложения и внутренние пользователи. При этом опыт управления, конфигурации и взаимодействия с моделью будет идентичен.

В этой статье расскажем, как установить Ollama на Linux-сервере, запустить нейросеть и подключить модель к приложению. Но прежде чем переходить к настройке, разберёмся, в каких случаях вообще стоит запускать AI-модель самостоятельно на своём сервере.

1dedic.ru/blog/article/ollama-kak-razvernut-svoyu-model-i-podklyuchit-eyo-k-prilozheniyu

https://firstdedic.ru

Позаботьтесь о резервных копиях заранее



Регулярное резервное копирование и хранение бэкапов отдельно от основных данных помогают снизить риск потери информации и повысить шансы на её восстановление.

Для дополнительного хранения резервных копий предлагаем наше объектное S3-хранилище.
Его преимущества:
  • Масштабируемость. Автоматическое увеличение объёма с возможностью установить лимиты.
  • Репликация данных. Данные хранятся в двух копиях на независимых серверах в дата-центре IXcellerate.
  • Простая интеграция. Поддержка S3 API для работы с вашей инфраструктурой.
  • Прозрачная тарификация. 750 ₽/мес. за 300 ГБ, далее — 2,5 ₽/ГБ в месяц. Трафик и операции с данными не тарифицируются.

1dedic.ru/services/s3

Специальные условия на аренду серверов



Если проекту требуется больше производительности, отказоустойчивости и гибкости в настройке, в рамках осенней акции доступны специальные условия на гибкие конфигурации:
  • 15% — на Xeon Scalable
  • 20% — на AMD Ryzen
  • 30% — на Intel Xeon E5 и E3

Скидка действует при заказе нового сервера на срок 1, 3, 6 или 12 месяцев и суммируется со специальной ценой за период оплаты.

Вместе с сервером предоставляются:
  • выделенный IPv4-адрес
  • неограниченный трафик 100 Мбит/с

Количество конфигураций по акции ограничено.

Предложение действует до 22 октября.



https://firstdedic.ru

Серверы под данные и бэкапы со скидкой до 35%



Хотим напомнить, что наш аукцион — простой способ арендовать сервер по выгодной цене. Сейчас доступны конфигурации с процессорами Intel Xeon E3 и Xeon E5:
  • с HDD — для хранения больших объёмов данных и бэкапов;
  • с SSD — для сервисов, где важна высокая скорость работы с данными;
  • с HDD и SSD — для проектов со смешанными нагрузками.

Цена на лоты снижается каждый день — пока их не выкупят или не завершится время аукциона.
Присмотритесь к новым конфигурациям, пока они ещё в наличии.
Подписывайтесь на наш тг-канал аукциона, чтобы следить за снижением стоимости интересных лотов.
t.me/firstdedic_auction_2020


Ищем авторов в блог и базу знаний



Наша компания растёт, а вместе с ней — потребность в статьях и инструкциях. Поэтому запускаем поиск авторов для подготовки материалов в наш корпоративный блог, базу знаний и на другие площадки.

Ищем автора, который:
  • Умеет вникать в тему, объяснять сложные вещи простым языком, логично и структурировано.
  • Разбирается в IT (администрировании, разработке, DevOps, компьютерном железе и других смежных областях). Нам важен экспертный взгляд, поэтому мы ищем практикующих специалистов, а не просто копирайтеров.
  • Готов работать в тесной связке с редактором.
  • Автор может сам предложить тему для статьи (например, если в нашей базе знаний не хватает какой-нибудь инструкции). Или выбрать тему из нашего списка. А ещё вы можете принести готовую статью — если она нам подойдёт, опубликуем и оплатим.

Как работаем:
  • Вместе готовим развёрнутый план статьи или выдаём автору готовое техническое задание.
  • Согласовываем комфортные сроки, после чего автор готовит драфт и присылает нам (лучше всего ссылкой на гуглодок).
  • Редактор проверяет текст, при необходимости подключает экспертов компании, передаёт автору аргументированные замечания и предложения.
  • После внесения правок финализируем текст, ставим его в оплату и переводим гонорар в течение пяти рабочих дней.
  • Дизайнер готовит иллюстрации, материал уходит в вёрстку и публикуется на выбранной площадке.

Какие материалы принимаем:
  • Авторские — с уникальностью не менее 75% по оценке text.ru.
  • Проработанные — не принимаем недостоверные статьи или тексты, полностью написанные ИИ.
  • Нейтральные — не публикуем статьи с эмоциональными оценками и резкой безосновательной критикой, спорные темы (политика, религия), которые могут быть восприняты как оскорбительные.
  • Подходящие по объёму и формату с учётом выбранной площадки.

Как стать автором:
Напишите нам на почту edit@firstdedic.ru с рассказом о своём опыте и экспертности, приложите портфолио со своими статьями, если оно есть. В теме письма укажите «Хочу быть автором» и ждите ответа — пришлём обратную связь в течение 3–5 рабочих дней.

Можно написать одну статью и на этом остановиться, а можно продолжить сотрудничество и войти в пул наших постоянных авторов — решать вам.

В этом случае можем заключить официальный договор. Работаем с физлицами, самозанятыми и ИП.

Сколько можно заработать:
Гонорар в среднем — от 7 до 15 тысяч рублей за материал.
1dedic.ru/docs/main/usloviya_dlya_avtorov.pdf

До -30% на выделенные серверы этой осенью



Осенью бизнес набирает обороты, а сайты и сервисы получают больше посетителей и заказов. Добавьте проекту больше мощности с помощью выделенного сервера на выгодных условиях и встречайте высокий сезон спокойно.

С 22 сентября по 22 октября проводим «Осеннюю распродажу серверов» — скидки до 30% на гибкие конфигурации.
1dedic.ru/promo/sale-autumn

Скидка 15%
На гибкие конфигурации на базе процессоров:
Xeon Scalable
  • Silver-4516Y+ 2.2-3.7ГГц (24 ядра)
  • Silver-4210 2.2-3.2ГГц (10 ядер)

Скидка 20%
На гибкие конфигурации на базе процессоров:
AMD Ryzen
  • Ryzen 9 5950X 3.4-4.9ГГц (16 ядер)
  • Ryzen 9 3900X 3.8-4.6ГГц (12 ядер)
  • Ryzen 9 9950X 4.3-5.7ГГц (16 ядер)
  • Ryzen 9 7950X 4.5-5.7ГГц (16 ядер)

Скидка 30%
На гибкие конфигурации на базе процессоров:
Intel Xeon Е5
  • E5-2630v4 2.2-3.1ГГц (10 ядер)
  • E5-2620v4 2.1-3.0ГГц (8 ядер)
  • E5-2630v3 2.4-3.2ГГц (8 ядер)
  • E5-2640v4 2.4-3.4ГГц (10 ядер)
Intel Xeon Е3
  • E3-1270v6 3.8-4.2ГГц (4 ядра)
  • E3-1230v6 3.5-3.9ГГц (4 ядра)
Скидка действует при заказе нового сервера на любой выбранный период (1, 3, 6 или 12 месяцев) и суммируется со специальной ценой за период. Чем дольше период оплаты, тем больше выгода.

С каждым сервером вы получаете бесплатный выделенный IPv4-адрес и неограниченный трафик 100 Мбит/с.

https://firstdedic.ru

Большим дискам быть!



Пора отложить сомнения и начать действовать.
Приглашаем на аукцион активных и бойких за мощными серверами с большим объемом дисков по очень выгодным ценам.

Скидка фиксируется на весь срок аренды сервера.
Правила те же: в аукционе побеждает тот, кто не боится действовать.
Берите сервер, пока кто-то другой не перехватил его у вас из-под носа.

Количество серверов ограничено.
С уважением и драйвом,
Команда FirstDEDIC



t.me/FirstDEDIC

S3 переезжает на новый домен



Мы продолжаем развивать инфраструктуру и повышать отказоустойчивость объектного хранилища S3. В рамках работ сервис переводится на отдельный домен второго уровня.

Что изменится:
  • s3.1dedic.ru → s3dedic.ru — основной endpoint S3 для API-запросов, загрузки и скачивания объектов;
  • s3w.1dedic.ru → web.s3dedic.ru — домен для статических сайтов.
Если на вашем сайте или в приложении используются публичные ссылки на файлы из S3, замените в них старый домен на новый. Обновить ссылки необходимо до 28 августа включительно.

Новый домен уже работает. Для плавного перехода со старого адреса настроен временный автоматический редирект, поэтому файлы будут доступны.

Если потребуется помощь, обратитесь в службу поддержки — мы на связи.
1dedic.ru

Маловато не будет. Сервер с 72 ТБ на аукционе



Кто бы что ни говорил, а место — это важно. Особенно когда диск уже тихонько намекает, что пора разбирать завалы. На нашем аукционе появились выделенные серверы с объёмом дисков до 72 ТБ. Теперь места будет столько, что можно будет перестать решать, что удалять, и просто всё сохранить. Заходите посмотреть конфигурации, пока их не разобрали.




t.me/firstdedic_auction_2020

Внутри ваш ускоритель производительности



Представляем вашему вниманию высокопроизводительные серверы с GPU — идеальное решение для сложных и ресурсоёмких задач.

Независимо от того, занимаетесь ли вы машинным обучением, аналитикой больших данных или 3D-моделированием, наши серверы обеспечат необходимую мощность и надежность.

Серверы оснащены видеокартами Nvidia последнего поколения, такими как L4, L40, L40S, RTX 6000 Ada, RTX 4090, RTX 4090 TURBO, RTX 5090, RTX PRO 6000 Blackwell SE, и H100, объёмом от 24 до 96 Гб, что позволяет эффективно справляться с параллельными вычислениями и многозадачностью.

Преимущества серверов с GPU:
  • Высокая производительность: серверы на базе процессоров AMD EPYC и Ryzen обеспечивают стабильность и скорость для самых сложных проектов.
  • Гибкая настройка: возможность установки до 8 GPU, а также выбора объёма RAM и типа накопителей (SSD или NVMe) в соответствии с вашими требованиями.
  • Полный контроль: доступ через IPMI/IP-KVM и установка собственных операционных систем.

Входит в стоимость сервера:
  • Бесплатное предоставление IPv4-адреса.
  • Безлимитный трафик и возможность расширения до 10 Гбит/с.
  • Круглосуточная техподдержка и помощь в настройке.

https://firstdedic.ru