Технические работы (13-15 мая)



Для повышения стабильности DNS и сети в целом мы проведём технические работы в зонах доступности: 13 мая — ru-central1-a, 14 мая — ru-central1-b, 15 мая — ru-central1-c. Работы будут проводиться с 09:00 по 17:00 по Московскому времени. Ожидаемый перерыв сетевой связности во время работ составит не более 10 секунд.
Если у вас возникнут вопросы или проблемы при работе с сервисами после проведения технических работ, пожалуйста, обратитесь в службу технической поддержки. Форма обращения находится в консоли управления. Вы также можете написать в ответ на это письмо. Наши специалисты ответят на ваши вопросы и помогут с решением проблем — по почте или через чат.

С 1 мая снизятся расценки на вычислительные ресурсы прерываемых виртуальных машин




С 1 мая 2019 года для всех пользователей сервиса Yandex Compute Cloud в Яндекс.Облаке снижаются расценки на вычислительные ресурсы прерываемых виртуальных машин. Цены поменяются для виртуальных машин на платформе Intel Broadwell с производительностью 20% vCPU и для виртуальных машин на платформе Intel Cascade Lake с производительностью 20% vCPU и 50% vCPU.

Вот как изменятся расценки:


Цены снизятся почти вдвое. Если вы ещё не знакомы с Yandex Compute Cloud, сейчас самое время попробовать!
Подробное описание тарифов можно найти в нашей документации.

Новые процессоры Intel в Облаке и возможности для экономии



В Yandex Compute Cloud теперь можно создавать виртуальные машины на базе нового поколения процессоров Intel Xeon Gold (Cascade Lake). Благодаря сотрудничеству Яндекса и Intel мы первыми в России предлагаем своим пользователям мощности новых процессоров Intel Xeon Gold среди облачных провайдеров.
Мы протестировали новые процессоры в Облаке и подтвердили, что виртуальные машины на Intel Xeon Gold производительнее, чем ВМ на процессорах предыдущей линейки.
При этом виртуальные машины на базе новых процессоров обойдутся вам дешевле: например, наша самая популярная конфигурация в 2 vCPU, 4 RAM и диском 13 ГБ обойдётся в 1673.89 ₽ в месяц. Такая же конфигурация на процессорах предыдущей линейки стоит 1740.56 ₽.


Вы сможете сэкономить ещё больше, если выберете виртуальную машину с частичной загрузкой ядра — 5%, 20% или 50% vCPU. Например, та же конфигурация ВМ 2 vCPU, 4 RAM и диском 13 ГБ, но с гарантированной долей 20% vCPU будет стоить 1037.98 ₽.


Управляемые базы данных в Облаке теперь тоже доступны по более выгодным ценам. Разверните БД с неполным уровнем производительности хоста (burstable) и используйте их для тестирования и разработки — такие БД стоят от 530 ₽ в месяц.


Подробности о новых процессорах и их возможностях читайте в документации.
cloud.yandex.ru/docs/compute/concepts/vm-platforms
Чтобы работать с ВМ на базе нового поколения процессоров, выбирайте Intel Cascade Lake при создании ВМ в поле «Тип платформы».
cloud.yandex.ru

В общий доступ выходит Instance Groups – компонент для управления группами виртуальных машин




Мы сделали работу в Облаке ещё немного удобнее. Из стадии Preview в общий доступ вышел компонент Yandex Instance Groups. Он упрощает развертывание и управление группами однотипных виртуальных машин.

Вам достаточно указать характеристики и количество виртуальных машин и задать политики, по которым они будут создаваться и восстанавливаться в случае возможного сбоя. Instance Groups самостоятельно проведет развертывание и будет следить, чтобы количество и статус машин в группе соответствовали настроенным политикам. Политики описывают, в каких зонах доступности размещать, каким образом создавать, проверять работоспособность и масштабировать виртуальные машины. Всего вы можете развернуть до 10 групп в одном облаке.

Виртуальные машины внутри группы могут распределяться между разными зонами доступности Яндекс.Облака. Зоны изолированы друг от друга: локальный сбой в одной не повлияет на работоспособность остальных. Распределение по нескольким зонам доступности увеличивает отказоустойчивость приложений и заметно снижает вероятность потери данных. Если сбой всё-таки произошёл, Instance Groups выявит и перезапустит неработоспособную виртуальную машину автоматически.

На этом возможности Instance Groups по обеспечению отказоустойчивости приложений не исчерпываются. Компонент интегрирован с сервисом Yandex Load Balancer) и позволяет использовать группу виртуальных машин в качестве целевой группы сетевого балансировщика нагрузки. Если параметры или состав группы изменятся, балансировщик подстроится автоматически.

Сейчас в Instance Groups действует фиксированная политика масштабирования группы при увеличении или уменьшении нагрузки. В ближайшее время станет доступна функция гибкого автоматического масштабирования.

Обратите внимание: выполнение операций в Instance Groups, таких как создание, обновление и удаление виртуальных машин, возможно только от имени сервисного аккаунта.

Подробности здесь:
Начало работы
Текущие квоты и лимиты
Документация

Управление Apache Hadoop в Облаке, MySQL в общедоступной версии и новые классы хостов




Сегодня у нас три новости о дополнительных инструментах для всех, кто работает с данными. Для распределенного хранения и обработки больших объемов появляется возможность попробовать развертывание кластеров Apache Hadoop и Apache Spark в инфраструктуре Яндекс.Облака. Тех, кто делает web-проекты, обрадует переход Yandex Managed Service for MySQL в общедоступную версию. А для случаев, когда вам не нужна максимальная производительность виртуального ядра, мы запустили новые классы хостов для кластеров БД. Их использование стоит в 3,5 раза дешевле самого выгодного из прежних вариантов.

Первое событие — запуск нового сервиса Yandex Data Proc, который помогает разворачивать кластеры Apache Hadoop и Apache Spark в инфраструктуре Яндекс.Облака. При этом пользователь самостоятельно определяет размер кластера, мощность узлов и набор сервисов Apache (Spark, HDFS, YARN, Hive, HBase, Oozie, Sqoop, Flume, Tez, Zeppelin).

Вы можете создавать постоянно запущенные кластеры, а можете создавать их в один клик для временных расчётов и останавливать или удалять по требованию. Данные при этом можно сохранять либо в HDFS поверх сетевых дисков Яндекс.Облака, либо в Object storage. Это даёт гибкие возможности экономии для распределённого хранения и обработки данных.

Вторая новость: запуск новых классов хостов для кластеров БД с частичным использованием vCPU. Для наших пользователей хосты в кластерах Managed Service for PostgreSQL, Managed Service for MySQL, Managed Service for MongoDB и Managed Service for ClickHouse разворачиваются на базе виртуальных машин Yandex Compute Cloud. Эти виртуальные машины могут быть созданы на любой из платформ, которые поддерживает Compute Cloud, а класс хостов определяет вычислительные мощности и объем хранилища, которые выделяются для каждого хоста в кластере.

На практике не каждая решаемая задача требует постоянной гарантии производительности vCPU на 100%. Особенно это актуально для тестовых окружений. На этот случай мы подготовили машины, которые обеспечивают базовый уровень производительности vCPU с вероятностью временного повышения вплоть до 100%. При их использовании стоимость БД для пользователя теперь начинается от 530 рублей.

Полный список доступных конфигураций можно изучить на странице Классы хостов.

И третья новость сервис Yandex Managed Service for MySQL перешел из стадии preview в общедоступную версию. Теперь вам станет легче эксплуатировать шаблонные базы данных, не заботясь об администрировании, включая мониторинг, резервное копирование данных и обновление ПО. Сервис Managed Service for MySQL позволяет создавать базы данных с необходимыми параметрами производительности, масштабировать вычислительные мощности и выделенный объем хранилища для баз данных по мере необходимости, получать журналы работы баз данных. Чтобы начать работу с сервисом, пройдите по ссылке.

Приходите в ближайшую субботу к нам на встречу about: cloud, расскажем подробности, ответим на вопросы про MDB в Яндекс.Облаке!

Запуск нового сервиса компьютерного зрения Yandex Vision для анализа изображений




22 апреля на платформе Яндекс.Облако стал доступен сервис компьютерного зрения Yandex Vision для распознавания информации на изображениях. Теперь вы можете использовать технологии и экспертизу Яндекса в области работы с изображениями для решения собственных задач или разработки новых коммерческих продуктов.

Документальный пример: распознавание текста на картинке с Yandex Vision
Сервис Yandex Vision объединяет технологии OCR (Optical Character Recognition, OCR), автоматическую модерацию контента и определение присутствия человека на изображении.

В качестве источника можно использовать любое изображение скан документа, фотографию, рисунок. При этом необходимо учитывать, что качество распознавания снижается в следующих случаях:
  • наклон текста составляет более 15 градусов;
  • на изображении рукописный текст;
  • использованы художественные шрифты;
  • слово написано сверху вниз;
  • очень крупный текст (одно слово занимает все изображение).

Хороший пример использования технологий Yandex Vision демонстрирует платформа программной роботизации процессов electroNeek. Она в том числе помогает компаниям малого и среднего бизнеса автоматизировать документооборот, исключив из процесса работы с оцифрованными документами человеческий фактор. С помощью Yandex Vision решается задача по доставке распознанных данных в системы. Робот распознаёт документ, далее через настроенную логику производит обработку и ввод данных в нужную систему. После завершения он передаёт отчёт с результатом человеку.

Как отмечает Сергей Юдовский, CEO electroNeek Robotics, Inc.:
Мы внедрили Yandex Vision в нашу платформу для автоматизации бизнес-задач и получили десятикратное ускорение обработки документов, возможность полностью исключить ручной труд при переносе данных системы документооборота. Отдельно стоит отметить высокое качество работы Yandex Vision с текстами на языках стран СНГ — ни одно из представленных на рынке решений по автоматическому распознаванию текста не дает такой точности

Основы работы с Yandex Vision
Начать пользоваться новым инструментом может любой пользователь платформы Яндекс.Облако — для подключения через API достаточно выполнить действия, описанные в руководстве. Учтите, что на данный момент действуют следующие технические ограничения в работе:
  • 10 запросов в секунду
  • 5 распознаваний текста в секунду
  • поддерживаемые форматы файлов: JPEG, PNG
  • 1 Мб — максимальный размер файла
  • 20 мегапикселей — максимальный размер изображения

46 языковых моделей, точность до 96%, страница текста — 10 копеек
Распознавание текста проходит в два этапа: сначала определяется языковая модель, потом производится поиск текста на изображении.

Первым делом вы указываете языки для распознавания, поскольку это напрямую влияет на качество конченого результата. На данный момент представлено 46 языковых моделей. Подробнее об этом можно в разделе Поддерживаемые языки и модели распознавания. Отметим лишь, что если с англо-русской моделью хорошо справляются несколько технологий, присутствующих на рынке, то при работе с языками стран СНГ наши технологии имеют преимущество. Например, для отсканированных документов русский и английский текст распознается Yandex Vision со средней точностью около 96%, казахский — с точностью 94%.

На этапе поиска текста на изображении Yandex Vision вычленяет текст (если он есть на картинке) и группирует по уровням: слова в строки, строки в блоки, блоки в страницы.

Стоимость одной страницы текста, полученной с помощью сервиса Yandex.Vision составляет всего 10 копеек. По сравнению с решениями аналогичного уровня качества наши цены позволяют добиться существенной экономии.

Попробовать YandexVision

Опыт Skyeng: тестовая среда в Яндекс.Облаке




О Skyeng
Skyeng — крупнейшая российская онлайн-школа английского языка, входящая в топ-20 IT-компаний России по версии Forbes. Со школой сотрудничают 5,8 тысяч высококвалифицированных педагогов, в ней занимается более 64 тысяч учеников, со времени основания проведено уже 5 миллионов уроков. Занятия проводятся на собственной web-платформе Vimbox с использованием технологий искусственного интеллекта и Big Data: она обеспечивает видеосвязь между студентом и преподавателем, а также хранит весь образовательный контент. За обучение «на ходу» отвечает мобильное приложение Skyeng.


Большая часть решений, используемых школой, разработаны внутри компании. Это связано с инновационностью Skyeng: аналогов просто нет. Однако, по словам Артёма Науменко, руководителя IT-инфраструктуры компании, «изобретать велосипеды» в школе не принято. «Если то, что нам нужно, уже есть и его можно купить, мы купим, а силы потратим на разработку своего продукта, — говорит специалист. — В частности, если мы находим облачный сервис, предлагающий нужную нам функциональность, мы всегда его тестируем, и если все хорошо, то покупаем и пользуемся». Одним из таких нужных сервисов стала платформа Яндекс.Облако.

Проблема: дисковый кредит и низкая скорость
Разработкой решений для экосистемы школы занимается более 80 программистов. У каждого разработчика есть своя облачная копия всей обучающей платформы. Типичный тестовый сервер — 2 ядра CPU, 8 ГБ RAM, 50 ГБ SSD.

Раньше все эти серверы располагались в Amazon Web Services (инстанс типа t2.medium в регионе eu-central-1). «Долгое время нас всё устраивало, — говорит Артём Науменко. — У Amazon удобный сервис RDS, предоставляющий возможность работать с такими СУБД, как MySQL и PostgreSQL, а также облачный Elasticsearch. Собственно, наши рабочие серверы с высокими требованиями к отказоустойчивости по-прежнему остаются там. Но вот с тестовыми серверами возникли определённые проблемы».

Архитектура информационной системы Skyeng — сервисная. «Сейчас у нас порядка 50 сервисов, — рассказывает Артём Науменко, — их число растёт, от серверов требуется все больше ресурсов, мы начали упираться в дисковый кредит — количество операций с диском за час. Разработчики страдали». Тарифный план представлял каждому серверу 3 IOPS/ГБ, т. е. всего 150 операций с диском в секунду.

У AWS нельзя изменить параметры дискового кредита, не увеличив объём самого SSD. А переход на инстансы типа C без дисковых кредитов выливается в двукратное увеличение цены.

Некоторые проблемы создавал довольно большой пинг до европейских серверов. «У нас почти все разработчики работают удалённо, — говорит Артём Науменко. — Средний пинг до серверов составлял 100 мс, из Москвы — 50 мс. При использовании удалённого xdebug задержки ощущались».

«Когда узнали, что Яндекс предлагает такие же серверы на 30% дешевле и без ограничения по дисковым операциям, конечно, захотели попробовать», — делится Артём Науменко.

Решение в Яндекс.Облаке
Поскольку на момент переезда Яндекс.Облако только запустилось, среди доступных сервисов было только два подходящих: Managed Service for PostgreSQL и Сompute Сloud. «Но первое нам не подошло, потому что у Яндекс.Облаке десятая версия PostgreSQL, а у нас 9.6, — говорит Артём Науменко. — Решили вручную поднимать базы и Elasticsearch».


Пинг до Москвы уменьшился до 5 мс, средний — до 50, что значительно облегчило разработчикам использование пошагового дебага.

Появилась возможность менять отдельные параметры сервера. «У нас могут быть разные запросы, не только по диску, — рассказывает Артём Науменко. — Например, для каких-то задач может потребоваться увеличить память. В AWS при этом нужно было добавлять ещё и производительность CPU, в Яндекс.Облаке мы можем получить ровно то, что нам необходимо».

Результат: быстрый «переезд» и экономия
Процесс переноса серверов занял около месяца:
  • Подняли базы данных PostgreSQL, MySQL, Elasticsearch;
  • Сделали образ одного сервера разработчика (тестинга);
  • С помощью Terraform размножили этот тестинг на 70 разработчиков;
  • Залили 70 копий баз данных во все базы.

Сейчас в Яндекс.Облаке у Skyeng уже 86 виртуальных машин и отдельные серверы с PostgreSQL, MySQL, Elasticsearch, Prometheus и VPN шлюз.

«За счет переезда в Яндекс.Облако мы экономим около 60 тысяч рублей в месяц по сравнению с тем, что у нас было, — говорит Артём Науменко. — Если же сравнить с инстансами type C, то получится 200-300 тысяч. К концу года, с учётом планируемого расширения штата разработчиков, мы полностью окупим затраты на перенос».


Артём Науменко, руководитель IT-инфраструктуры компании Skyeng. Выступление на конференции cloud up!

Специалист отмечает, что пока в Яндекс.Облаке не так много сервисов, но их количество быстро растёт: на днях появился сервис управляемой базы данных MySQL. «Если картина с отсутствием отказов и даунтаймов сохранится, вполне возможно, что в будущем попробуем перенести в Яндекс.Облако что-то более требовательное к надежности», — заключает Артём Науменко.

Облако растёт: новости сервисов



В этом выпуске вы узнаете про новые сервисы Облака, которые помогут визуализировать данные в удобных дашбордах и отчётах, подключить защиту от DDoS-атак или организовать мониторинг — собрать метрики о состоянии ваших облачных ресурсов. И это не все новости — подробнее читайте дальше!



Визуализация данных — это просто
Мы в Яндекс.Облаке запустили новый сервис визуализации данных Yandex DataLens. Он позволяет создавать аналитические отчёты и дашборды и делиться ими с коллегами и партнёрами.
Для создания отчётов вы можете использовать данные из разных источников, например, из Яндекс.Метрики или из CSV-файла. Подробнее о том, как работать с Yandex DataLens, читайте в документации. Сервис доступен в версии Preview — оставьте заявку, чтобы использовать его в работе.
cloud.yandex.ru/services/datalens

Новые сервисы в Яндекс.Облаке
Yandex DDoS Protection
Теперь в Яндекс.Облаке вы можете подключить защиту от DDoS-атак для ваших приложений. Защита предоставляется в партнёрстве с Qrator Labs: она сочетает в себе возможности внешней опорной сети Qrator и оборудования, размещённого непосредственно в сети Облака.
Подключить защиту можно при создании виртуальной машины, базы данных или балансировщика нагрузки. Подробнее читайте на сайте, тарифы cloud.yandex.ru/docs/vpc/pricing
Включить защиту от DDoS-атак cloud.yandex.ru/docs/vpc/operations/enable-ddos-protection
Прерываемые ВМ в Yandex Compute Cloud
Для задач тестирования мы добавили возможность создавать прерываемые виртуальные машины (ВМ).
Они дешевле* обычных: ВМ с полным использованием vCPU стоят от 236 рублей с НДС в месяц вместо 708 рублей. А с частичным использованием vCPU — от 136 рублей с НДС в месяц вместо 245 рублей. Прерываемые ВМ работают как обычные, но имеют некоторые ограничения.
Оптимизировать затраты
Yandex Monitoring
Встречайте — долгожданный сервис для сбора метрик о состоянии ваших облачных ресурсов. Он автоматически собирает информацию и позволяет объединить данные из разных каталогов и облаков в одном дашборде.
Сейчас сервис доступен по запросу: подать заявку на доступ можно на сайте.
Узнать больше о Yandex Monitoring cloud.yandex.ru/docs/monitoring/
Yandex Load Balancer
Распределяйте нагрузку и обеспечивайте отказоустойчивость вашего сервиса с Yandex Load Balancer — теперь в общедоступной версии.
Создать и настроить балансировщик cloud.yandex.ru/services/load-balancer
Yandex Managed Service for Redis
Это сервис для создания и управления кластерами баз данных на основе СУБД Redis. Она часто используется для систем анализа контента в реальном времени. Мы запустили общедоступную версию сервиса — пользуйтесь без ограничений. cloud.yandex.ru/services/managed-redis
Начать работу с Yandex Managed Service for Redis cloud.yandex.ru/docs/managed-redis/

Новые функциональности сервисов
Yandex Object Storage
Теперь вы можете настроить время хранения объектов в бакете Object Storage — подробнее про жизненный цикл читайте в документации. cloud.yandex.ru/docs/storage/lifecycles/
Yandex Managed Service for ClickHouse
В консоли управления для Managed Service for ClickHouse появилась возможность подключаться к кластерам ClickHouse и выполнять SQL-запросы. Мы описали работу с SQL-запросами в документации Яндекс.Облака. cloud.yandex.ru/docs/managed-clickhouse/operations/web-sql-query
Сценарии
Теперь вы можете настроить сайт на WordPress быстрее: у нас появился подробный сценарий работы с WordPress. cloud.yandex.ru/docs/solutions/web/wordpress
Создать облачную структуру в Облаке проще с Terraform. Мы описали начало работы с этим инструментом в документации. Подробнее о том, как работать с Terraform — смотрите запись вебинара на Youtube.
cloud.yandex.ru/docs/solutions/infrastructure-management/terraform-quickstart

Вебинары
Инструменты управления инфраструктурой в Яндекс.Облаке:
Посмотреть запись
Как построить отказоустойчивый веб-сервис:
Посмотреть запись

Новые процессоры Intel Xeon Cascade Lake доступны уже сегодня в Яндекс.Облаке




Прекрасные новости! С 15 апреля в Яндекс.Облаке вы можете выбирать новые масштабируемые процессоры Intel Xeon (кодовое имя — Cascade Lake) для своих виртуальных машин. Мы сделали новую линейку процессоров доступной раньше всех в России! Эффективная стоимость использования процессоров новой линейки на платформе Яндекс.Облако будет не выше предыдущего поколения.


Прямо сейчас, в день официального анонса Intel в России, вы уже можете зайти в консоль Яндекс.Облака, и выбрать Cascade Lake как один из возможных вариантов CPU. На базе нового процессора можно создавать виртуальные машины с количеством ядер до 48!
cloud.yandex.ru/docs/compute/concepts/performance-levels

Благодаря программе сотрудничества Яндекс c Intel мы смогли заранее провести испытания новой линейки процессоров. На широком наборе тестов новые процессоры стабильно показывают ускорение от 10% до 90%, в зависимости от теста.

При этом в новых процессорах закрыты известные уязвимости на аппаратном уровне. Также результаты тестов, проведенных на платформе Яндекс.Облака показали, что благодаря новому набору команд AVX512 (Advanced VectorInstructions) и VNNI (Vector Neural Network Instructions) новые процессоры могут в два раза ускорить решение таких популярных для решения в облаках задач как машинное обучение и обработка изображений. На 20%, по сравнению с предыдущим поколением, выросла пропускная способность оперативной памяти.

Попробуйте создать виртуальную машину с процессором нового поколения.
cloud.yandex.ru/docs/compute/quickstart/quick-create-linux

Мероприятия и вебинары Яндекс.Облака в апреле




Здравствуйте!
Этот апрель богат мероприятиями. Для удобства мы собрали все события Яндекс.Облака в одном письме. Поспешите — на некоторые из них регистрация закроется в ближайшие дни!
cloud up! 17 апреля
Конференция для компаний-разработчиков. Трансляции не будет.
Регистрация
about:cloud 20 апреля
Речь пойдет о сервисах для работы с базами данных в Яндекс.Облаке.
Регистрация
Регистрация на трансляцию
Митап Яндекс.Облака и Leroy Merlin 23 апреля
Облако расскажет о newSQL базе данных Yandex Database, а Leroy Merlin поделится архитектурными подходами и техническими практиками для интеграционного слоя приложений. Трансляции не будет.
Регистрация
Вебинар о сервисе бизнес-аналитики Yandex DataLens 25 апреля
Руководитель Yandex DataLens Роман Колеченков сделает обзор сервиса и продемонстрирует его возможности.
Регистрация