Управление Apache Hadoop в Облаке, MySQL в общедоступной версии и новые классы хостов




Сегодня у нас три новости о дополнительных инструментах для всех, кто работает с данными. Для распределенного хранения и обработки больших объемов появляется возможность попробовать развертывание кластеров Apache Hadoop и Apache Spark в инфраструктуре Яндекс.Облака. Тех, кто делает web-проекты, обрадует переход Yandex Managed Service for MySQL в общедоступную версию. А для случаев, когда вам не нужна максимальная производительность виртуального ядра, мы запустили новые классы хостов для кластеров БД. Их использование стоит в 3,5 раза дешевле самого выгодного из прежних вариантов.

Первое событие — запуск нового сервиса Yandex Data Proc, который помогает разворачивать кластеры Apache Hadoop и Apache Spark в инфраструктуре Яндекс.Облака. При этом пользователь самостоятельно определяет размер кластера, мощность узлов и набор сервисов Apache (Spark, HDFS, YARN, Hive, HBase, Oozie, Sqoop, Flume, Tez, Zeppelin).

Вы можете создавать постоянно запущенные кластеры, а можете создавать их в один клик для временных расчётов и останавливать или удалять по требованию. Данные при этом можно сохранять либо в HDFS поверх сетевых дисков Яндекс.Облака, либо в Object storage. Это даёт гибкие возможности экономии для распределённого хранения и обработки данных.

Вторая новость: запуск новых классов хостов для кластеров БД с частичным использованием vCPU. Для наших пользователей хосты в кластерах Managed Service for PostgreSQL, Managed Service for MySQL, Managed Service for MongoDB и Managed Service for ClickHouse разворачиваются на базе виртуальных машин Yandex Compute Cloud. Эти виртуальные машины могут быть созданы на любой из платформ, которые поддерживает Compute Cloud, а класс хостов определяет вычислительные мощности и объем хранилища, которые выделяются для каждого хоста в кластере.

На практике не каждая решаемая задача требует постоянной гарантии производительности vCPU на 100%. Особенно это актуально для тестовых окружений. На этот случай мы подготовили машины, которые обеспечивают базовый уровень производительности vCPU с вероятностью временного повышения вплоть до 100%. При их использовании стоимость БД для пользователя теперь начинается от 530 рублей.

Полный список доступных конфигураций можно изучить на странице Классы хостов.

И третья новость сервис Yandex Managed Service for MySQL перешел из стадии preview в общедоступную версию. Теперь вам станет легче эксплуатировать шаблонные базы данных, не заботясь об администрировании, включая мониторинг, резервное копирование данных и обновление ПО. Сервис Managed Service for MySQL позволяет создавать базы данных с необходимыми параметрами производительности, масштабировать вычислительные мощности и выделенный объем хранилища для баз данных по мере необходимости, получать журналы работы баз данных. Чтобы начать работу с сервисом, пройдите по ссылке.

Приходите в ближайшую субботу к нам на встречу about: cloud, расскажем подробности, ответим на вопросы про MDB в Яндекс.Облаке!

Запуск нового сервиса компьютерного зрения Yandex Vision для анализа изображений




22 апреля на платформе Яндекс.Облако стал доступен сервис компьютерного зрения Yandex Vision для распознавания информации на изображениях. Теперь вы можете использовать технологии и экспертизу Яндекса в области работы с изображениями для решения собственных задач или разработки новых коммерческих продуктов.

Документальный пример: распознавание текста на картинке с Yandex Vision
Сервис Yandex Vision объединяет технологии OCR (Optical Character Recognition, OCR), автоматическую модерацию контента и определение присутствия человека на изображении.

В качестве источника можно использовать любое изображение скан документа, фотографию, рисунок. При этом необходимо учитывать, что качество распознавания снижается в следующих случаях:
  • наклон текста составляет более 15 градусов;
  • на изображении рукописный текст;
  • использованы художественные шрифты;
  • слово написано сверху вниз;
  • очень крупный текст (одно слово занимает все изображение).

Хороший пример использования технологий Yandex Vision демонстрирует платформа программной роботизации процессов electroNeek. Она в том числе помогает компаниям малого и среднего бизнеса автоматизировать документооборот, исключив из процесса работы с оцифрованными документами человеческий фактор. С помощью Yandex Vision решается задача по доставке распознанных данных в системы. Робот распознаёт документ, далее через настроенную логику производит обработку и ввод данных в нужную систему. После завершения он передаёт отчёт с результатом человеку.

Как отмечает Сергей Юдовский, CEO electroNeek Robotics, Inc.:
Мы внедрили Yandex Vision в нашу платформу для автоматизации бизнес-задач и получили десятикратное ускорение обработки документов, возможность полностью исключить ручной труд при переносе данных системы документооборота. Отдельно стоит отметить высокое качество работы Yandex Vision с текстами на языках стран СНГ — ни одно из представленных на рынке решений по автоматическому распознаванию текста не дает такой точности

Основы работы с Yandex Vision
Начать пользоваться новым инструментом может любой пользователь платформы Яндекс.Облако — для подключения через API достаточно выполнить действия, описанные в руководстве. Учтите, что на данный момент действуют следующие технические ограничения в работе:
  • 10 запросов в секунду
  • 5 распознаваний текста в секунду
  • поддерживаемые форматы файлов: JPEG, PNG
  • 1 Мб — максимальный размер файла
  • 20 мегапикселей — максимальный размер изображения

46 языковых моделей, точность до 96%, страница текста — 10 копеек
Распознавание текста проходит в два этапа: сначала определяется языковая модель, потом производится поиск текста на изображении.

Первым делом вы указываете языки для распознавания, поскольку это напрямую влияет на качество конченого результата. На данный момент представлено 46 языковых моделей. Подробнее об этом можно в разделе Поддерживаемые языки и модели распознавания. Отметим лишь, что если с англо-русской моделью хорошо справляются несколько технологий, присутствующих на рынке, то при работе с языками стран СНГ наши технологии имеют преимущество. Например, для отсканированных документов русский и английский текст распознается Yandex Vision со средней точностью около 96%, казахский — с точностью 94%.

На этапе поиска текста на изображении Yandex Vision вычленяет текст (если он есть на картинке) и группирует по уровням: слова в строки, строки в блоки, блоки в страницы.

Стоимость одной страницы текста, полученной с помощью сервиса Yandex.Vision составляет всего 10 копеек. По сравнению с решениями аналогичного уровня качества наши цены позволяют добиться существенной экономии.

Попробовать YandexVision

Опыт Skyeng: тестовая среда в Яндекс.Облаке




О Skyeng
Skyeng — крупнейшая российская онлайн-школа английского языка, входящая в топ-20 IT-компаний России по версии Forbes. Со школой сотрудничают 5,8 тысяч высококвалифицированных педагогов, в ней занимается более 64 тысяч учеников, со времени основания проведено уже 5 миллионов уроков. Занятия проводятся на собственной web-платформе Vimbox с использованием технологий искусственного интеллекта и Big Data: она обеспечивает видеосвязь между студентом и преподавателем, а также хранит весь образовательный контент. За обучение «на ходу» отвечает мобильное приложение Skyeng.


Большая часть решений, используемых школой, разработаны внутри компании. Это связано с инновационностью Skyeng: аналогов просто нет. Однако, по словам Артёма Науменко, руководителя IT-инфраструктуры компании, «изобретать велосипеды» в школе не принято. «Если то, что нам нужно, уже есть и его можно купить, мы купим, а силы потратим на разработку своего продукта, — говорит специалист. — В частности, если мы находим облачный сервис, предлагающий нужную нам функциональность, мы всегда его тестируем, и если все хорошо, то покупаем и пользуемся». Одним из таких нужных сервисов стала платформа Яндекс.Облако.

Проблема: дисковый кредит и низкая скорость
Разработкой решений для экосистемы школы занимается более 80 программистов. У каждого разработчика есть своя облачная копия всей обучающей платформы. Типичный тестовый сервер — 2 ядра CPU, 8 ГБ RAM, 50 ГБ SSD.

Раньше все эти серверы располагались в Amazon Web Services (инстанс типа t2.medium в регионе eu-central-1). «Долгое время нас всё устраивало, — говорит Артём Науменко. — У Amazon удобный сервис RDS, предоставляющий возможность работать с такими СУБД, как MySQL и PostgreSQL, а также облачный Elasticsearch. Собственно, наши рабочие серверы с высокими требованиями к отказоустойчивости по-прежнему остаются там. Но вот с тестовыми серверами возникли определённые проблемы».

Архитектура информационной системы Skyeng — сервисная. «Сейчас у нас порядка 50 сервисов, — рассказывает Артём Науменко, — их число растёт, от серверов требуется все больше ресурсов, мы начали упираться в дисковый кредит — количество операций с диском за час. Разработчики страдали». Тарифный план представлял каждому серверу 3 IOPS/ГБ, т. е. всего 150 операций с диском в секунду.

У AWS нельзя изменить параметры дискового кредита, не увеличив объём самого SSD. А переход на инстансы типа C без дисковых кредитов выливается в двукратное увеличение цены.

Некоторые проблемы создавал довольно большой пинг до европейских серверов. «У нас почти все разработчики работают удалённо, — говорит Артём Науменко. — Средний пинг до серверов составлял 100 мс, из Москвы — 50 мс. При использовании удалённого xdebug задержки ощущались».

«Когда узнали, что Яндекс предлагает такие же серверы на 30% дешевле и без ограничения по дисковым операциям, конечно, захотели попробовать», — делится Артём Науменко.

Решение в Яндекс.Облаке
Поскольку на момент переезда Яндекс.Облако только запустилось, среди доступных сервисов было только два подходящих: Managed Service for PostgreSQL и Сompute Сloud. «Но первое нам не подошло, потому что у Яндекс.Облаке десятая версия PostgreSQL, а у нас 9.6, — говорит Артём Науменко. — Решили вручную поднимать базы и Elasticsearch».


Пинг до Москвы уменьшился до 5 мс, средний — до 50, что значительно облегчило разработчикам использование пошагового дебага.

Появилась возможность менять отдельные параметры сервера. «У нас могут быть разные запросы, не только по диску, — рассказывает Артём Науменко. — Например, для каких-то задач может потребоваться увеличить память. В AWS при этом нужно было добавлять ещё и производительность CPU, в Яндекс.Облаке мы можем получить ровно то, что нам необходимо».

Результат: быстрый «переезд» и экономия
Процесс переноса серверов занял около месяца:
  • Подняли базы данных PostgreSQL, MySQL, Elasticsearch;
  • Сделали образ одного сервера разработчика (тестинга);
  • С помощью Terraform размножили этот тестинг на 70 разработчиков;
  • Залили 70 копий баз данных во все базы.

Сейчас в Яндекс.Облаке у Skyeng уже 86 виртуальных машин и отдельные серверы с PostgreSQL, MySQL, Elasticsearch, Prometheus и VPN шлюз.

«За счет переезда в Яндекс.Облако мы экономим около 60 тысяч рублей в месяц по сравнению с тем, что у нас было, — говорит Артём Науменко. — Если же сравнить с инстансами type C, то получится 200-300 тысяч. К концу года, с учётом планируемого расширения штата разработчиков, мы полностью окупим затраты на перенос».


Артём Науменко, руководитель IT-инфраструктуры компании Skyeng. Выступление на конференции cloud up!

Специалист отмечает, что пока в Яндекс.Облаке не так много сервисов, но их количество быстро растёт: на днях появился сервис управляемой базы данных MySQL. «Если картина с отсутствием отказов и даунтаймов сохранится, вполне возможно, что в будущем попробуем перенести в Яндекс.Облако что-то более требовательное к надежности», — заключает Артём Науменко.

Плановые работы на DNS-панели



Сегодня мы с радостью представляем Вам новую панель управления DNS-записями — FASTDNS. Эта система заменила устаревшую панель dns.fv.ee dns.fastvps.ru

Новая панель управления обладает рядом преимуществ, так как разработана с учетом потребностей наших клиентов и нашего богатого опыта в данной сфере. Среди ключевых моментов можно отметить следующие:
  • FASTDNS интегрирована с биллинг-системой (bill2fast.com) и Вам больше не нужно заходить в отдельную панель управления для редактирования DNS-записей, помнить ещё один логин\пароль и тратить время на их ввод.
  • Панель FASTDNS имеет новый отзывчивый дизайн оптимизированный под использование с современных устройств (в том числе и мобильных).
  • Добавлена поддержка современных типов DNS-записей.

Т.к. панель является нашей собственной разработкой, то в случае если Вам будет не хватать какой-либо дополнительной функции, мы, по запросу с Вашей стороны, рассмотрим возможность её реализации и внедрения.

Использовать новую панель Вы можете в Вашем личном кабинете биллинг-системы FASTVPS в разделе «Управление DNS» bill2fast.com/dns

Если у Вас остались вопросы пожалуйста, свяжитесь с нашей Службой технической поддержки (круглосуточно) или Отделом по работе с клиентами.
Все возможные способы связи Вы можете найти на нашей странице контактов fastvps.ru/contacts
Мы с радостью ответим на них и окажем необходимую консультацию.

Мы желаем Вам удобной и безопасной работы.

С уважением, команда FASTVPS, хостинга Вашего успеха

VPS KVM на SSD NVME



Друзья, часто многие задаются вопросом какую же услугу стоит выбрать под конкретные цели. Мы решили немного разъяснить ситуацию и расскажем о полезностях высокопроизводительных VDS/VPS для разных вариантов работы.

Ознакомиться с деталями можно на нашем сайте: zomro.com/vds.html

Кому будет полезен сервер VDS/VPS KVM на SSD NVME?
  • SEO. Для любых сайтов, так как чем выше скорость загрузки — тем выше Ваши позиции в поисковых системах.
  • Коммерция. Владельцам интернет магазинов – скорость работы с базами данных на SSD NVMe несоизмеримо выше, чем на SATA.
  • Индустрия игр. Для игровых серверов – скорость загрузки серверов увеличивается, не заставляйте игроков ждать.
  • Для разработчиков. Скорость компиляции кода на SSD NVMe дисках выше, сэкономьте свое время.
  • Масштабные проекты. Высоконагруженным проектам, так как KVM-виртуализация гарантирует получение заявленных ресурсов в любой момент и в полном объёме.
  • Инвестиционные проекты. Трейдерам, так как выбрав наши VDS на Windows, Вы сможете сконцентрироваться на торговле и быть уверенным в том, что терминалы всегда доступны и всегда работают.
  • Бухгалтерия. Предприятиям с большим количество сотрудников, использующих в своей работе 1C.

Узнали себя? Тогда не тяните время и попробуйте все прелести высокопроизводительных VDS/VPS уже сейчас!
zomro.com

Итальянский банк отказался от собственной доменной зоны



Итальянский банк Banca Nazionale del Lavoro, шестой по размеру банк Италии, подал заявку на ликвидацию собственной доменной зоны .BNL.

Как и в большинстве других подобных случаев, банк не нашел применения собственному домену верхнего уровня, и в нём не было ни одного рабочего сайта.

Но эта новость выделяется в ряду других подобных сообщений о ликвидациях брендовых зон. Дело в том, что Banca Nazionale del Lavoro — дочерняя компания финансового конгломерата BNP Paribas, который, наоборот, видит в брендовых зонах неплохие перспективы.

В 2015 году компания зарегистрировала собственную зону .bnpparibas, и даже отказалась от сайтов в зонах .fr и .nl. В зоне .bnpparibas зарегистрировано 250 доменов, также в ней размещено несколько десятков рабочих сайтов. Сайт mabanque.bnpparibas, предназначенный для банковских услуг на территории Франции, одно время входил в десятку самых посещаемых сайтов в новых gTLD согласно рейтингу Alexa. Сайт востребован и сейчас, он вышел из десятки только по причине активного развития всех новых gTLD.

www.webnames.ru

Вышла книга о борьбе за домен Sex.com



Недавно вышла книга известного журналиста Дэвида Кушнера под названием «The Players Ball: A Genius, a Con Man, and the Secret History of the Internet’s Rise». (Большая игра: гений, жулик и тайная история становления Интернета". Книга рассказывает о борьбе за обладание доменом Sex.com.

В названии книги присутствует игра слов: The Players Ball — название собраний секс-работников, которые проводятся в США в разных городах и часто сопровождаются скандалами.

Кто является главными героями книги? Первый — инженер из Сан-Франциско Гарри Кремен, который в 1994 году зарегистрировал домен Sex.com, который позже станет самым дорогим доменом в истории Интернета. Второй — мошенник Стивен Коэн, который при помощи поддельного письма добился передачи домена в его собственность. Регистратор не смог вовремя разобраться в ситуации, к тому же в то время практика расследований краж доменов была не развита. В результате началась судебная борьба между Гарри Кременом и Стивеном Коэном, которая длилась более десяти лет.

В книге Дэвида Кушнера рассказывается о многочисленных подробностях этой истории.

www.webnames.ru

Apr 15 0.9.8-24



WHATS NEW in 0.9.8-24
  • Let's Encrypt v2 support
  • Wilcdard SSL LE support
  • Ubuntu 18.10 support
  • Updated i18n files
  • Improved server certificate management
  • Bugfixes
  • XSS security fix
  • API privilege escalation security fix
  • Improved server certificate management


vestacp.com

5 шагов к успеху: миграция центра обработки данных без мигрени





Аутсорсинг услуг вашего центра обработки данных в специализированный центр обработки данных обеспечивает большую эффективность, надежность и безопасность. Это также открывает новые возможности для связи с экосистемой других соответствующих поставщиков услуг и партнеров. Если ваш бизнес хочет сделать это, важно правильно перенести центр обработки данных. Это позволит вам избежать незапланированных простоев и ненужных затрат. Это пятиступенчатое руководство по планированию вашего переезда поможет минимизировать сбои в работе вашего бизнеса:

1. Установите свои бизнес-цели?
Как и в случае любого делового решения, вам необходимо четко понимать, почему ваша компания переходит на внешний центр обработки данных. Существуют значительные преимущества при эксплуатации, в том числе снижение затрат, но аутсорсинг управления центрами обработки данных также позволит бизнесу сосредоточиться на основных преимуществах и долгосрочных целях. Перед тем, как ваша компания планирует переход на центр обработки данных, вам необходимо четко определить общие бизнес-цели и то, как они будут поддерживаться вашей стратегией аутсорсинга.

2. Определите риски
Масштабная миграция данных — сложный проект, и даже при детальном планировании возникнут непредвиденные обстоятельства. Указание любого потенциального риска, большого или малого, дает вам возможность составить планы. Это может означать, что временное оборудование должно находиться в режиме ожидания, перемещать рабочие процессы в другое место или решать, как управлять незапланированными простоями. Вы хотите, чтобы это перемещение оказало минимальное влияние на клиентов и сотрудников, поэтому выявляйте приложения с высоким уровнем риска и критические системы, которые должны оставаться в воздухе. Четко определите, кто должен знать о проблемах и вашей стратегии их преодоления. Сотрудники центра обработки данных могут помочь вам в этом процессе миграции и выявления рисков.

3. Общение имеет большое значение
Важно определить, как этот шаг влияет на клиентов, сотрудников, деловых партнеров и других внутренних или внешних заинтересованных лиц, чтобы вы могли заблаговременно сообщить о потенциальных рисках. Это дает им возможность составить собственный график и убедиться, что на них не повлияют неприятные сюрпризы. При перемещении критически важной инфраструктуры и приложений важно, чтобы все соответствующие заинтересованные стороны были хорошо осведомлены о процессе, ожидаемых сроках и планах действий в чрезвычайных ситуациях. Вы также должны планировать получать быструю поддержку от поставщиков, чтобы гарантировать, что они готовы к использованию, когда вам необходимо принять меры.

4. Планирование логистики
Перемещение внутренней инфраструктуры в новый центр обработки данных — это важный физический проект, поэтому вы должны быть готовы к той логистике, которая необходима для переключения. Это может означать, что оборудование упаковано правильно, чтобы предотвратить повреждение или маркировку и, конечно же, чтобы избежать путаницы с другой стороны. Убедитесь, что вам известно расположение нового центра обработки данных, и посмотрите, предлагает ли он услуги поддержки, которые помогут вам перейти на новую версию. Например, предлагает ли он место для тестирования вашего оборудования на месте или для установки установок, которые переносят вашу инфраструктуру в комнату данных?

5. Дизайн для улучшения
Нет смысла переключаться на внешний центр обработки данных, если все настроено одинаково. Важно учитывать, каких улучшений вы хотите достичь, будь то уменьшение пространства в стойке или улучшение межсоединений. Разработайте новую установку для достижения этих целей с учетом любых будущих возможностей или гибкости, которые вам нужны. Это поможет вам предотвратить дальнейшую реструктуризацию в будущем, так как ваш бизнес продолжает расти.

Миграция в центр обработки данных с совместным размещением дает значительные преимущества, но это может быть рискованным и сложным проектом, если он не планируется эффективно. Чтобы обеспечить успешное перемещение, все должно быть спланировано заранее, от физически перемещаемой инфраструктуры до связи с поставщиками и клиентами. В идеале, ваш центр обработки данных должен обеспечивать поддержку, чтобы сделать переход плавным и безболезненным — будь то на этапе планирования или предоставления услуг по установке, чтобы вы могли приступить к работе с минимальными усилиями.

datacenter.com