ару лет назад мы достаточно спокойно работали нашей небольшой командой и делали хостинг. Вышло так, что каждый сервис в системе обладал собственным уникальным и неповторимым API. Но потом это стало проблемой и было решено все переделать.

Мы расскажем о том, как объединить внешнее API с внутренним и что делать, если у вас много кода на PHP, но хочется воспользоваться преимуществами gRPC.

Сейчас очень много говорят про микросервисы и SOA в целом. Наша инфраструктура не исключение: ведь мы занимаемся хостингом и наши сервисы позволяют управлять почти тысячей серверов.

Со временем сервисов в нашей системе стало появляться все больше: стали регистратором доменов — выносим регистрацию в отдельный сервис; метрик с серверов стало очень много — пишем сервис, который делает выборки из ClickHouse / InfluxDB; Нужно сделать эмулятор запуска задач «как через Crontab»; для пользователей — пишем сервис. Наверное, это многим будет знакомо.

Входящих задач в разработке много. Количество различных сервисов растет плавно и, вроде бы, незаметно. Заранее учесть все будущие нюансы невозможно, поэтому на смену одним API приходили другие, более лучшие. Но настал день, когда стало очевидно, что у нас развелось слишком много протоколов:


Чем больше становилось сервисов и связей между ними, тем дольше и сложнее было решать задачи: требовалось изучить несколько разных API, написать к ним клиенты и только потом приступить к реальной работе.

Ах, да… еще ведь документация нужна. Иначе в чатиках происходят такие диалоги:
— Ребят, как мне получить баланс пользователя из биллинга?
— Сделай вызов в billing/getBalance(customerId)
— А список услуг как получить?
— Не помню, поищи нужный контроллер в
Короче говоря, зародилась мечта о волшебном едином стандарте и технологии для создания сетевых API, которые решат все проблемы и сэкономят нам вагон времени.

Формируем требования
Немного подумав, мы составили свой небольшой список требований:
Используемый способ описания API должен быть декларативнымРезультат должен быть однозначным и человеко-понятным: нужно проводить code reviewНужна возможность описывать как успешный flow, так и ошибки. Причем это должно делаться явно для каждого методаНа основе описания нужно генерировать как можно больше скучного кода для клиента и сервера
Из коробки он удовлетворял почти всем нашим требованиям. Если в двух словах:
Декларативное описание методов и структур данныхОн очень читабельный и простой. По получившимся .proto-файлам легко проводить code review. Синтаксис IDL близок к популярным ЯПЗавезены генераторы под большинство популярных ЯП (но есть нюанс. О нем ниже)gRPC — просто механизм RPC без каких-либо строгих требований к организации API. Это дает возможность разработать собственные принципы и гайдлайны с учетом накопленного опыта
Однако, идеальных технологий не существует. Для нас возникло несколько камней преткновения:
Мы активно используем PHP и он не умеет в сервер gRPC;Наш фронтенд по-прежнему ожидает привычный HTTP. На текущий момент мы были вынуждены «проксировать» запросы фронтенда через отдельное приложение, формирующее правильные запросы к внутреннему API. В подавляющем большинстве случаев это лишняя скучная работа. Хотелось бы внутри нашей системы все отдавать через один протокол с автоматической конвертацией в HTTP для фронтенда.К счастью, мы достаточно легко решили эти проблемы. Далее я буду предполагать, что читатель знаком с gRPC. Если нет — лучше сначала обратиться к упомянутой выше статье.

И так далее, много технической информации
Надеюсь на Хабре топик не удалится, т.к. сохранять для Истории рынка не вижу смысла, черзе 5 лет устареет все. Просто запомним факт, что была такая новость ;)
habr.com/company/beget/blog/348008/

Нам поступали различные отклики (с пониманием, критичные, крайне негативные). Не раз спрашивали по какой причине мы не запускали резервное питание и не «уведомили заранее о ситуации».
Думаю, все понимают, что такое пожар — сообщить о нем заранее не представляется возможным. Также, те компании, которые располагаются на промышленных территориях и бизнес-центрах уже, вероятно, видели как проходит внештатный процесс, к которому, безусловно, относится пожар.
У администрации промзон существует протокол безопасности, полностью составленный согласно требованиям законов о безопасности на территории РФ. Мы были бы очень рады иметь возможность продолжить работу, но в условиях горения соседних к ЦОДу помещениях, МЧС немедленно потребовала обесточить периметр. Потому, у нас не было никаких шансов каким-либо образом продолжить работу.
К счастью для нас и наших клиентов, пожарные бригады отреагировали на вызов крайне оперативно и нам оставалось лишь ждать окончания процесса тушения и разрешения запустить ДГУ.
Если говорить о нашем персонале, то ввиду случившейся ЧС, в ЦОД были созваны все силы. Даже те специалисты, которые в тот день официально не должны были находиться на рабочих местах согласно рабочему графику, были экстренно вызваны (и охотно отреагировали, к чести сотрудников) для максимально оперативного восстановления работы ЦОДа в обычном режиме.
В течение 20 минут были запущены все серверные стойки, включены все серверы, после чего наши специалисты начали отрабатывать единичные обращения клиентов в индивидуальном порядке и с особым вниманием (клиенты, у которых серверы не смогли штатно загрузиться).
Благодарим всех за понимание, терпение и слова поддержки в адрес персонала ЦОД.

По итогам проведённого анализа хотим сообщить следующее:

Простой основных систем составил чуть более 3 часов. Всем клиентам мы сделаем компенсацию в размере 5% от месячной абонентской платы.
Кроме того у нас была проблема с коммутатором в одной из стоек, и нам пришлось отложить решение проблем с ней на 2 часа до окончания разбора основной массы тикетов. Клиентам в этой стойке будет начислена компенсация 50% от месячной стоимости услуг цод.

До 2014 года на серверах FirstVDS мы использовали промышленные HDD-накопители с
SAS-интерфейсом и аппаратными контроллерами, собранные в RAID 10. Это решение полностью устраивало нас в плане надёжности и производительности. Проблемы с частичной потерей клиентских данных были 3 раза за 12 лет использования. Два раза выгорали аппаратные контроллеры. Один раз вышла из строя батарейка и при аварийном отключении питания встроенная кеш-память рейда очистилась.

Однако SAS HDD дорогие. Для одного сервера мы брали комплект из 4 дисков по 600 Гб, аппаратного RAID-контроллера с батарейкой. Всё решение обходилось в 44 806 руб. за 1 Тб. Повышать цены на VDS мы не хотели. Нужно было найти более дешёвое решение, при этом не потерять в скорости и надёжности. А в идеале и увеличить предоставляемое для VDS место.

Только SSD — ещё дороже. На тот момент диски по 240 Гб стоили от 8000 руб. Дешевле было остаться на Raid 10 SAS, чем использовать SSD суммарным объёмом в 1 Тб. А увеличить хранилище и того дороже. Поэтому мы рассмотрели несколько программных решений и включили SSD в тесты, чтобы сравнить скорость. Таблица с результатами ниже.

Альтернативные решения
zfs — файловая система и менеджер логических разделов с адаптивным замещающим кешем, разработанная компанией Sun Microsystems. Zfs нельзя включить в оригинальную версию ядра Linux из-за несовместимости лицензий (CDDL vs GPL). Систему можно прикрутить DKMS-модулями, но усилия не стоят того – судя по публичным тестам скорость записи/чтения была невысока. Тестировать сами не стали.

bcache — разработка Google, в 2013 году была ещё сырой — не использовалась в продакшене. Работала только с CentOS 7, а мы использовали CentOS 6. Bcache тоже не стали тестировать.

lvm cache — технология Linux сообщества. Тоже работала только с CentOS 7, но публичных тестов на тот момент не было — решили провести сами. Цифры не понравились.

flashcache — разработан Facebook: компания внушает доверие, и технология уже была проверена в продакшене.

Flashcache работает в 3 режимах:
Write through — данные сначала пишутся на диск, а потом сбрасываются в кеш. Кешируется только запись.Write back — данные сначала пишутся в кеш, потом сбрасываются на диск. Кешируется запись и чтение.Write around — данные пишутся на диск, а в кеш попадают после первого чтения. Кешируется только чтение.
Так как write back — самый быстрый режим, выбрали для тестов его.

MD — software raid. Flashcache работает в паре с MD и Raid 1. Мы включили в тестирование MD без Flashcache, чтобы проверить, как он работает отдельно.

Итоги тестирования
Чтобы максимально приблизить условия исследования к реальным, запустили рандомную запись и чтение в файл 32 Гб (примонтированную файловую систему).


Flashcache в режиме writeback обошёл lvmcache и обогнал software raid. Сильно проиграл дорогим SSD, но главное, flashcache превзошёл наше решение на SAS HDD.

Новое решение с flashcache
По результатам исследования в январе 2014 года мы внедрили flashcache на SSD + SATA HDD.
С тех пор на одном сервере стоит 1 SSD и 2 SATA HDD по 4ТБ в зеркале. Технология работает в режиме writeback: быстро записывает данные в кеш и медленно скидывает на основной носитель.

При внедрении и обслуживании flashcache мы столкнулись с некоторыми особенностями технологии.

Особенности flashcache
1) SSD изнашивается
Из-за превышенного количества записей/перезаписей SSD перестаёт записывать новые данные. Чтобы этого не произошло мы мониторим SMART-атрибуты:
Media_Wearout_Indicator – это время жизни или износ диска: значение для нового диска – 100, со временем оно уменьшается. Минимально допустимое – 10, при достижении этого значения диск становится пригодным только для чтения.Reallocated_Sector_Count – количество переназначенных секторов – должно быть меньше 100.
Программа мониторинга следит за этими значениями в автоматическом режиме и уведомляет сотрудников о проблемных дисках. Нам остаётся только вовремя их менять.

Раньше мы использовали диски 240 Гб, они работали меньше года. Сейчас технология over-provisioning позволяет нам увеличить резервную область диска и за счёт этого продлить срок жизни SSD. Диск объёмом 1 Тб мы режем до 240 Гб, это рабочая область, остальные 760 Гб – резерв на износ. Сейчас SSD в среднем работает 1 год.

2) Сбои, когда сгорает SSD и теряются несинхронизированные (грязные) данные
В режиме writeback данные сначала попадают в кеш SSD и только потом в память SATA HDD. Данные, которые не успели скинуться на SATA HDD, называются грязными. При сбое они безвозвратно сгорают вместе с SSD. При экстренном отключении питания SSD тоже может выйти из строя с потерей данных.

К счастью, сбои происходят не так часто. За 2,5 года у нас произошло два случая с потерей клиентских данных, которые не успели записаться в хранилище.

Уменьшить количество сбоев можно двумя способами:
Использовать качественные серверные SSD. Что мы и делаем – покупаем диски Intel, Hitachi, Toshiba и др.Настроить репликацию кеша (зеркальный рейд). Решение предусматривает установку второго SSD, но из-за редких сбоев деньги на него мы зажали.
3) Долго чистить кеш
Поменять SSD и настроить flashcache – 5 минут. Но перед этим нужно очистить кеш – скинуть все грязные данные на диски.

В среднем у нас 30% грязных данных на SSD, максимум – 70%. Очистка кеша занимает до 4 часов.

В это время система работает медленнее, потому что обращается к медленным носителям. Мы всегда предупреждаем клиентов о падении скорости, но форсировать процесс не можем. Скорость записи на SATA HDD зависит от того, насколько интенсивно клиенты используют диск. Чем интенсивнее используют, тем больше нагрузка и медленнее скорость записи.

4) Кеш может переполниться
Часто используемые данные находятся в кеше и называются горячими. На наших серверах их примерно 13%, максимум 62%. Такого объёма достаточно для быстрого чтения/записи всех VDS на сервере. Но переполнить кеш и снизить производительность может недоверие всего одного клиента.

Допустим, клиент захочет протестировать дисковую подсистему. Запустит программу рандомной записи файлов. Если диск клиента по объёму больше кеша, все плохо. Кеш переполнится и всё скатится в низкую производительность. Пострадают все VDS на сервере.

Если вздумаете провести такой тест, не ждите актуальных результатов. Мы программно ограничиваем нарушителю количество обращений на диск, это снижает скорость.

5) Flashcache не работает на Centos 7
После обновления ядра flashcache стал несовместим с Centos 7. Так как эта версия дистрибутива стоит на 50% наших серверов, проблема острая. Сейчас Centos 7 используется с sw raid1 с SSD. На трёх кластерах мы тестируем enhanceio — другую технологию кеширования — но пока не готовы озвучить результаты.


С 2013 года доллар подорожал в 2 раза. Поэтому решение с flashcache в рублях стоит почти также, как RAID 10 SAS, а в долларах в 2 раза дешевле.

Увеличив объём хранилища в 4 раза, мы сократили цену 1 Тб. Теперь он дешевле в 4 раза в рублях и в 8 раз в долларах.

Вывод
В 2014 году мы внедрили flashcache — увеличили предоставляемое для VDS место в 4 раза, и повысили скорость взаимодействия с дисковой подсистемой. Это решение вышло дешевле предыдущего, позволило нам снизить затраты и не повышать цены на VDS.

Под вопросом осталась надёжность, всё-таки с HW RAID 10 SAS было меньше сбоев. В мае 2015 для людей, которым принципиально важна надёжность и скорость мы ввели тарифы с SSD в качестве основного носителя.

Мы подвели итоги партнерского марафона beget.ru/news/2015/partner-race2015 и уже вручили подарки некоторым нашим победителям, а остальные заберут их в ближайшее время или получат курьерской службой.
В марафоне приняло более 150 партнеров!
Последние дни марафона стали особенно жаркими.
В гонке за призами активизировались все партнеры, чтобы стать обладателями ценных подарков Apple.
К несчастью, не обошлось и без, по нашему мнению, накрутки со стороны некоторых партнеров. Привлеченные ими клиенты проходят проверку.
Тем не менее, чтобы оставаться до конца честными к нашим партнерам, мы заменили подарки на более ценные трем лидирующим участникам, кто действительно старался и честно привлекал новых клиентов. А также ввели подарки за 11 и 12 место.
Мы поздравляем победителей и благодарим за участие всех участников! А тем, кто не сумел вырваться в лидеры, желаем удачи в наших следующих акциях.

Читать дальше →

CloudLITE – это IaaS-сервис на базе VMware, позволяющий автоматически развернуть виртуальный дата-центр, создавать виртуальные машины с любыми ОС и конфигурациями и управлять всем этим хозяйством через панель VMware vCloud Director.
Таким сервис был в момент своего запуска в апреле. С тех пор CloudLITE уже успел набить кое-какие шишки (без жертв среди клиентов, к счастью), обрасти стабильным пулом клиентов, которые очень помогли нам обратить внимание на отдельные моменты и внести корректировки в дальнейшее развитие сервиса.

Панель управления: было

Как показала практика, богатый функционал панели vCloud Director не всем пришелся по душе: да, многие пользователи оценили возможности enterprise-решения, но немало было и тех, кого это изобилие скорее смутило.

Переход на vCloud Director оказался непростым, в первую очередь, для вчерашних пользователей VDS/VPS: совершенно незнакомый интерфейс, огромное количество настроек… Мы постарались по возможности «облегчить» это знакомство посредством инструкций и видео-мануалов, но все равно часть пользователей терялись, ошибались – и в результате уходили разочарованными.


Опять же, как оказалось, далеко не всем в принципе нужен такой необъятный букет настроек: многих вполне бы устроила возможность в один клик создать стандартный виртуальный сервер – желательно с предустановленной ОС и иным системным ПО. Неудивительно, что таких пользователей совершенно не вдохновляла идея тратить время и силы на изучение богатого инструментария vCloud Director.

В результате по-настоящему оценили CloudLITE только пользователи, уже знакомые с vCloud, – а ведь нам хотелось порадовать всех.

Читать дальше →

FASTVPS 925 августа 2016 года компании FASTVPS исполнилось 9 лет. Мы благодарим всех наших клиентов за их выбор и обещаем и дальше оставаться надежным и доступным Хостингом Вашего Успеха для Ваших успешных проектов. Несмотря ни на что, мы полны оптимизма и уверены, что и Вы, наш горячо любимый клиент, сможете преодолеть все возможные проблемы, ну а мы будем рядом именно тогда, когда понадобится, и сделаем все от нас зависящее, чтобы поддержать отличным хостингом все Ваши инициативы.
youtu.be/3l-h938g0sM

Закон о персональных данныхC 1 сентября в России вступает в силу федеральный закон N152 «О персональных данных». К сожалению, созданная вокруг закона шумиха, как в Интернете, так и в СМИ, породила массу мифов и легенд, которые зачастую даже близко не относятся к сути происходящего. Для некоторых наших клиентов грядущее вступление Закона в силу существенно подпортило летний отдых.

Чтобы все же разобраться, кому стоит беспокоиться, а кому можно и дальше наслаждаться жизнью и нашими услугами, FASTVPS принял решение заказать экспертную оценку и разбор закона у профессионального юриста, адвоката, правозащитника, советника РАЕН по отделению проблем права, партнера в Коллегии адвокатов «Трунов, Айвар и партнеры», сопредседателя «Ассоциации Пользователей Интернета», руководителя «Центра защиты цифровых прав», юриста «РосКомСвободы» Саркиса Дарбиняна snob.ru/profile/28087?v=1439310311

В своей статье Саркис подробнейшим образом рассмотрел практически все возможные кейсы, касающиеся закона, среди которых, Вы, скорее всего, найдете и свой. Статья очень объемная, поэтому, пожалуйста, ознакомьтесь с ней на ресурсе МегаМозг megamozg.ru/post/18456/

Если же кратко резюмировать, Закон, к счастью, совсем не так страшен, как его преподносят, и позволяет практически во всех случаях обойтись минимальными потерями времени и денег или же вовсе без них. Пожалуйста, свяжитесь с нами, если Вы по-прежнему не уверены в том, как нужно поступить именно в Вашем случае, и мы с радостью проконсультируем Вас о возможных вариантах.

VPS в РоссииДля клиентов, которые все же считают, что могут попасть под действие Закона или просто хотят быть еще ближе к своей российской аудитории, мы, следуя настойчивым пожеланиям, запускаем нашу первую площадку на территории Российской Федерации. Партнером для такого важного шага выбран надежный и крупный оператор дата-центров, компания Selectel, мощности которой используются в том числе популярной российской социальной сетью Вконтакте.

Собственное профессиональное серверное и сетевое оборудование FASTVPS будет размещено в дата-центре «Цветочная 2», соответствующему стандарту Tier III, в отдельной изолированной стойке. Более подробную информацию о дата-центре Вы сможете найти здесь selectel.ru/data-centers/tsvetochnaya2/

Для наших клиентов на мощностях в РФ мы разработали новую специальную линейку RU-EVO-SSD, которая, разумеется, использует исключительно высокоскоростные SSD диски. Как и на остальных VPS планах мы рады предложить Вам бесплатное автоматическое резервное копирование, панель управления FASTPANEL и, конечно же, профессиональную премиум-поддержку 24/7.

Ознакомиться с тарифами и оформить предзаказ Вы можете здесь fastvps.ru/vps#/ruvps
Конечно же, в честь запуска новой линейки, мы не можем не предложить Вам отличные бонусы:
-Все клиенты, оформившие предзаказ (срок активации серверов не позднее 30 сентября 2015 года), на срок 1, 3, 6 или 12 месяцев, получат такое же количество месяцев в подарок
-Все клиенты на существующих VPS получают возможность бесплатной миграции на тарифы RU-EVO-SSD

VPS в СШАЕсли же, всем бедам и законам вопреки, Вы хотите расширять свой успешный бизнес, а, возможно, начать новый, FASTVPS теперь готов стать Вашим надежным партнером и на Северо-Американском континенте и предоставить наши традиционно качественные и доступные услуги.

Собственное профессиональное серверное оборудование компании размещено в дата-центре COLO@ в г. Атланта, штат Джорджия. Дата-центр соответствует стандарту SSAE-16. Узнать больше и увидеть фотографии дата-центра Вы можете на странице компании COLO@ www.coloat.com/colocation-atlanta.html

Тарифы US-EVO-SSD сочетают в себе доступную цену (от 4.9 EUR в месяц) и большие ресурсы, доступные на максимальных скоростях, благодаря использованию исключительно SSD дисков. Конечно же, бесспорным преимуществом для Вас будет являться и привычная русскоязычная поддержка премиум-класса, включенная в стоимость тарифа.

Ознакомиться и сделать заказ можно здесь fastvps.ru/vps#/usvps

FASTVPS благодарит Вас за Ваш выбор и желает успехов Вам и Вашим проектам!

Здравствуйте, наш лучший клиент!

Нам очень приятно, что Вы выбрали именно нашу хостинг-компанию и мы вместе идем в 2015 год! Пусть в новом году идет все без проблем у Вас, пусть Вам везет не раз, а мы же постараемся добавить к счастью Вашему что-то и от нас! :)

Загадаем же миллионы в банке на счетах! :)

Приятного Вам дня и наступающих выходных!

Хостинг-провайдер Евробайт,
eurobyte.ru/