Дата-центр Maincubes: преимущества размещения в Нидерландах или как мы сменили дата-центр

Более 13 лет мы успешно предоставляем выделенные и виртуальные серверы в аренду, применяя железо корпоративного класса и удовлетворяя потребности самых требовательных клиентов. За это время был пройден большой путь, подробности можно узнать из нашей истории — «ua-hosting.company» или как стать хостинг-провайдером с нуля и сгенерировать трафика больше, чем вся Беларусь.

cf2j1x2t_iarqwmz557vijl3azy.jpeg

Но рано или поздно приходится двигаться дальше, даже, если мы этого не хотим. Внешние условия мотивируют нас к этому. И таким условием стала продажа второй нидерландской площадки, Switch AMS1, где мы размещали custom-built решения наших абонентов, крупной компании Equinix. 7-летний контракт на аренду стоек был перепродан и казалось бы — стало только лучше.

p26gvozp7xjxcnolatqj4fsmoam.jpeg

Новые владельцы улучшили систему охлаждения, мы переместили множество серверов в новый зал с первого этажа на второй, что повлекло смену IP-адресов и определённые неудобства у части абонентов. Ведь часть адресов можно было сохранить только в случае, если все серверы из блока перемещаются одновременно, а учитывая, что их сотни, подобные работы заняли бы слишком много времени, что усложняло бы логистику, а в некоторых случаях было просто невозможным, так как блок использовался не только нашими серверами.

soy_rdp7lomwqsryekvtzdnyjv8.jpeg

В результате мы получили недовольных клиентов, отказывающихся менять IP-адреса и мотивирующих это тем, что они купили на текущие адреса кучу лицензий за 5 лет, а лицензионная политика компании, где приобретались лицензии, не позволяла проводить смену IP-адресов. Так, у одного из абонентов, ущерб от смены IP-адресов был оценен в 70 000 USD — сумму большую, нежели клиент нам оплатил за 5+ лет работы. Другой же пользователь жаловался, что зарегистрировал и указал в А-записях текущие IP для более, чем 100 тысяч доменов и смена адресов оперативно невозможна.

wcmmxxmnjx4nzwkdepjrcxcvsro.jpeg

Мы правда хотели им помочь, но на то время мы не имели статус LIR, и IP-адреса не принадлежали нам, потому всё же клиентам пришлось решать проблему с поставщиком лицензий или со сменой адресов в А-записях. Ведь никто не гарантировал IP-адреса навсегда и если существовали требования к их сохранности, клиентам следовало получить статус LIR и собственный блок IP-адресов и отроутить к нам, что обошлось бы около 2000 евро на первый год и дешевле в последующие. И этим бы эти люди защитили свой бизнес. Ну, или хотя бы следовало поставить нас в известность о столь высокой критичности и мы могли бы пройти всю процедуру для клиента, тем самым обезопасив его и его бизнес.

tuflhmbwb50d-psl8k8jb7wzlyq.jpeg

Излишняя экономия, отсутствие резервного плана и утаивание требований к проекту, вот где была ошибка. Люди надеялись, что адреса они арендовали на срок, который им нужен, так оно и было долгие годы и могло быть далее, но их проекты по-видимому просуществовали дольше, нежели они предполагали, а те прибыли, которые были получены, не были инвестированы должным образом, ведь если что-то работает, зачем тратить больше? Жадность, вот в чём причина. И за неё всегда нужно платить.

xyl-qz94dur2ymg0qvikrvcm9be.jpeg

Всё это заставило меня задуматься, ведь если клиенты не способны подумать о себе, то мы должны подумать о них, даже несмотря на то, что они хотят платить «три копейки» и экономить на всём, такова уж человеческая природа, мы должны быть способны помочь и настолько не дальновидным людям, ведь в конечном итоге все мы в одной лодке, наш успех — их успех и наоборот. Именно поэтому вскоре после этого мы получили два LIR-статуса и собственные блоки, просто для того, чтоб построить сеть таким образом, чтоб адреса не нужно было менять даже при смене услуги и сохранить адрес для требовательных клиентов можно было с большей долей вероятности.

lnojaiioltwql1dls4pvjwzykci.jpeg

Мы успешно росли, добавляли новые стойки, но в какой-то момент Equinix сообщил, что не сможет дать больше стоек, так как им необходимо пространство для собственных проектов и у них свои планы на этот дата-центр и вообще хорошо было бы, если бы мы в течении года переехали в другое место, расторгнув контракт по желанию обеих сторон досрочно.

dropz7fj1_fiosm8zeb3xxsz6ow.jpeg

Таким образом мы столкнулись с большой проблемой — найти новый надёжный дата-центр и переместить сотни серверов в этот дата-центр с минимальным временем простоя, которое будет равно времени на демонтаж, перевозку и установку оборудования в новые стойки в идеальном случае.

yz0b5ucap32auez7iyuqadwz_lw.jpeg

Поиски нового ЦОДа заняли несколько месяцев. Мы рассматривали EvoSwitch (еще до того, как LeaseWeb его продал Iron Mountain, в котором уже размещались выделенные серверы наших клиентов, начиная с 2012 года), а также другой, новый дата-центр — Maincubes. Всякие там Serverius и подобные были нам просто не интересны, так как наш бизнес-партнёр — Мурат Байхан, основавший компанию 3WInfra, и проработавший много лет в этой индустрии, в том числе в LeaseWeb (именно он привёл нас в эту компанию вместе с Эмрахом в 2012 году), основываясь на своем опыте — точно знал какие подводные камни и проблемы могут быть. Ведь мы не просто клиент, мы клиент, который растёт на десятки стоек и которому важно, чтоб процессы роста были максимально комфортны, для чего необходима определённая гибкость руководства дата-центра в виде обеспечения определённых процессов без излишней бюрократии. И таким дата-центром стал Maincubes в Амстердаме, они как раз открыли его после успешного подобного проекта в Германии.

ddy13dzdn2nc9uchuewcclvo1ha.jpeg

Тем не менее существовала еще одна проблема — в этот раз нам просто необходимо было сделать так, чтоб IP-адреса не менялись, и более того, во время миграции работали с двух дата-центров одновременно. В противном случае были бы затронуты тысячи виртуальных серверов и услуг, которые бы испытали значительный даунтайм из-за смены ай пи адресов.

zwsyass89f49a9efpqjttdy23vs.jpeg

Решение было найдено — инженеры «подключили» Интернет в новом дата-центре посредством тёмного волокна, которое было проброшено из старого ЦОДа до новой площадки, что позволило использовать те же IP-адреса и маршрутизировать трафик при помощи маршрутизаторов, установленных на старой площадке. Согласование такого подключения с руководством Equinix потребовало немалого времени, и к счастью вопрос удалось решить в течении трёх недель. Это довольно быстро, просто потому что там бюрократия. Именно потому мы более не очень хотим сотрудничать с Equinix ни в Нидерландах, ни в каких-либо других странах. Они очень медлительны и не отвечают потребностям наших абонентов.

wt3sanjqrevhs8frlytutsxcodk.jpeg

Для того, чтоб успешно всё переместить с минимальным временем простоя, пришлось сделать следующее:

  • приобрести новый маршрутизатор для новой площадки;
  • установить новые шкафы, cable run-системы, приобрести дополнительные PDU и свитчи;
  • полностью подготовить сеть (старая оптика и витая пара выбрасываются, а это, более 5000 евро, просто для того, чтоб исключить повреждения каких-либо включений и снизить время простоя и свести работу инженеров к минимуму, так как в конечном итоге работа людей куда дороже);
  • задействовать тёмное волокно и маршрутизацию со старого дата-центра до момента полного перемещения оборудования в новый дата-центр, тем самым исключив необходимость смены IP-адресов;
  • перевозить серверы частями, по пол стойки или даже несколько серверов, так как время простоя = времени на демонтаж из стойки, перевозку, монтаж в стойку, подключение заведомо подготовленными витой парой или оптоволоконными включениями).


udpzi_iby2hrh4veisljspgifx0.jpeg

На удивление переезд не стал катастрофой, просто потому, что наш партнёр, Мурат Байхан, заранее озаботился этим вопросом и точно знал как и что нужно делать, имея опыт перемещения оборудования с одного зала ЦОДа в другой и в целом большой опыт развёртывания инфраструктурных решений в сжатые сроки. И хотя не всегда всё проходило по плану, но Мурат и пара квалифицированных инженеров, обученных им, способны сделать работу, которую делает команда из 20+ человек провайдера LeaseWeb в дата-центре Iron Mountain, а это говорит о многом. Недавно к нему обратился TikTok с просьбой развернуть инфраструктуру в новой локации в Германии с несколькими сотнями серверов в течении недели и Мурат был готов выполнить и эту задачу, но китайцы, видимо, пожалев денег (хотя сумма — «копейки», несколько десятков тысяч евро за работы, что можем себе позволить даже мы, хотя мы не крупный TikTok), начали искать альтернативу. Примечательно, что вскоре подобный запрос пришел уже от другой крупной компании, к которой обратились китайцы и которая не найдя никого, кто мог взяться за работу, кроме Мурата, переадресовала запрос ему, что говорит о многом. В итоге TikTok потерял время и деньги, переплатив за трафик в других локациях, вместо того, чтоб грамотно организовать необходимую точку присутствия. В который раз убеждаюсь, что никогда не нужно жалеть средства для роста и никогда не нужно работать ради прибыли, порой нужно уметь принять важное решение в срок, несмотря на стоимость и сложность, тем более, когда такая возможность есть. Лучше сделать что-то и жалеть, чем жалеть о том, что не сделал.

9yhxdwsdakalhngkic-4j_8d4yc.jpeg

Именно по этой причине, когда Мурат сказал, что «надо», я не сказал «нет», а лишь спросил «когда»? Мы целиком доверились Мурату и его инженерам, плацдарм был подготовлен заранее (в виде темного волокна между дата-центрами, чтоб обеспечить одновременную работу одной сети в двух дата-центрах одновременно на расстоянии нескольких километров). И step by step все наши серверы были перемещены. Конечно, нам пришлось докупить дополнительное сетевое оборудование для этого, чтоб обеспечить плавную миграцию (порой наш инженер Эрсин перевозил по 3–4 сервера за раз, чтоб уменьшить время простоя и сделать процесс еще более плавным), но в то же время это было хорошим вложением, ведь его можно использовать после в новых стойках.

dptqjjvwzrlx2ien3hcosslqpgg.jpeg

Далее последовал процесс переключения. Предварительно на новых маршрутизаторах в новом дата-центре настроили правила роутинга наших ай пи адресов, идентичные правилам в старом, а затем, отключили физически темные волокна и вместо них включили волокна, идущие к новым маршрутизаторам в новом дата-центре. Таким образом несколько сотен серверов было перемещено за срок менее, чем в течении недели, а процесс переключения на новую сеть, в результате которой даунтайм получили все серверы одновременно, занял менее, чем 10 минут, что находится в пределах допустимого времени даунтайма даже для банков (до 40 минут в год, если не изменяет память).

td6mkl-rke2td5l4_hbbrunwdze.jpeg

Конечно, отдельно взятые серверы были недоступны в срок от 40 минут до 3-х часов во время их физического переноса в другой ЦОД, однако, даже клиенты с критичными к простою проектами, не заметили особых проблем, так как их инфраструктуры мы могли перемещать «по частям» и полной недоступности проектов не было.

IP-адреса в результате переноса не изменились, сеть осталась прежней и даже увеличилась её надёжность. А самое главное — теперь у нас появилось пространство для дальнейшего роста, что позволило сделать возможным новые решения в новом ЦОДе, ведь в прежнем Equinix мы были ограничены не только количеством оставшихся свободных стоек, но и доступным питанием.

l9jzbukr2tiwaukeq1o7ljadtwy.jpeg

Преимущества размещения в Нидерландах, дата-центр Maincubes


Прошло более 10 лет, как мы начали предоставлять услуги в Нидерландах, и чуть менее десяти с момента публикации обзорной статьи — «Преимущества размещения в Нидерландах, Дата Центр EvoSwitch», с итогами, спустя год работы. Эти 11 лет были по настоящему интересными для нас и наших клиентов, мы сумели не только построить надёжную инфраструктуру в Нидерландах, но и успели поработать с тремя дата-центрами в этой замечательной стране.

wqybgghy2xm2xqwc4se25xwst8i.jpeg

Что можно сказать сейчас? Статья об EvoSwitch всё ещё актуальна, несмотря на то, что LeaseWeb продал дата-центр компании Iron Mountain. Это ещё раз подтверждает то, что владеть чем-либо невыгодно, аренда — наше всё, и каждый должен быть занят своим делом, а не пытаться иметь всё своё ибо это якобы «круто». Нет, не круто, владение должно быть осознанным и необходимо ровно тогда, когда оно необходимо.

mh5qsoktgz1ixcruinp-elfwroq.jpeg

Именно потому долгие годы мы не владели ни одним сервером, за исключением пары стоек в дата-центре Укртелекома, или ай пи адерсом и были при этом крупнее, нежели множество провайдеров со «своим дата-центром».

-jmpxgkgqpqgafb_wesu_yxymum.jpeg

Сегодня в LeaseWeb вполне неплохо, если речь идёт о стандартных услугах, но если есть что-то нестандартное — бюрократия Вас одолеет. Именно потому уже спустя 2 года мы начали предоставлять параллельно услуги во втором дата-центре «Дата-центр «Switch AMS1» — мы сделали то, чего так не хватало нашим клиентам», что стоило конечно же, несколько дороже, но дешевле custom-built в LeaseWeb и без головной боли, так как там всё-равно не могли обеспечить то, что необходимо.

gtpgnnxrszhnmkqg3tkd03y4u9g.jpeg

Тем не менее, спустя года, к сожалению, мы не смогли столь же успешно продолжать сотрудничество с LeaseWeb в Нидерландах, как это было изначально. В течении многих лет я часто выполнял там роль Product Manager на бесплатной основе, указывая на недостатки в услугах, которые необходимо устранить, чтоб обеспечить больший комфорт для наших клиентов, рост клиентской базы и в течении многих лет я получал решения с опозданием на два года и более. И это несмотря на то, что мы были одним из крупнейших клиентов, оплачивающим свыше 100 тыс евро ежемесячно, который активно развивался и рос и мог расти далее, если бы в LeaseWeb были люди, которые чуть больше слушали и слышали. Таковых было увы не очень много, а те, что были, не очень хотели обсуждать наши потребности с руководством ввиду своей какой-то дивной внутренней политики. Именно из-за неё наш текущий партнёр Мурат Байхан покинул компанию ещё в 2012 году, не найдя применения своим навыкам. Чуть позднее, пришло время и для нас, уже в 2017 году я решил, что мы больше не можем тратить время на бесполезные споры и если наши потребности не могут быть обеспечены, мы найдём возможность как их обеспечить своими силами. В последний раз обсудив наши потребности с менеджерами и предупредив о том, что мы все-таки вынуждены будем уйти, и вместо решения, получив ответ «вы уже в который раз предупреждаете, но никак не уходите», пришлось взять курс на построение нового решения.

lgzzay_3y0agwkoeqiwcuhxugu4.jpeg

Долгое время я был противником покупки оборудования, так как это головная боль и в конечном итоге услуги стоят дороже, нежели аренда в хорошем дата-центре, где таких серверов закупают тысячами и каждый умеет делать успешно свою работу. Но можем ли мы это повторить? На малых масштабах нет — нужен объем хотя бы в десяток стоек, чтоб это было хоть как-то самоокупаемо.

eevvm4z0fm1msaqlgleixqloxme.jpeg

Наша работа была и заключается в том, чтоб предложить клиентам то, что им необходимо, даже если клиенты сами не знают, что им нужно. В отличии от «стандартного» LeaseWeb с множеством различных конфигураций и большой головной болью по их замене, я пришел к ещё большей стандартизации ещё на протяжении работы с ними, которая при всей своей стандартности могла обеспечить еще большую гибкость и кастомизацию, как это не удивительно. Об этом можно узнать из нашей статьи — «Как построить инфраструктуру корп. класса c применением серверов Dell R730xd Е5–2650 v4 стоимостью 9000 евро за копейки»?

o2sjl6_mxrzyivg5ynmks0l_sqm.jpeg

Выбрав платформу, которая удовлетворяет потребности свыше 99% всех наших клиентов, и которую мы успешно предлагали нашим клиентам на протяжении нескольких лет в LeaseWeb, мы решили, что сможем сделать то же самое и даже лучше, но уже в наших стойках и с нашей сетью, в варианте, как надо нам. Не найдя ни одного адекватного предложения по аренде для наших абонентов, с возможностью установки набора накопителей, которые мы считаем оптимальным, у нас не осталось никакого другого выхода, кроме, как основать SIA UA-Hosting, сам процесс мы полностью описали в статье «Как мы компанию в ЕС регистрировали». И по итогам, начать приобретать железо, для построения custom-built решений для наших абонентов, имея возможность, хотя бы вернуть VAT, что в Европе — 19–21%.

c84lunuco_vgiwckejcna99xsqo.jpeg

Нам повезло, наш партнёр Мурат нашел нам поставщика, который поставляет refurbished-серверы из NASA, благодаря чему мы смогли начать предоставлять практически новое железо в аренду по цене, которая значительно ниже среднерыночной на подобного рода услуги корпоративного класса с соответствующим уровнем качества и иметь небольшую маржинальность. Тем не менее первые три года вряд ли можно назвать очень прибыльными, так как они потребовали инвестиций в развитие всех накопленных за года работы средств, и вот только сейчас мы начинаем выходить «в прибыль», что позволяет нам расти не только в Нидерландах, но и открывать новые локации — этим летом мы открыли локацию всего лишь в 20 минутах езды от Манхеттена. При этом мы до сих пор можем максимально долго не повышать цены для клиентов, даже когда цены растут везде, или всегда предлагать более адекватную альтернативу. Все процессы по покупке, обслуживанию и замене вышедшего из строя оборудования — успешно отлажены, так как теперь мы, как LeaseWeb в свое время, закупаем множество одинаковых конфигураций. Но теперь мы можем предоставить выделенный сервер даже в выходной день и даже в праздники, так как мы более гибки, нежели крупный ЦОД.

yxzuehbdkna9anzp7g07kp6foys.jpeg

А ещё в новом дата-центре мы сделали две сети. Одна — аналог premium LeaseWeb, когда трафик маршрутизируется двумя ядрами дата-центра одновременно, с отличием в том, что отсутствует недорогой обменный трафик и весь трафик доставляется исключительно Tier I операторами, такими, как NTT, Telia, TATA.

bjr86ws3h-ywtrxanfypryniglw.jpeg

Другая — дешевый Cogent, для которой мы установили маршрутизатор Juniper из Equinix, который оказался очень прожорливым в плане потребления электричества и потреблял энергии, как пол стойки серверов, что стоило нам только 1000 евро в месяц за питание, а с ростом цен сейчас — стоило бы уже 1300 евро.

vbrttepmmwwud9vlqt7uesjheqa.jpeg

Несмотря на цену на электричество, благодаря этому маршрутизатору мы начали предоставлять клиентам дешевую коннективность на скорости до 80 Гбит / с для отдельно взятых выделенных серверов, с возможностью апгрейда до 100 Гбит / с и более с оплатой, как за канал без учёта, так и с учётом по 95 перцентилю.

veow_t0knp2ryswategwn-kyweg.jpeg

95-й перцентиль — это когда клиент получает 10 гигабит подключение по оптике в отдельно взятый сервер, а оплачивает только тот канал, который реально использует по весьма интересной цене — 150 долларов за гигабит или 900 за 10 Гбит / с без какого-либо учёта трафика и ограничения. Что стоит несравнимо дешевле премиум-сети, где каждые 10 гигабит — 3500–7000 долларов в зависимости от поставщика и стоимости услуг дата-центра, ведь также взымается плата за кросс-коннект, обслуживание сети, маршрутизацию, что в конечном итоге формирует солидную добавочную стоимость к цене канала непосредственно от магистрального провайдера.

cikrqllbhkh_wxbzpcwycvnkjna.jpeg

Чуть более года назад, поскольку мы решили, что добавлять других поставщиков трафика для недорогого подключения не имеет смысла — Cogent абсолютный лидер по стоимости сети и покрытию в мире, мы заменили Juniper более прогрессивным 96-портовым роутером, который уместился в 2 юнита и сейчас позволяет нам подключить в Интернет наших клиентов на скорости до 480 Гбит / с суммарно, обеспечивая куда больший запас, ведь всего за год с момента анонса услуги, наши клиенты сгенерировали 150 Гбит / с.

d59ghzcmikci8sppbv63352u2q4.jpeg

Ну, а теперь всё же обсудим преимущества. Спустя 10 лет Нидерланды всё ещё интересная локация для Ваших проектов, так как, Нидерланды это:

  • лояльное законодательство и безопасность Ваших проектов (сервер не изымут по надуманной причине и Вы можете быть уверены, что Ваши данные в безопасности);
  • возможность размещения проектов для взрослых;
  • хорошая связность, как с Европой и США, так и с Украиной и Россией.


lhxu4npc_0gm-wxg45cwdlwxtwk.jpeg

А благодаря нам — это ещё:

  • Гибкий перенос IP. Ваш проект растёт, нужно переехать с VPS на сервер, не меняя IP? Уже можно. С недавних пор мы работаем с собственными диапазонами адресов, что даёт нам гибкость в назначении.
  • Маршрутизация собственных подсетей. Пользуетесь своим диапазоном IP? Тоже не проблема. Теперь свою подсеть можно отроутить к нам без проблем и использовать её даже на VPS. Ведь Вам так этого не хватало.
  • Российские GeoIP. Уже 3 года, как можно заказывать серверы с IP-адресами, которые идентифицируются по WHOIS как относящиеся к России (регион Москва) и несмотря на всё, мы продолжаем предоставлять эту услугу, особенно сейчас. Если для Вашего проекта это важно — милости просим. Ведь при этом физически серверы продолжают располагаться в Нидерландах, что может защитить Вас от нелояльного законодательства и быть полезным для Ваших нужд.
  • Приватные сети. Нужно объединить Ваши серверы в приватную сеть? Мы построили возможность подключить любой из Ваших серверов по оптике между собой через свитч, вне зависимости от стойки, где расположен сервер, на скорости 10 Гбит / с за адекватную плату.
  • Dedicated по цене Colocation доступен! Мы знаем, что некоторым клиентам требуется много дисков, причём корпоративного класса, а переплачивать за аренду — не хочется. Мы первый провайдер, который реализовал возможность добавить нужные накопители в сервер внеся одноразовый установочный платёж, при этом это не покупка и сопряженные с этим сложности по наличию стока замены, а также удалённых рук, а «пожизненная аренда с гарантией», таким образом — Dell R730xd — 2x E5–2697v3 2.6 GHz 14C / 192GB DDR4 / 24×1,92 TB Samsung Enterprise SAS SSD / 1 Gbps 100 TB — может стоить все те же 199 $ в месяц, благодаря возможности установить 24 накопителя за единоразовый платеж.
  • Фильтрация DDOS-атак в Нидерландах до 1 Тбит / с на уровне магистральных провайдеров. Не так давно нашим партнером в результате действий вымогателей была внедрена одна из мощнейших в мире систем по фильтрации DDOS-атак на уровне магистральных провайдеров, теперь мы способны защитить практически любой проект, такой защиты нет даже у банков.
  • 2 сети — премиум и Cogent для любого из серверов, с ценой от 450 USD за 10 Гбит / с! Вы разработчик популярных приложений? Хотите дать скачать апдейт мгновенно и не переплачивать за трафик? Мы можем предоставить Вам 10-гигабитный канал с учётом по 95 перцентилю, когда 5% пиковых значений при учёте отметается, а значит Вы можете использовать канал 36 часов в месяц на полную без переплаты, оплачивая 450 USD за 3 включенных гигабита и 150 за каждый гигабит превышения, либо 900 USD за полный канал 10 Гбит / с без учёта и каких-либо условий!
  • VPS (KVM) с выделенными накопителями, аналог серверов начального уровня, по цене от $19 / месяц! Подробности идеи мы представили ещё в статье в 2018 году «Вся правда о VPS (KVM) E5–2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1Gbps от $20 или как правильно делить сервер?» С того времени мы значительно разнообразили и улучшили услугу, о чём в скором времени будет новая статья.


wlkr1m7bkdo0_zqbnhi3avty1mm.jpeg

Сложности


За последние 10 лет только лишь единожды у нас в Нидерландах один из серверов изъяла полиция, а это говорит о многом, что действительно — изымают только в крайнем случае и только по решению суда. Причем оборудование было возвращено в ДЦ уже спустя пару дней. То есть законы — работают, что приятно.

С другой стороны есть и минусы. Порой борьба с пиратством превышает разумные масштабы и потому такая организация, как BREIN, может запросить убрать веб-сайт из адресного пространства Нидерландов только из-за того, что там располагаются названия фильмов, защищенные авторским правом. Скрытие IP за cloudflare не поможет, так как реальный адрес будет предоставлен этой организации. Как результат, многие клиенты, чтоб не иметь проблем, просто закрывают доступ для IP из нидерландского региона, так как порой защита прав касательно фильмов, переходит границы разумного. Тем не менее, с появлением Netflix и других стриминговых сервисов, проблема пиратства ушла в значительной степени и более не является сколь-либо острой.

А вот DDOS-атаки росли в геометрической прогрессии и если в 2011 году мы сталкивались с атакой в несколько гигабит, то в 2021 году, наряду с атаками в несколько гигабит, наблюдались и атаки в сотни гигабит. Так, владельца нашей премиум-сети, осенью 2021 года начал терроризировать атакующий требующий 1000 долларов на его биткоин-кошелек или 100 долларов еженедельно в течении 10 недель, в противном случае он грозился атаковать сильно, и даже мощностью в несколько сотен гигабит, чтоб не было шанса защититься.

gcji8ddlsm54haxq8sv8x3hxlyc.jpeg

Он не соврал, атаки приходили и со временем усилились до 800 Гбит / с! Что было фактически невозможно отфильтровать без подключения защиты на уровне магистральных провайдеров. Только консультация по внедрению подобной защиты может стоить порядка 150 тыс евро, со слов владельца сети, казалось бы — было бы дешевле заплатить, чтоб атакующий перестал терроризировать дата-центр. Но платить ддосерам — плохой пример, именно на этом они и зарабатывают, так как дата-центров сотни, получая прибыль и терроризируя казалось бы на изначально небольшую сумму в 1000 долларов, но аппетиты могут расти.

4-hrjnsimmdlodnzpfokwwiom9y.jpeg

По итогам, спустя какой-то период под атаками и после потери клиентов примерно на сумму в 5 тыс евро / месяц, система защиты была внедрена. На графике видно, как прекрасно утилизируется весь трафик атаки, суммарно с двух маршрутизаторов — порядка 800 Гбит / с в пиках, и при этом атака не оказывает какого-либо влияния на работу сети. Сколько стоит такая защита? Порядка 30–40 евро в минуту. Но атака такой интенсивности — гораздо дороже. Потому вряд ли Вас будут атаковать более, чем час, если поймут, что денег все-равно не будет и какого-либо эффекта от атаки нет.

Атакующий ошибся, удалось справится с его атакой, хоть и большой ценой, в результате была построена совершенная система защиты, которая сделала сеть пожалуй самой защищенной сетью от ДДОС-атак в Нидерландах.

Выкуп адресов, поддержка стока и рост цен на электричество в Нидерландах на 30%


В прошлом году, чтоб дополнительно обезопасить наших клиентов и гарантировать бесперебойное предоставление услуг, нам пришлось выкупить блок /22 (1024 адреса) из аренды в собственность, что стоило нам дополнительно около 50 тыс USD. Всего за 3 года цена блока увеличилась более, чем на порядок, что круче любого Bitcoin, ведь еще в начале 2019 года мы успешно зарегистрировали первый LIR и получили с ним блок /22, а чуть позднее второй, но уже с диапазоном /24, так как количество доступных адресов быстро исчерпалось. Нежелание спекулировать и регистрировать LIR впрок привело к тому, что теперь мы вынуждены дорого оплачивать за необходимые нам адреса, тем не менее такие моменты мною воспринимаются исключительно, как полезный опыт. Я не ожидал, что всего за 3 года мы начнём использовать 2500+ IPv4 адресов, и в этом была моя ошибка. Очевидно, что наши услуги в Нидерландах стали ещё более лучшими, если всего за 3 года мы смогли заполнить 10+ новых стоек серверами и предложить несколько новых решений для наших абонентов, что не может не радовать и подтверждает, что мы на правильном пути. Именно по этой причине я хотел бы сказать спасибо всем нашим клиентам за то, что они сотрудничают с нами. А если Вы еще не наш клиент — попробуйте наш сервис и Вы будете жалеть лишь о том, что не начали сотрудничать с нами ранее.

6t4yadisav3chq-f2hb_-p9_0xi.jpeg

Хотелось бы иметь возможность сделать наши услуги доступнее. Тем не менее, из-за роста цен на электричество многие дата-центры поднимают цены, наш ЦОД не стал исключением, мы стали оплачивать на 30% больше за потребляемую электроэнергию и сейчас стоим перед выбором — кому и когда увеличить цены, как покрыть «переплату», ведь на каждом десятке стоек — это примерно +60 тыс евро в год, только за электричество. Если ранее 30А питания для стойки обходились в 1800 евро, то теперь нужно оплачивать 2400. А это, всего лишь 20 серверов Dell R730xd, то есть себестоимость питания одного — уже 120 евро. Возможно ли при таких ценах продолжать предоставлять сервер с сетью и трафиком Dell R730xd — 2x E5–2697v3 2.6GHz 14C | 64GB DDR4×4x960GB SSD | 1Gbps 100TB по цене от $199 при оплате на 2 года? Мы продолжаем верить, что да. И потому приняли решение не поднимать цены в 2023 году. Оставив возможность тем, кто еще не попробовал качество наших услуг, заказать себе качественный выделенный сервер на 2–3 года по сниженной стоимости и защитить себя от потенциального роста. Более того, если Вам нужен более производительный процессор — напишите нам, сейчас незначительно дороже мы всё ещё сможем предложить вариант с 18 или даже 22 ядрами — 2 x E5–2696 v4 2.2GHz 22C.

nqs2b38jeqkivff4qtrvmr0xrnu.jpeg

Рост цен на электричество заставляет всё пристальнее смотреть в сторону решений, которые не требуют применения HDD накопителей более, ведь твердотельные накопители потребляют однозначно меньше питания, нежели традиционные жесткие диски. Именно потому, несмотря на рост цен на полупроводники, мы оставили прежними цены на накопители SSD Enterprise-класса, а также начали предлагать в прошлом году VPS (KVM) с выделенным SSD-накопителем по цене от 29 USD за VPS (KVM) — E5–2697 v3 (6 Cores) | 10 GB DDR4×3.75 TB SSD | 1 Gbps 10 TB, вместо медленных 4TB HDD накопителей, в начале в США, а затем и в Нидерландах. В то же время мы сумели обеспечить виртуальные серверы с выделенными накопителями в США 960GB SSD в ту же стоимость, что 480GB SSD в Нидерландах — всего лишь от 19 долларов в месяц при двухгодичном биллинговом цикле.

djnizajvtl4aoojc2wberzqudiu.jpeg

Что же касается стока серверов, то мы обеспечили хороший резерв серверов в наличии, как в Нидерландах, так и в США. А самое главное — накопителей к ним. Из-за кризиса полупроводников поставки некоторых накопителей могут занимать 3–4 недели и даже более, мы закупили накопители впрок, чтоб полностью застраховать наших клиентов от подобных проблем. У нас почти всегда есть в наличии даже дорогие SSD-накопители объемом 15TB для Вас.

n8l2efo6fljttwetu_glgedd09i.jpeg

Для самых требовательных наших клиентов мы всегда будем рады предложить личный Mikrotik и другие дополнительные аппаратные решения.

1ysllwvexqbce5_k7sxhgiv8vfa.jpeg

Немного интересной статистики. На сегодня наши серверы, расположенные в Maincubes, потребляют более четверти мегаватта электричества. В дата-центре остаётся еще несколько свободных стоек для роста и порядка 50 кВт питания. Тем не менее из-за «зелёных» всё сложнее получить электричество в пределах Амстердама, по этой причине в будущем мы будем вынуждены вновь размещаться, как в Equinix, так и даже в Iron Mountain, а возможно и в других нидерландских ЦОДах. Для этого проекта уже сейчас нашим партнёром подготавливается сеть, которая позволит предоставлять услуги сразу в трёх дата-центрах в пределах «одной физической сети», таким образом уже в обозримом будущем у каждого из клиентов SIA UA-Hosting в Нидерландах появится возможность отказоустойчивого размещения в трёх физически удалённых друг от друга локациях, что ещё больше повысит отказоустойчивость сервиса и приведёт к новым интересным задачам и проблемам.

Ну и ещё раз хочу напомнить, что наш сайт для Вашего удобства

© Habrahabr.ru