Принцип адвоката Брофловски, или облачная балансировка нагрузки своими руками
Комментарии (6)
18 мая 2017 в 23:40
0↑
↓
А сколько всего ядер в сумме трудится над 5 гбит/с?19 мая 2017 в 00:05
+2↑
↓
Сервер на расчётные 15К/сек — это 2 x E5–2630v4, то есть 20 ядер, принимает он 100 и отдаёт 80 Мбит/с. То есть 1000 ядер должно хватить. Ну, у нас где-то 800.Наша специфика — bid requests, это очень мелкие сетевые пакеты. Нормального трафика можно обработать в несколько раз больше.
Как в любом живом проекте, это война со множеством переменных:
— нам нужно стараться не превышать 25 ТБ на сервер — дальше трафик не сильно, но платный, и выгоднее добирать серверы
— поэтому, когда мы приближаемся к красной отметке, находим фиксированные куски и утаскиваем на CDN — трафик снижается
—, а в это время разработка делает новые фичи и усложняет логику — QPS и трафик на сервер ещё снижается
— чтобы это поправить, логику в Java оптимизируем и утаскиваем в user-defined functions в Aerospike — трафик растёт
—, но впадают в задумчивость аэроспайки — теперь настало время усиливать их ферму.
Ну и так далее.19 мая 2017 в 00:10
0↑
↓
Хм, спасибо. У нас просто аналогичные 5Гб\с и ДСП\ССП, но все на С++ и в разы меньше ядер поэтому…
Не думали о переезде на колокейшн?19 мая 2017 в 00:22
0↑
↓
У нас сейчас 4 локации. На восточном побережье США, например, мы сменили за 2 года 3 хостинговые компании и 5 серверных платформ. Вот вырастем раз в 100, стабилизируем софт, и тогда обязательно окопаемся. :-)19 мая 2017 в 00:23
0↑
↓
Очень знакомы все эти метания… Аналогично сменили 3 хостинга, но за 5 лет)
19 мая 2017 в 08:37
0↑
↓
Сколько ядер терминируют трафик из htts в http, на 15000 запросов в секунду?
У меня на 15k запросов входящего трафика получается 200 — 250 Мбит/с.
Трафик тоже бид реквесты.