AWS выпустила 64-ядерный Graviton3 — самый мощный ARM-процессор в мире
Выход нового поколения процессоров всегда вызывает интерес. А если это самый мощный и самый известный в мире серверный ARM-процессор Graviton, то интерес особенный.
На конференции re: Invent компания Amazon официально представила третье поколение процессоров собственной разработки AWS Graviton3 (64 ядра «Perseus» Neoverse N2 от Arm Holdings), а также новые инстансы Amazon EC2 C7g на их основе.
Первое поколение Graviton вышло в конце 2018 года, а второе последовало через год. Теперь представлено третье поколение с интервалом уже в два года от предыдущего. На этот раз разработчики сделали акцент не на увеличении тактовой частоты или количества ядер, а на увеличении производительности и функциональности отдельных ядер: количество инструкций за такт в последнем звене конвейера обработки команд увеличено с 8 до 15. Весь конвейер схематично изображён на диаграмме:
Как уже упоминалось, Graviton перевели на новые ядра «Perseus» Neoverse N2 от Arm Holdings, а сами процессоры уже фактически превратились в чиплеты, также как у Intel и AMD.
Сегодня на Graviton2 предлагается 12 разных инстансов AWS, включая новые X2gd для рабочих нагрузок с интенсивным использованием памяти.
На всех инстансах для каждого vCPU выделяется отдельное физическое ядро Graviton с кешем, постоянно работает система шифрования всех данных в памяти и дополнительные функции безопасности Nitro на отдельном железе с Nitro Card и Nitro DPU, это тоже ряд собственных аппаратных разработок AWS.
Основные технические характеристики Graviton3
- 64 ядра
- Тактовая частота: 2,6 ГГц
- 50 млрд транзисторов
- Память: DDR5
- Скорость обмена данными с памятью: 300 ГБ/с
Новые CPU в среднем на 25% быстрее предыдущих. В вычислениях с плавающей запятой и криптографии превосходят их вдвое, в задачах машинного обучения они поддерживают данные bfloat16 и имеют втрое большую производительность, чем Graviton2. AWS также заявляет, что они будут потреблять на 60% меньше энергии при том же объёме вычислений.
В реальных задачах получены такие результаты:
- Nginx: на 60% быстрее
- Groovy: на 58%
- Node.js: на 37%
- Redis: на 25%
В Graviton3 также реализована новая функция защиты адресов в памяти. Перед отправкой на стек они подписываются секретным ключом, с учётом контекста, включая текущее значение указателя. При снятии со стека адреса сразу валидируются, так что указатели подделать трудно. Это ещё один рубеж обороны против атак, которые пытаются записать в стек указатель на вредоносный код.
Ниже в таблице можно сравнить характеристики трёх поколений Graviton:
Инстансы EC2 C7g — первые инстансы с быстрой памятью DDR5. Это также одна из причин их более низкого энергопотребления. У новой памяти в полтора раза выше скорость обмена данными, по сравнению с DDR4.
В официальном анонсе AWS отмечает, что новые процессоры и инстансы будут полезны для различных задач, включая «высокопроизводительные вычисления, пакетную обработку, автоматизацию проектирования электронных устройств (EDA), кодирование мультимедиа, научное моделирование, распределённую аналитику и выдачу результатов машинного обучения в системах на базе CPU».
Инстансы EC2 C7g пока доступны только для предварительного просмотра после заполнения заявки. То есть цены на них неизвестны. Но если эти процессоры мощнее предыдущих и потребляют меньше энергии, то можно предположить, что пользователи ARM-инстансов получат примерно +25% производительности за те же деньги. А с учётом того, что вычислительные инстансы ARM и раньше были выгоднее x86 по соотношению цена/производительность, это очень приятный бонус.
Скорее всего, AWS выкатит около десятка инстансов C7g разного размера, включая выделенные серверы. На сетевом уровне они подключаются по каналу 30 Гбит/с с поддержкой Elastic Fabric Adapter (EFA).
