Решения для ЦОД, мини-суперкомпьютер: главное с NVIDIA GTC 2022
С 22 по 24 марта проходит конференция для разработчиков в эпоху ИИ под названием NVIDIA GTC 2022. Мероприятие посвящено ускоренным вычислениям, глубокому обучению, анализу данных, цифровым двойникам, коммуникациям, квантовым вычислениям и вычислениям в центрах обработки данных, облаках и периферии, а также работе с ИИ.
Во время вступительного выступления гендиректор NVIDIA Дженсен Хуанг расcказал о разработках компании и партнеров в области искусственного интеллекта, усовершенствованием технологий для ЦОД, робототехнике и виртуальному сотрудничеству в метавселенных.
Решения для ЦОД
NVIDIA представила архитектуру нового поколения Hopper и вычислительную платформу на ее базе на основе нового графического процессора NVIDIA H100 с 80 млрд транзисторов и тензорными ядрами, Transformer Engine и интерфейсом NVLink, обеспечивающего многократный прирост производительности по сравнению с предыдущими решениями NVIDIA, а также систему корпоративного уровня DGX H100 на основе чипов H100 и суперчип Grace Hopper — это 144-ядерный процессор с энергопотреблением 500 Вт и пропускной способностью памяти в 1 ТБ/с для масштабных ИИ- и HPC-проектов.
Сеть NVLink
Системы DGX H100 позволяют удовлетворять вычислительные потребности больших языковых моделей, рекомендательных систем, исследований в области здравоохранения и климатологии. DGX H100 включает восемь GPU NVIDIA H100, объединенных интерфейсом NVLink в единый блок. Это обеспечивает производительность ИИ в 32 петафлопса с точностью FP8, что в 6 раз больше, чем в предыдущем поколении. Системы DGX H100 вошли в инфраструктурные платформы искусственного интеллекта NVIDIA DGX POD и DGX SuperPOD нового поколения. Архитектура SuperPOD благодаря NVLink может подключать до 32 узлов с 256 графическими процессорами H100. В сочетании с новой сетевой технологией NVLink каждый DGX SuperPOD обеспечит производительность в задачах ИИ в 1 экзафлопс; таким образом, новый суперкомпьютер NVIDIA Eos может стать самой быстрой системой ИИ в мире.
H100
Первый дискретный CPU Grace Superchip для ЦОД на базе Arm Neoverse состоит из двух чипов, когерентно соединенных через NVLink-C2C, новый высокоскоростной низколатентный интерфейс.
Суперчип Grace
NVIDIA выпустила более 60 обновлений для библиотек CUDA-X, что открывает ускоренные вычисления для новых областей науки и промышленности
Сетевые решения
Компания анонсировала высокопроизводительную платформу для сетевой инфраструктуры ЦОД Spectrum с NVLink для кастомной интеграции. Spectrum-4 — это первая в мире сквозная сетевая платформа 400 Гбит/с, которая обеспечивает в 4 раза более высокую пропускную способность коммутации, чем предыдущие поколения, со скоростью 51,2 терабит в секунду. Он состоит из семейства коммутаторов NVIDIA Spectrum-4, NVIDIA ConnectX-7 SmartNIC, NVIDIA BlueField-3 DPU и программного обеспечения для инфраструктуры центра обработки данных DOCA, позволяющего увеличить масштабируемость облачных приложений.
Spectrum
Spectrum позволяет моделировать точное пространство и время на платформе NVIDIA Omniverse для совместной разработки и моделирования 3D-проектов, а коммутатор Spectrum-3 соединяет 32 сервера OVX для формирования OVX SuperPOD. Семейство коммутаторов ASIC и SN5000 NVIDIA Spectrum-4 основано на техпроцессе 4N и содержит более 100 миллиардов транзисторов, а также упрощенную конструкцию приемопередатчика. Совокупная пропускная способность ASIC составляет 51,2 Тбит/с, поддерживает 128 портов 400GbE.
ИИ-суперкомпьютер Jetson AGX Orin
NVIDIA представила компактный, производительный и энергоэффективный ИИ-суперкомпьютер Jetson AGX Orin. Он предназначен для построения автономных машин, передовых роботов, встраиваемых систем, а также edge-устройств. Оснащение включает 32 Гбайт оперативной памяти LPDDR5 и флеш-модуль eMMC 5.1 вместимостью 64 Гбайт. Присутствуют ускоритель компьютерного зрения PVA v2.0 и два ускорителя глубокого обучения NVDLA v2.0.
Jetson AGX Orin
Как заявила компания, быстродействие Jetson AGX Orin достигает 275 трлн операций в секунду. Он предлагает опцию декодирования видеоматериалов в формате до 8K со скоростью до 30 кадров в секунду. Кроме того, поддерживается кодирование двух потоков 4K со скоростью до 60 кадров в секунду. Цена комплекта для разработчиков NVIDIA Jetson AGX Orin составляет $1999. Коммерческие модули станут доступны в четвертом квартале по цене $399.
Omniverse
Компания анонсировала Omniverse Cloud для подключения десятков миллионов дизайнеров и создателей контента. Также NVIDIA запускает вычислительную систему Omniverse уровня ЦОД для промышленных цифровых двойников.
Экосистема NVIDIA Omniverse десятикратно расширяется благодаря новым возможностям для разработчиков, компаний и авторов контента. Она включает инструмент для совместной работы «в один клик» Nucleus Cloud, который позволяет художникам получать доступ и редактировать большие 3D-сцены из любого места без необходимости передачи больших объемов данных.
Omniverse Create — приложение для технических дизайнеров, художников и создателей, которое позволит интерактивно создавать трехмерные миры в реальном времени, а View — приложение, позволяющее просматривать сцены Omniverse с полной потоковой симуляцией и возможностями рендеринга в облаке с использованием игровой платформы NVIDIA GeForce NOW на базе графических процессоров NVIDIA RTX.
NVIDIA OVX — вычислительная система, разработанная для моделирования сложных приложений в робототехнике, искусственном интеллекте, промышленной автоматизации и т.д. Система сочетает в себе высокопроизводительные вычисления на GPU, графику и искусственный интеллект с высокоскоростным доступом к хранилищу, низколатентными сетями и точной синхронизацией, что позволяет создавать цифровых двойников с точностью реального мира. OVX будет использоваться для создания сложных цифровых двойников для моделирования целых зданий, заводов, городов и даже мира.
«Дизайнеры, работающие удаленно, работают вместе, как будто в одной студии. Заводские планировщики работают внутри цифрового двойника реального завода, чтобы разработать новый производственный процесс. Инженеры-программисты тестируют новую сборку программного обеспечения на цифровом близнеце беспилотного автомобиля, прежде чем выпустить его в автопарк. Грядёт новый фронт работ, которые можно выполнять только в виртуальных мирах, — отметил Дженсен Хуанг.
Пользователи или команды, у которых нет высокопроизводительных систем GeForce или NVIDIA RTX, смогут воспользоваться Omniverse Create и View, подписавшись на программу Omniverse Cloud.
Хуанг продемонстрировал, как три специалиста-конструктора и виртуальный ИИ-дизайнер Omniverse Avatar совместно работают в Omniverse Cloud, внося изменения в архитектурный проект. Команда общалась с помощью стандартного инструмента веб-конференций, одновременно подключаясь к сцене, размещенной в Nucleus Cloud. Один человек-конструктор запустил приложение Omniverse View на своей рабочей станции с RTX, а двое других транслировали Omniverse View из GeForce NOW на свой ноутбук и планшет.
Пока полный набор сервисов Omniverse Cloud находится в стадии разработки. Компания принимает заявки для раннего доступа к инструменту Nucleus Cloud.
Автопром
NVIDIA будет создавать виртуальные среды Drive Map для тестирования беспилотников. Компания недавно приобрела стартап DeepMap, чьи технологии позволяют создавать карты с беспрецедентной точностью отрисовки — до 1 см. В генерации виртуальной среды будут участвовать сами водители, если их автомобили будут передавать соответствующие данные о месте передвижения. Съемку местности будут вести лидары, радары и камеры. Все данные в онлайн-режиме загружаются в облачную площадку Omniverse.
Drive Map
Ещё один инструмент, Drive Sim, позволяет моделировать различные ситуации для отработки ответной реакции автопилотов. В качестве среды он использует реальные улицы и перекрестки — на основе данных с подключенных автомобилей.
Ритейл
NVIDIA в сотрудничестве с американской сетью супермаркетов Kroger внедряет приложения и сервисы с поддержкой искусственного интеллекта для усовершенствования процесса покупок. Компании построят современную лабораторию и демонстрационный центр, чтобы улучшить логистику доставки и поменять процесс покупки в магазинах с помощью цифровых двойников — виртуальных моделей, разработанных для точного отображения планировки магазина и других операций.
