Ускорители H100 от NVIDIA поставили новые рекорды в ИИ-бенчмарке MLPerf Training v3.0
NVIDIA объявила о достижении новых рекордов во всех восьми ИИ-тестах MLPerf Training v3.0 с помощью своих ускорителей H100, как в индивидуальном использовании, так и в составе кластеров. В качестве примера, коммерческий кластер, состоящий из 3584 ускорителей H100 и разработанный стартапом Inflection AI в соединении с облачной платформой CoreWeave, сумел обучить модель ИИ GPT-3 менее чем за 11 минут.
NVIDIA подчеркнула превосходную эффективность своих ускорителей H100 во всех испытаниях MLPerf, включая большие языковые модели (LLM), системы рекомендаций, компьютерное зрение, обработку медицинских изображений и распознавание речи. «Это были единственные чипы, которые успешно прошли все восемь тестов, подтверждая универсальность ИИ-платформы NVIDIA», — отмечает компания. Оптимизация всего стека NVIDIA позволила достичь почти линейного увеличения производительности в тесте LLM с ростом количества ускорителей от сотен до тысяч. Компания также отметила энергоэффективность ускорителей H100.
Обновленный бенчмарк MLPerf для рекомендательных систем, использующий более обширный набор данных и более новую модель, лучше отражает проблемы, с которыми сталкиваются облачные провайдеры. NVIDIA стала единственной компанией, представившей результаты улучшенного теста. Кроме того, компания представила результаты MLPerf для платформ L4 и Jetson. В следующем раунде MLPerf ожидается появление NVIDIA Grace Hopper.
В текущем раунде испытаний десять компаний представили результаты, полученные с использованием платформы NVIDIA. Среди заявителей оказались крупные производители систем, такие как ASUS, Dell Technologies, GIGABYTE, Lenovo и QCT. Более 30 измерений было выполнено на ускорителях H100. NVIDIA выделила прозрачность и объективность тестов, что позволяет пользователям полностью полагаться на результаты MLPerf при выборе системы для покупки.
Данная новость ярко контрастирует с сообщениями от WSJ о том, что администрация США планирует полностью запретить поставки ускорителей NVIDIA без особой лицензии. Предыдущие ограничения заставили NVIDIA спешно выпускать урезанные модели A800 и H800 для китайского рынка, чтобы обойти запрет на поставки, сейчас же и эта лазейка может быть закрыта. Кроме того, администрация США планирует запретить китайским компаниям арендовать облачные мощности западных компаний.
