AMD разместила 32 768 процессорных ядер в стойке, созданной для ИИ-агентов
- AMD представила проект открытой стойки Helion для запуска ИИ-агентов; версия без ускорителей рассчитана на 32 768 ядер в 128 сокетах.
- Партнёрские системы ожидаются в ноябре; смешанная стойка включает до 16 ускорителей MI350P в двух серверах.
- AMD не объявила цену и только планирует передать спецификацию проекту Open Compute Project.
Почему это важно: Энергоэффективность важна, поскольку доступность электроэнергии названа главным препятствием для создания суверенных вычислительных мощностей.
AMD опубликовала проект открытой стойки Helion для запуска ИИ-агентов, а не обучения моделей. Версия только с процессорами рассчитана на размещение до 32 768 ядер. Партнёрские системы появятся в ноябре, а главный вопрос — сколько агентов можно запустить на каждый ватт.
AMD опубликовала проект стойки для запуска ИИ-агентов, а не обучения моделей. Она называется Helion, а партнёрские системы появятся в ноябре.
Разработка была представлена на саммите Open Compute Project в Сан-Хосе, сообщило издание The Register. Предусмотрены версия только с процессорами для гипермасштабируемых операторов и вариант с процессорами и графическими ускорителями для предприятий.
В стойке только с процессорами может быть до 32 768 ядер. Это 128 сокетов с 256-ядерными чипами AMD Venice на архитектуре Zen 6 — в плотных блейд-модулях мощностью 400 Вт или сбалансированных мощностью 600 Вт.
В смешанной стойке графических ускорителей меньше, чем можно предположить. В ней размещается не более 16 ускорителей Instinct MI350P — в двух серверах по восемь GPU. По словам AMD, они работают независимо и не используют межсоединение для масштабирования.
Так что это не машина для передовых вычислений. В стойке Helios от AMD установлено 72 более новых ускорителя MI455X и 31 ТБ памяти HBM4 — именно этот продукт предназначен для обучения моделей.
Самая интересная особенность Helion описана лишь вкратце. AMD сообщает, что в корпоративную стойку встроен маршрутизатор токенов, который направляет запросы моделей от агентов либо к передовым облачным моделям, либо к моделям с открытым исходным кодом, работающим в самой стойке.
Эта подробность упоминается только в собственном пресс-релизе AMD. Дэн Макнамара, возглавляющий в AMD направления вычислительных систем и корпоративного ИИ, заявил, что цель — помочь партнёрам эффективно использовать доступную электроэнергию.
Вся идея сводится к энергопотреблению. Мэтт Кимбалл из Moor Insights and Strategy в аналитической заметке отметил, что задача — разместить как можно больше агентов на каждый ватт.
Среди таких операторов он назвал и тех, кто развивает суверенный ИИ, — это делает актуальной тему Европы. В марте оператор энергосети Дании приостановил подключение новых объектов: в очереди находились проекты общей мощностью около 60 ГВт при пиковом спросе, близком к 7 ГВт.
Ограничения касаются не только Дании. В июне Брюссель принял Закон о развитии облачных технологий и ИИ, цель которого — как минимум втрое увеличить мощности центров обработки данных в ЕС в течение семи лет.
Операторы говорят о том же. В опросе 300 лиц, принимающих решения в сфере центров обработки данных в Великобритании, Ирландии и странах Северной Европы, доступность электроэнергии назвали главным препятствием для создания суверенных вычислительных мощностей.
Helion не так готова к запуску, как может показаться. AMD не объявила цены, только планирует передать спецификацию проекту OCP, а среди партнёров компании нет ни одного европейского системного интегратора.
Тем не менее Европа продолжает закупки. ЕС объявил конкурс на строительство до семи гигафабрик стоимостью около 30 млрд евро. В каждой из них предполагается установить 100 000 чипов от поставщиков, включая AMD.
