Новая статья: Обзор «малолитражного суперкомпьютера» MSI EdgeXpert MS-C931

Последовательность компании NVIDIA в предоставлении разработчикам максимально подробной документации и широкой поддержки, включая создание и развитие собственной экосистемы программно-аппаратных решений, является одним из ключевых элементов ее успеха на рынке. NVIDIA DGX Spark позволяет им эффективно заниматься созданием, отладкой и оптимизацией программных продуктов с возможностью легкого переноса решений во «взрослые» ИИ среды, включая «большие» системы NVIDIA DGX, облачные сервисы и корпоративные кластеры.

Схема, когда после анонса референсного продукта компания расширяет объемы его производства с привлечением OEM-партнеров с минимальной кастомизацией, уже давно и эффективно работает на ИТ-рынке. Так произошло и с NVIDIA DGX Spark (в девичестве Project DIGITS), который сама NVIDIA гордо именует «настольным суперкомпьютером». Одной из его реализацией и является MSI EdgeXpert MS-C931. Учитывая, что основные характеристики продукта полностью повторяют исходный образец, говорить о существенном вкладе именно MSI достаточно сложно. Да и большинство маркетинговых материалов под копирку повторяют описания от NVIDIA.

Изменения преимущественно касаются дизайна и конструкции корпуса. В частности, MSI заявляет о доработке системы охлаждения в целях повышения ее эффективности (разница до -15 °С) и оптимизации расположения антенн Wi-Fi для увеличения скорости работы в диапазоне 6 ГГц (до +37% разницы). Других подобных продуктов в тестах у нас не было, но нет причин не доверять этой информации. В любом случае в целом данную публикацию можно рассматривать как знакомство с NVIDIA DGX Spark в версии от MSI.

Итак, речь идет о компактном и при этом высокопроизводительном (до 1000 TOPS в разреженных FP4-вычислениях и до 32 Тфлопс в FP32) устройстве для разработчиков и специалистов в сегменте ИИ. Среди ключевых особенностей NVIDIA отмечает: современную архитектуру Blackwell, 128 Гбайт унифицированной оперативной памяти, производительность, возможность объединения нескольких устройств для увеличения объема моделей, полную поддержку программного стека NVIDIA.

Основными потребителями представляются разработчики продуктов ИИ, которые смогут на локальной системе заниматься созданием, настройкой, обучением, проверкой моделей с большим числом параметров. Другие варианты целевого использования — обработка и анализ данных, а также решения класса Edge AI. В частности, можно говорить о задачах машинного зрения и распознавания речи, системах автоматизации технических процессов, автономных транспортных средствах и так далее. Особенно нужно отметить возможность локальной работы крупных моделей, что часто может быть необходимым требованием с точки зрения конфиденциальности.

Комплектация

Оформление упаковки в данном случае не играет никакой роли. Выбирать продукт по внешнему виду коробки на полке магазина никто не будет, так что ничего особенного здесь нет. Обратить внимание можно только на табличку с артикулом модели и наклейку от NVIDIA. Отметим и достаточно большой вес — почти 2,5 кг. Комплект поставки также аскетичный — сама система, листовка с описанием портов и параметрами беспроводной сети по умолчанию, блок питания Delta и кабель для него, с разъемом C5. Габариты БП — около 10 × 10 × 3,5 см. Кабель для подключения к устройству несменный, с коннектором USB Type-C (PD 240 Вт). Длина его составляет 1,8 м.

Внешний вид

Габариты корпуса компьютера — 150 × 150 × 58 мм. И это действительно впечатляет — объем системы составляет менее полутора литров. Внешняя часть изготовлена из крепкого матового пластика черного цвета. За ней, скорее всего, скрывается металлический каркас. Разборки и какого-то апгрейда пользователем не предусмотрено. Обслуживать систему охлаждения придется снаружи. Опирается корпус на четыре крупные резиновые ножки.

В нижней половине лицевой панели находится металлическая решетка системы вентиляции. Основной путь воздуха — через корпус с выбросом через решетку сзади, причем с защитой от рециркуляции горячего воздуха. Также на боковых сторонах, сверху и на дне можно заметить небольшие дополнительные решетки вентиляции. Слева сбоку видно место для установки замка Кенсингтона. Никаких индикаторов работы не предусмотрено, что несколько странно.

Все порты находятся на задней панели компьютера. Здесь мы видим кнопку включения питания, четыре порта USB 3.2 Type-C (20 Гбит/с). Один из них используется для питания самого устройства, остальные поддерживают подключение и питание периферии, включая мониторы (DP Alt Mode). Далее идет порт HDMI, 10GbE-порт RJ45 и два сетевых порта под модули QSFP56 с поддержкой 200GbE-подключения.

Технические характеристики

Продукт построен на SoC NVIDIA Grace Blackwell GB10, объединяющей в себе как CPU-, так и CUDA-ядра, что позволяет создавать на его основе компактные высокопроизводительные системы для задач ИИ. CPU-часть представлена двумя кластерами по десять ядер на базе архитектур Arm Cortex-X925 и Arm Cortex-A725. Первые являются «быстрыми» и работают на частотах до 3,9 ГГц, а вторые «эффективными», их частота — до 2,8 ГГц. Без нагрузки частоты сильно снижаются. Что касается ядер CUDA, то их здесь 6144. TDP чипа установлен на уровне 140 Вт. Система охлаждения активная, с крупными радиаторами, тепловой трубкой и парой вентиляторов.

Источник изображения: NVIDIA

Источник изображения: NVIDIA

Особенностью решения является использование общей для CPU и GPU оперативной памяти. Здесь установлено 128 Гбайт LPDDR5x-8533 (256 бит). Конечно, память сразу распаяна на печатной плате, и возможности ее замены нет. Заявлено, что данная конфигурация позволяет запускать модели размером до 200 млрд параметров и дорабатывать модели размером до 70 млрд параметров. Основной накопитель — 4-Тбайт NVMe SSD ESL04TBTLCZ-27J4-TYN производства Phison (PCIe 4.0×4). «Из коробки» установленная ОС занимает около 20 Гбайт, плюс в корне диска находится файл подкачки на 16 Гбайт. Формально SSD установлен в стандартный слот M.2 2242, но технически заменить его будет очень сложно.

Источник изображения: NVIDIA

Источник изображения: NVIDIA

Для подключения к сети есть несколько вариантов. Удаленное управление удобно осуществлять через медный порт ½,5/5/10GbE. Он реализован на базе чипа Realtek RTL8127 и занимает одну линию PCIe 4.0, чего более чем достаточно. Если кабель неудобен или нужно мобильное решение — в системе есть и беспроводной адаптер MediaTek MT7925 (Filogic 360). Он поддерживает Wi-Fi 7 в трех диапазонах на максимальной канальной скорости 5764 Мбит/с (потребуется соответствующий роутер или точка доступа). В нем же реализован и адаптер Bluetooth 5.3.

Источник изображения: NVIDIA

Источник изображения: NVIDIA

Дополнительно в системе есть двухпортовый NVIDIA Mellanox ConnectX-7, который можно использовать для создания кластера из нескольких устройств, что даст больше вычислительных ресурсов для работы с моделями. Две системы можно соединить напрямую, в случае трех компания предлагает вариант кластера с кольцевым подключением, а если нужно больше устройств — потребуется совместимый коммутатор. Заметим, что если сетевые кабели не подключены, то контроллер отключается для экономии энергии. При этом объединение в кластер может позволить запускать LLM объемом сотни гигабайт и с сотнями миллиардов параметров, хотя скорость работы в таком режиме будет зависеть от модели, настроек и запросов. Впрочем, подобное решение все равно будет доступнее «настоящих» GPU-кластеров.

Источник изображения: NVIDIA

Источник изображения: NVIDIA

Решение работает под управлением специализированной операционной системы NVIDIA DGX OS на базе Ubuntu 24.04.4 LTS. В штатном списке репозиториев присутствуют все необходимые для установки драйверов, прошивок, библиотек и сопутствующих пакетов от NVIDIA. В случае необходимости переустановки можно скачать с сайта производителя файл ISO. Встроенного раздела восстановления в устройстве нет. В системе есть и знакомый по традиционным компьютерам BIOS с поддержкой UEFI, Secure Boot и других технологий.

Источник изображения: NVIDIA

Источник изображения: NVIDIA

Устройство полностью работоспособно и без подключения монитора, ставить «заглушку» не обязательно. Если же нужен локальный монитор, можно использовать HDMI 2.1a или порты USB Type-C. Поддерживается подключение нескольких мониторов, вывод цифрового звука и режимы до 8k120 включительно. К сожалению, в устройстве не предусмотрено никаких независимых от основной ОС вариантов удаленного доступа (IPMI/BMC). Формально модель позиционируется для установки на рабочем столе пользователя, и в случае возникновения проблем он может самостоятельно перезапустить систему. Однако, на наш взгляд, наличие отдельного OOB-управления было бы очень полезно.

Энергопотребление и температура

Устройство комплектуется блоком питания на 240 Вт. В выключенном состоянии потребление составляет менее 1 Вт, в режиме ожидания ОС — примерно 20,5 Вт. При использовании утилиты stress-ng для нагрузки процессорных ядер потребление составляет около 110 Вт, а температура SoC (по данным утилиты NVIDIA Settings) повышается с +37 до +54 °C. Если одновременно добавить и нагрузку на GPU утилитой gpu-burn, то потребление поднимается до 175 Вт, а температура — до +73 °С. На задачах тестирования ИИ максимальное энергопотребление было зафиксировано на уровне 180 Вт, а температура основного чипа поднималась до +86 °С. Внешняя часть корпуса при этом нагревалась до +42 °С. Проверка проводилась в домашних условиях при температуре окружающего воздуха около +25 °С.

Источник изображения: MSI

Источник изображения: MSI

Уровень шума под нагрузкой можно оценить как невысокий и с ровным, «глухим» спектром. В обычной офисной и часто даже домашней обстановке он может быть незаметен. Кроме того, устройство может быть полноценно использовано и с удаленным подключением, так что шум играет небольшую роль.

Программное обеспечение

Кроме базовых программ Ubuntu в системе предустановлено несколько утилит от NVIDIA.

В частности, DGX Dashboard позволяет мониторить нагрузку на оперативную память и видеокарту, а также обновлять программное обеспечение. Есть и знакомая по игровым видеокартам панель управления NVIDIA. Правда, с учетом высокоинтегрированной платформы, некоторая информация в ней не представлена.

Для начала работы с ИИ-приложениями компания предлагает использовать специализированный набор для разработчика — NVIDIA AI Workbench. Он позволяет упростить установку и настройку программ, а также предоставляет средства управления и мониторинга ИИ-контейнеров.

Тестирование производительности

Основной задачей для рассматриваемой системы, конечно, является работа с моделями ИИ. Однако по факту вам придется взаимодействовать с ней и как с обычным полноценным компьютером. В целом пользовательский опыт в данном случае мало отличается от использования рабочей станции средней конфигурации. Все-таки современные Arm-ядра, да еще и в большом количестве во многих задачах сравнимы с традиционной архитектурой x86–64 по производительности, если речь не идет о топовых решениях класса HEDT.

Большой объем оперативной памяти позволяет не беспокоиться о файле подкачки. Штатный системный накопитель показывает в тесте fio 5600/3500 Гбайт/с при последовательном чтении/записи блоками по 256 Кбайт и 125000/160000 IOPS при случайном чтении/записи блоками по 4 Кбайт. Для внешних накопителей (NVMe SSD через адаптер USB 3.2) этот тест показал пиковые скорости последовательных операций около 1800 Гбайт/с. По поводу скорости работы 10GbE-адаптера также нет замечаний.

Публикаций по работе с моделями ИИ в Сети уже предостаточно, а сама тема при этом бесконечная. При выборе решения для работы с ИИ моделями значение имеют сразу несколько параметров и редко когда бывает один вектор «больше — дороже — лучше». У каждой модели свои требования и предпочтения по объему памяти, ее скорости, числу и особенностям вычислительных ядер. Если добавить к этому возможности адаптации и оптимизации моделей, то выбор становится еще сложнее. Так что даже попытка составить таблицу сравнения, скорее всего, потерпит неудачу, поскольку картина очень многомерная, и для любой оценки наверняка найдется и альтернативный взгляд. Поэтому в этой статье для общего позиционирования устройства мы проведем только несколько тестов с популярными моделями. Тем более что выбор инструментов для проведения тестов сильно сокращен архитектурой платформы.

Особенностей у рассматриваемого решения достаточно много, что еще больше затрудняет прямые сравнения как с собственными локальными серверами с видеокартами, так и с облачными сервисами: поставка в формате готового устройства единственной конфигурации, возможность объединения нескольких устройств в единый кластер, наличие большого объема памяти, что позволяет работать с моделями, имеющими большое число параметров, но при этом относительно невысокая собственно вычислительная мощность.

В решении используется архитектура Blackwell 2.0, как и в актуальных топовых видеокартах для игр и рабочих станций. При этом количество вычислительных модулей здесь значительно ниже, хотя частоты работы близки. Большее опасение с точки зрения задач ИИ вызывает использование общей памяти LPDDR5X на 256-бит шине. Ее заявленная пропускная способность составляет менее 300 Гбайт/с против 1,79 Тбайт/с у топовых продуктов. Таким образом, единственным заметным преимуществом продукта остается только объем памяти.

Для первого сравнения мы использовали модель gpt-oss-20b-mxfp4 от ggml в llama.cpp и приведенную в публикации информацию для сравнения с другими решениями. Данная модель относительно небольшая и может использоваться на видеокартах с 16 Гбайт видеопамяти. К сожалению, в приведенной публикации использовались разные комбинации размеров батчей (2048 и 4096) для параметров -b и -ub при запуске на разных платформах. Однако проверка показала, что их влияние относительно невелико, поэтому все результаты будут собраны вместе. В нашем случае использовалась локальная сборка llama.cpp и следующая команда для запуска теста: `llama-bench -m [модель].gguf -t 1 -fa 1 -b 4096 -ub 4096 -p 32768 -r 10 -o md`.

Модель gpt-oss 20B MXFP4 MoE
Prompt Processing, 32к токенов, ток/с Text Generation, 128 токенов, ток/с
NVIDIA DGX Spark 3640,14 86,85
NVIDIA RTX PRO 6000 Blackwell Workstation Edition 8267,46 286,91
NVIDIA GeForce RTX 5090 6089,55 282,26
NVIDIA GeForce RTX 5080 5376,58 204,86
NVIDIA GeForce RTX 5070 Ti 4411,35 189,46
NVIDIA GeForce RTX 5060 Ti 3009,63 111,56

Как видно по результатам, производительность NVIDIA DGX Spark на данной модели находится примерно на уровне видеокарты NVIDIA GeForce RTX 5060 Ti. Интересно заметить, ее TDP составляет 180 Вт, что близко к тому, что у нас получилось в тестах для NVIDIA DGX Spark. При этом самая быстрая современная карта для рабочих станций в два-три раза быстрее, но и ее стоимость и энергопотребление во столько же раз выше.

Модель gpt-oss-120b от ggml требует для своего запуска уже значительно больше памяти — почти 64 Гбайт. Так что мало какие одиночные видеокарты могут себе это позволить. По указанной ранее ссылке были доступны только результаты для топовой видеокарты NVIDIA для рабочих станций. Общее соотношение производительности участников примерное такое же, как и для простой модели.

Модель gpt-oss 120B MXFP4 MoE
Prompt Processing, 32к токенов, ток/с Text Generation, 128 токенов, ток/с
NVIDIA DGX Spark 2115,29 50,09
NVIDIA RTX PRO 6000 Blackwell Workstation Edition 4503,36 196,31

Для следующей таблицы с результатами у нас нет конкурентов для сравнения. Некоторые из моделей можно запустить и на топовых игровых картах или с использованием основной оперативной памяти компьютера. Для запуска теста использовалась указанная выше команда. Для DeepSeek, gemma и llama были выбраны версии от unsloth, а для Qwen — от ggml. В скобках после названия модели указаны ее требования к памяти.

NVIDIA DGX Spark
Prompt Processing, 32k токенов, ток/с Text Generation, 128 токенов, ток/с
DeepSeek-R1-Distill-Llama-70B-Q8_0 (75 Гбайт) 249,49 3,03
DeepSeek-R1-Distill-Qwen-14B-Q8_0 (15,7 Гбайт) 714,75 15,15
DeepSeek-R1-Distill-Qwen-32B-Q8_0 (34,8 Гбайт) 419,79 6,7
gemma-4–26B-A4B-it-MXFP4_MOE (16,6 Гбайт) 2433,84 60,85
gemma-4–26B-A4B-it-Q8_0 (26,8 Гбайт) 2208,36 52,32
gemma-4–31B-it-Q8_0 (32,6 Гбайт) 446,25 6,95
Llama-3.3–70B-Instruct-Q8_0 (75 Гбайт) 243,96 2,98
Qwen3.5–35B-A3B-Q8_0 (36,9 Гбайт) 2419,75 51,97
Qwen3.6–27B-Q8_0 (28,6 Гбайт) 645,56 7,81
Qwen3.6–35B-A3B-BF16 (69,4 Гбайт) 1725,29 35,87
Qwen3.6–35B-A3B-Q8_0 (36,9 Гбайт) 2428,78 59,04

Второй тест, который удалось запустить на рассматриваемой системе, оценивает скорость работы модели Stable Diffusion 1.5 для генерации изображений. Интерес к нему вызван наличием онлайн базы с результатами. Рассматриваемая система показала результат в 100 изображений за 5 мин (3 с на одно изображение). Это сравнимо с результатом NVIDIA GeForce RTX 5060 Ti и примерно в три раза хуже, чем у NVIDIA GeForce RTX 5090. Примерно такая же скорость получилась и при использовании проекта stable-diffusion.cpp с моделью v1–5-pruned-emaonly.safetensors для генерации изображения 1024 × 1024 пикселя.

Заключение

MSI EdgeXpert MS-C931, а точнее платформа NVIDIA DGX Spark, является уникальным решением на рынке, и его сложно напрямую сравнивать с традиционными рабочими станциями или облачными серверами. Этот продукт интересен как готовое компактное устройство для работы с широким спектром задач ИИ. Особенно с точки зрения разработчиков, когда требуется именно локальная или даже мобильная работа с крупными моделями, включая адаптацию и дообучение. В плюсы также стоит отнести и комплектное программное обеспечение от NVIDIA, снижающее порог входа, ускоряющее начало разработки и позволяющее легко перенести свои разработки в облако для масштабирования. Также некоторый интерес может представлять использование на периферии, но здесь нужно смотреть на требования конкретных задач.

Если говорить о производительности в задачах ИИ, то продукт получится нишевым — в нем существенно больший, чем у игровых видеокарт, объем памяти, но собственно скорость работы моделей ИИ относительно невысока. Однако NVIDIA известна своими программными оптимизациями, так что со временем производительность на реальных задачах может существенно вырасти. Кроме того, компания постепенно наполняет библиотеку типовых решений и примеров. И это важный момент именно для тех разработчиков, которые намерены перенести свои творения с DGX Spark на «большие» системы. Во-первых, даже инструментарий для Arm и x86–64 нет-нет да и отличается. Во-вторых, наличие «взрослого» сетевого адаптера позволяет потренироваться с масштабированием. Ни того ни другого обычный ПК или рабочая станция «из коробки» не дадут.

Если же говорить о продуктовых решениях, то сама MSI приводит несколько публичных примеров реального применения EdgeXpert MS-C931. Так, мини-ПК подходит для комплекса AIPLUX Legal AI Suite для локальной работы с юридическими документами. С одной стороны, здесь и нагрузка не очень большая, с другой — крайне важно требование работы исключительно во внутреннем контуре организации. KSCC Think Tank успешно применила MSI EdgeXpert MS-C931 в схожей области ИИ-автоматизации HR-отдела. А Elettra, edge-вариант платформы Galene.AI, развернутый на EdgeXpert MS-C931, предлагает no-code-создание ИИ-агентов и автоматизацию рабочих процессов предприятий в закрытом контуре.

У индустриальной VLM-платформы Memorence Operagents для производственных линий тоже высокие требования к локальности, но по другим причинам — здесь важны низкая задержка и энергоэффективность. EdgeXpert MS-C931 обеспечивает не только их, но и возможность подключения доступных USB-камер, а также локальный тюнинг моделей прямо на месте. Один из тайваньских университетов по тем же причинам выбрал EdgeXpert MS-C931 для создания автономного передвижного охранного модуля. Схожие требования к локальности и безопасности у платформы мультиязычного голосового перевода в реальном времени Ubestream Taiwan — с помощью EdgeXpert MS-C931 ее можно безопасно развернуть прямо в переговорной.

В официальной российской рознице MSI EdgeXpert MS-C931 сейчас стоит 524 999 руб., как и положено профессиональному оборудованию для бизнеса (и редких энтузиастов). Альтернативы теоретически есть, но практически другие вариации DGX Spark в основном предлагаются в единичных экземплярах или под заказ. И иногда они не только не дешевле модели MSI, но и дороже. При этом MSI выделяется предоставлением официальной гарантии, наличием технической поддержки, доступностью прямой коммуникации с вендором в РФ и возможностью тестирования продукта перед проведением закупки.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.

©  3DNews