Supermicro будет продавать чипы SambaNova SN50 наряду с GPU Nvidia
- На первом этапе Supermicro поставит системы с 10 000 чипов SN50: GPU Nvidia будут считывать запросы, а SN50 — генерировать ответы.
- Supermicro займётся сборкой, тестированием, поставкой и поддержкой систем; SambaNova — запуском и оптимизацией моделей.
- Продажи начнутся с неооблаков и суверенных облаков, затем системы предложат компаниям с собственными ЦОД. Обе компании заявляют, что в 2027 году смогут предоставить больше мощностей для инференса.
Почему это важно: Системы позволят наращивать мощности инференса в действующих ЦОД, не дожидаясь строительства новых объектов, сдерживаемого ограничениями по энергоснабжению и охлаждению.
Supermicro будет собирать и продавать системы ИИ-инференса, сочетающие чипы SN50 от SambaNova с графическими процессорами Nvidia, сообщили компании во вторник. Согласно заявлению SambaNova, на первом этапе сотрудничество предусматривает поставку 10 000 чипов SN50.
Стойки войдут в линейку Data Center Building Block Solutions — готовых систем для центров обработки данных, которые Supermicro продаёт клиентам.
Работа ИИ-модели состоит из двух этапов. Сначала система считывает запрос, затем по частям формирует ответ. По словам SambaNova, в новых стойках чтение выполняют графические процессоры Nvidia, а генерацию ответа — чипы SN50. В компании отмечают, что ИИ-агенты работают непрерывно, поэтому скорость их действий зависит от того, насколько быстро отвечает модель.
«Агентный ИИ — это следующая волна инференса, и он должен работать повсюду, — заявил Родриго Лян, сооснователь и генеральный директор SambaNova. — Теперь клиенты могут заказывать RDU SN50 вместе с графическими процессорами у ведущего мирового партнёра, которому они доверяют».
Кто за что отвечает
Supermicro будет собирать системы, тестировать их, поставлять и обеспечивать поддержку клиентов, в том числе с выездом специалистов на место. Инженеры SambaNova займутся запуском и оптимизацией ИИ-моделей на SN50, а также помогут с развёртыванием.
Начнут компании с неооблаков — облачных провайдеров, созданных специально для ИИ, — и суверенных облаков, которые хранят данные и выполняют вычисления в пределах одной страны. Затем они планируют продавать системы компаниям, использующим ИИ в собственных центрах обработки данных.
«Supermicro стремится предоставлять гибкую и высокопроизводительную ИИ-инфраструктуру, отвечающую меняющимся потребностям наших клиентов», — заявил Чарльз Лян, президент и генеральный директор Supermicro.
Для уже существующих ЦОД
SN50 — это пятое поколение реконфигурируемого потокового процессора (Reconfigurable Dataflow Unit, RDU) от SambaNova, чипа, разработанного для инференса. По словам компании, он способен обслуживать крупнейшие модели без необходимости в экстремальной плотности мощности в каждой стойке. Как сообщила SambaNova на прошлой неделе, SambaRack SN50 потребляет в среднем 20 кВт.
По данным SambaNova, операторы смогут наращивать мощности для инференса в уже действующих центрах обработки данных, не дожидаясь строительства новых объектов, которое сдерживается ограничениями по энергоснабжению и охлаждению. Кроме того, по словам компании, они смогут дольше использовать имеющиеся графические процессоры. В результате, как утверждают обе компании, в 2027 году они смогут предоставить значительно больше мощностей для инференса.
Другие недавние сделки SambaNova
Сделка с Supermicro последовала за соглашением с Oracle. Oracle сообщила на своей конференции AI World 27 октября, что планирует развернуть чипы SN50 в своих облачных центрах обработки данных. Эти мощности будут предлагаться разработчикам ИИ-моделей.
Два дня спустя SambaNova заключила соглашение с Emergys, компанией, оказывающей услуги цифровой трансформации, о развёртывании и эксплуатации своей платформы для корпоративных клиентов.
SambaNova, основанная в 2017 году и базирующаяся в Сан-Хосе, в июле привлекла новое финансирование при оценке в 11 миллиардов долларов. В июне к ней присоединились Foxconn и Intel для создания ИИ-инфраструктуры масштаба стоек.
