SK hynix показала память для ИИ-серверов со скоростью до 80 ГБ/с
- SK hynix показала CMM-DDR5 на 256 ГБ с интерфейсом CXL 3.2 и пропускной способностью до 80 ГБ/с.
- В системе MARS вместе с Naver Cloud продемонстрировали общий KV-cache для ИИ-агентов и эмбеддинги для сервиса с разными типами данных.
- Технологию CMM-Ax показали на обслуживании LLM с длинным контекстом; компания уточнила, что это системные демонстрации, а не широко доступная платформа.
Почему это важно: Общий пул памяти позволяет нескольким серверам использовать одну объединённую ёмкость.
Южнокорейский производитель памяти SK hynix сообщил 16 октября, что показал на конференции OCP Global Summit в Сан-Хосе технологии «память-центричных» серверов. Мероприятие Open Compute Project — сообщества по разработке открытого оборудования для дата-центров — проходило с 12 по 15 октября. В числе демонстраций были модули CMM-DDR5, стоечная система MARS и технология CMM-Ax, совмещающая вычисления с памятью.
Второе поколение модуля CMM-DDR5 имеет ёмкость 256 ГБ и работает на базе интерфейса CXL 3.2 [Compute Express Link — открытый стандарт для подключения памяти и ускорителей]. Пропускная способность, по заявлению компании, достигает 80 ГБ/с — более чем вдвое выше предыдущего поколения, —, а энергоэффективность улучшилась примерно на 30%. Такие модули предназначены для объединённой памяти (pooled memory), когда несколько серверов используют общий пул ёмкости.
Компания представила и стоечную систему MARS (Memory Centric AI Rack System), в которой память становится центральным ресурсом стойки, объединяя технологии партнёров. Совместно с Naver Cloud SK hynix показала демонстрацию концепции: общий кэш ключей и значений (KV-cache) — промежуточные данные, ускоряющие генерацию текста в больших языковых моделях, — для среды с ИИ-агентами, а также общие векторные представления (эмбеддинги) для сервиса, работающего с разными типами данных. CMM-Ax, в свою очередь, приближает вычисления к памяти за счёт снижения перемещения данных: её продемонстрировали на задаче обслуживания больших языковых моделей (LLM) с длинным контекстом.
SK hynix подчёркивает, что речь идёт о системных демонстрациях, а не о широко доступной серверной платформе. В анонсе нет независимо проверенных тестов, цен или сроков появления на рынке.
© iXBT
