Британское агентство ARIA испытает оптические ИИ-серверы Lumai в центре обработки данных
- Лаборатория Scaling Inference Lab при поддержке ARIA установит серверы Lumai Iris на нескольких машинах коммерческого дата-центра.
- Там проверят работу с реальными ИИ-моделями, энергопотребление и охлаждение, а также заявления Lumai об экономии энергии до 90%.
- Оптические чипы Iris используют свет для вычислений; генерацию ответов выполняют обычные чипы.
Почему это важно: Проверка важна, поскольку заявления Lumai об энергосбережении не проходили независимую оценку.
Scaling Inference Lab, работающая при поддержке ARIA, развернёт серверы Iris компании Lumai, которые выполняют вычисления для ИИ с помощью лучей света, в качестве своей первой оптической платформы. Lumai заявляет о значительной экономии энергии, но эти данные не проходили независимую проверку. Лаборатория протестирует серверы в коммерческом дата-центре.
Британское Агентство перспективных исследований и изобретений (ARIA) протестирует серверы, использующие свет для работы ИИ-моделей, в финансируемой им лаборатории, сообщил во вторник оксфордский стартап Lumai.
Scaling Inference Lab, получившая от ARIA 50 млн фунтов и управляемая некоммерческой организацией CommonAI, установит серверы Iris от Lumai в качестве своей первой платформы оптических вычислений. Лаборатория запустит их на нескольких машинах в коммерческом дата-центре, чтобы выяснить, как они справляются с реальными ИИ-моделями, энергопотреблением и охлаждением.
Lumai, выделившаяся из Оксфордского университета в 2021 году, кодирует данные в лучи света. Её чипы выполняют сложные математические операции, лежащие в основе ИИ, с помощью света, а не переключения транзисторов, тогда как обычная электроника берёт на себя всё остальное. Salience Labs, также опирающаяся на оксфордские исследования, в прошлом месяце привлекла 125 млн долларов на разработку оптических коммутаторов.
Компания ориентирует своё оборудование на »prefill» — этап, на котором модель впервые считывает запрос пользователя. Генерировать ответ по-прежнему будут обычные чипы.
»Технология Lumai — самая зрелая платформа оптических вычислений из всех, что мы оценивали», — заявил Дэвид Льюис, директор ARIA по науке и технологиям.
Lumai утверждает, что её подход может сократить энергопотребление дата-центров на величину до 90%. Компания также заявляет, что в паре со стандартными чипами система как минимум в 16 раз энергоэффективнее в расчёте на один запрос, чем один лишь кремний. Ни одна из этих цифр не была проверена независимо, и их проверка — задача лаборатории.
В лаборатории уже работает британский стартап Oriole, который использует свет для соединения ИИ-чипов. Тем временем Nvidia потратила миллиарды на оптические соединения внутри дата-центров. Ещё один британский стартап, разрабатывающий чипы для инференса, Fractile, привлекает средства при оценке в 6,5 млрд долларов.
