Сократить энергопотребление в ЦОД — поможет новый фотонный чип
В MIT разработали архитектуру нового фотонного процессора. Он повысит эффективность работы оптических нейросетей в тысячу раз, по сравнению с аналогичными устройствами.
Чип сократит объемы электричества, потребляемые ЦОД. Рассказываем, как он устроен.
Фото — Ildefonso Polo — Unsplash
Зачем нужна новая архитектура
Оптические нейросети работают быстрее традиционных решений, использующих электронные компоненты. Свет не требует изоляции сигнальных путей, а лазерные потоки способны проходить друг через друга без взаимного влияния. Таким образом, все сигнальные пути могут функционировать одновременно, что обеспечивает высокий темп передачи данных.
Но есть проблема — чем больше размер нейросети, тем больше энергии она потребляет. Для решения этой проблемы разрабатывают специальные чипы-ускорители (AI accelerators), которые оптимизируют передачу данных. Однако они масштабируются не так хорошо, как хотелось бы.
Решением проблемы энергоэффективности и масштабирования оптических чипов занялись в MIT и представили новую архитектуру фотонного ускорителя, которая сокращает энергопотребление устройства в тысячу раз и работает с десятками миллионов нейронов. Разработчики говорят, что в перспективе технология найдет применение в дата-центрах, которые взаимодействуют с комплексными интеллектуальными системами и алгоритмами машинного обучения, а также занимаются анализом больших данных.
Что она собой представляет
Новый чип построен на базе оптоэлектронной схемы. Передаваемые данные по-прежнему кодируются оптическими сигналами, но для матричного перемножения используется балансное гомодинное детектирование (стр. 30). Это техника, которая позволяет сформировать электрический сигнал на основе двух оптических.
Для передачи световых импульсов с информацией о входных и выходных нейронах используется один сигнальный путь. Данные о весах нейронов, наоборот, поступают по раздельным каналам. Все они «расходятся» по узлам сетки гомодинных фотодетекторов, которые вычисляют выходное значение для каждого нейрона (определяют уровень сигнала). Затем эта информация поступает в модулятор, который преобразует электрический сигнал обратно в оптический. Далее, он отправляется на следующий слой нейронной сети и процесс повторяется.
В своей научной работе инженеры из MIT приводят следующую схему для одного слоя:
Изображение: Large-Scale Optical Neural Networks Based on Photoelectric Multiplication / CC BY
Новая архитектура AI-ускорителя требует всего одного входного и одного выходного канала для каждого нейрона. В результате количество фотодетекторов приравнивается к числу нейронов, а не их весовых коэффициентов.
Такой поход позволяет сэкономить место на чипе, увеличить число полезных сигнальных путей и оптимизировать энергопотребление. Сейчас инженеры из MIT создают прототип, который позволит протестировать возможности новой архитектуры на практике.
Кто еще разрабатывает фотонные чипы
Разработками похожей технологии занимается Lightelligence — небольшой стартап из Бостона. Сотрудники компании говорят, что их AI-ускоритель позволит решать задачи машинного обучения в сотни раз быстрее классических устройств. В прошлом году команда завершала создание прототипа своего устройства и готовилась к проведению тестов.
Работает в сфере фотонных чипов и Cisco. В начале года компания объявила о покупке стартапа Luxtera, который проектирует фотонные чипы для центров обработки данных. В частности, компания производит аппаратные интерфейсы, которые позволяют подключать оптоволокно напрямую к серверам. Такой подход повышает пропускную способность сетей и ускоряет передачу данных. Устройства Luxtera используют специальные лазеры для кодирования информации и германиевые фотодетекторы для её дешифровки.
Фото — Thomas Jensen — Unsplash
Занимаются оптическими технологиями и другие крупные ИТ-компании, например Intel. Еще в 2016 году они начали производить собственные оптические чипы, оптимизирующие передачу данных между дата-центрами. Недавно представители организации рассказали, что планируют внедрять эти технологии за пределами центров обработки данных — в лидарах для беспилотных автомобилей.
Что в итоге
Пока что фотонные технологии нельзя назвать универсальным решением. Их внедрение требует больших затрат на техническое переоснащение дата-центров. Но разработки, подобные тем, что развивают в MIT и других организациях, сделают оптические чипы дешевле и скорее всего позволят «продвинуть» их на массовом рынке оборудования для ЦОД.
Мы в ITGLOBAL.COM помогаем компаниям развивать IT-инфраструктуру и предоставляем услуги частного и гибридного облака. Вот о чем мы пишем в корпоративном блоге:
