Brainwave: новый ускоритель искусственного интеллекта от Microsoft
В блоге компании говорится, что платформа разрабатывалась для того, чтобы обеспечить работу ИИ в реальном времени — то есть система будет отвечать на запросы сразу по их получении, с очень небольшой задержкой. Более быстрый ИИ необходим для обработки поисковых запросов, видео или, например, для взаимодействия с пользователями, отмечают в Microsoft.
Система Project Brainwave состоит из трех основных слоев: высокопроизводительной распределенной архитектуры; аппаратного движка DNN, построенного на FGPA; компилятора и библиотеки среды исполнения.
Отмечается, что Brainwave позволяет облачным моделям глубокого обучения эффективно работать вместе с массивной инфраструктурой на FPGA, которую Microsoft установил в своих центрах по обработке данных за последние несколько лет. Это означает, что элементы ИИ в приложениях будут получать более быструю поддержку от сервисов Microsoft.
На конференции представили ускоритель на 14-нанометровых FPGA Stratix 10 от Intel. И на данный момент производительность чипа оценивается в 39,5 TLFOPS, хотя, как отмечают в компании, в будущем планируется повысить производительность до 90 TLFOPS (улучшая Stratix 10).
Сейчас Project Brainwave поддерживает такие модели построения и обучения нейросетей, как Microsoft Toolkit и Google Tensorflow. При этом, как отмечает инженер Microsoft Дуг Бургер, идет работа над совместимостью с другими средствами (например, Caffe).
