Быстрее, точнее, эффективнее: IBM представила прототип 7-нм ИИ-сопроцессора

jr773n25jhx52ahax9nsi2xpn2u.png

Для обучения более-менее продвинутых моделей искусственного интеллекта зачастую требуются значительные ресурсы. А сложноустроенные модели подразумевают инфраструктуру в миллионы долларов. IBM создала технологию, позволяющую сократить стоимость и время обучения. И, конечно, сэкономить.

Корпорация представила прототип нового энергоэффективного 7-нм ИИ-сопроцессора. Использование чипа может повысить эффективность обучающих систем более, чем в 7 раз. Беспилотные автомобили, преобразование текста в речь, машинное зрение, разработка новых лекарств, дроны для доставки — сферы приложения ИИ сегодня бесконечны. Для реализации этих масштабных проектов и нужны подобные технологии.
В большинстве вычислительных ядер, процессоров и SoC, заточенных под машинное обучение, чаще всего применяют режимы пониженной разрядности: FP16 и INT8. 8-битная точность в этом случае просто избыточна. IBM разработала для подобных периферийных систем прототип нового ИИ-чипа.

Чем интересен сопроцессор?


p8tjl33gc2oerzmtk8wurfmec_y.png

4-ядерный чип. Источник

Чип спроектирован с использованием 7-нм техпроцесса. Возможны разные сценарии использования чипа:

  • В 4-битном режиме для обычных задач. Технология позволяет добиваться сопоставимой с 8-ми битным режимом точности результатов.
  • В 2-битном режиме для инференс-задач. В этом случае иногда точность понижается на несколько процентов, но в 4 раза повышается производительность по сравнению с 8-битным режимом.
  • Гибридный режим для задач разного типа.

Основные характеристики чипа:
  • 7-нм техпроцесс на основе EUV;
  • использование гибридного формата FP8 с HFP8;
  • управление питанием аппаратных ускорителей с помощью ИИ;
  • адаптация к перманентно высоким нагрузкам, что обеспечивает высокую производительность приложений.

fblhlfqganh3jaqhedctpr41rxo.png

Источник

Сферы применения новинки:

  • обучение крупномасштабных моделей в облаке;
  • усиление безопасности и конфиденциальности;
  • увеличение вычислительных мощностей в гибридных средах без больших затрат энергии.

В IBM считают, что сопроцессор будет применим в машинном зрении, системах распознавания речи и обработки естественного языка, для различных облачных приложений, для обнаружения мошенничества с финансовыми транзакциями. Помимо этого, выгоду из применения чипа могут извлечь разработчики автономных транспортных средств, систем видеонаблюдения и мобильных телефонов.

peayzfh745-twugmjk-r2zg-plc.png

© Habrahabr.ru