Нейроморфные чипы: немного истории, существующие системы и возможности технологии
Человека всегда привлекала мысль о возможности (пусть и гипотетической) создать настоящий искусственный интеллект. Ну, а поскольку единственный разум, о котором нам известно — человеческий, то вполне логично, что ИИ стали рассматривать как разум, базирующийся на технологиях, повторяющих процессы, происходящие в органическом мозге.
Нейроморфные чипы существуют, и они моделируют работу мозга. Есть элементы, которые определенным образом копируют работу нейронов и их органов — дендритов и аксонов. Ну, а связи между этими элементами возникают за счет специализированных аналогов синапсов. О том, насколько перспективна эта технология и что уже создано — поговорим под катом.
Немного истории
С появлением более-менее производительных ЭВМ ученые стали пытаться создавать системы, которые моделируют строение мозга человека. Первые попытки относятся к середине XX века — именно тогда Тэд Хофф с Бернардом Уидроу разработали аналог одноуровневой нейросети на основе мемисторов. Это электрохимические резисторы с функцией памяти. В большинстве источников указано, что именно этот проект является началом развития технологии нейроморфной вычислительной техники.
20 лет спустя, в 80-х годах прошлого века Карвер Мид стал использовать транзисторы в качестве аналоговых элементов. Изучение возможностей этого метода продолжалось несколько лет, а в 90-х уже целая команда под руководством этого ученого рассказала об искусственном синапсе, который способен хранить данные продолжительное время, плюс нейроморфный процессор. Его основой стали транзисторы с плавающим затвором.
В США также объявили начало программы по изучению мозга человека, так что правительство и коммерческие компании стали вкладывать деньги в собственные программы такого типа.
Кроме того, параллельным путем пошло развитие нейросетей, которые стали использовать для решения самых разных задач — от оценки состояния здоровья пациента до проверки качества огурцов на конвейере. Но нейросети нельзя назвать аналогом мозга человека, работают они по-другому, да и в подавляющем большинстве это однозадачные системы. Для решения комплексных задач требуется использовать несколько специализированных нейросетей. Но как бы там ни было, это слабая форма ИИ, которая, несмотря на успехи в шахматах, го, StarCraft и других играх, вряд ли когда-либо станет полноценным интеллектом, перейдя в сильную форму.
Правда, некоторые компании, включая Intel Labs, используют алгоритмы, которые относительно точно имитируют работу биологического мозга. Но это все же не то, что может хотя бы с допущениями считаться чем-то близким к сильной форме ИИ.
Нейроморфные технологии тоже активно развиваются. По данным аналитиков, в США объем рынка увеличится до $5 млрд в 2029 году и $21,3 млрд к 2034 году.
А в чем отличие нейромфорфных чипов от обычных?
Все дело в их архитектуре. Дело в том, что обычная вычислительная техника базируется на архитектуре фон Неймана с разделенным процессором и памятью. Как говорится — мухи отдельно, котлеты — отдельно. А вот мозг человека, по всей видимости, представляет собой единое целое, эта система способна одновременно и хранить, и обрабатывать данные.
Нейромфорфные чипы, понятно, создаются на основе уже существующих технологий, речь о полупроводниковых системах, а не о каких-то наполовину биологических устройствах. Нет, чипы базируются на основе обычных транзисторов, но архитектура в этом случае иная. В нейроморфных чипах роль нейронов играют транзисторы. Есть здесь и аналог аксонов, сигналы с которых могут поступать на вход других элементов, изменяя их состояние.
В подавляющем большинстве случаев «искусственные нейроны» объединяются между собой по модели спайковых) сетей (Spiking neural network, SNN). В ходе работы SNN передают сигналы аналогично тому, как они передаются в мозге. При этом реализуются процессы обучения с перераспределением синапсов между нейронами в ответ на стимулы.
SNN оперативно обучаются разным задачам, включая распознавание запахов, детекция речи или идентификация изображений. Все это можно объединить в единый комплекс, и работа будет вестись одновременно. Стоит отметить, что пока что нейромфорные чипы моделируют отдельные функции мозга, создать сколь-нибудь сложную систему, которая копировала бы значительную часть мозга, не говоря уже о всем органе в целом, пока невозможно.
Примеры проектов
Источник: Intel Lab
В 2008 году корпорация IBM и DARPA занялись реализацией программы SyNAPSE, в рамках которой разрабатывались компьютерные архитектуры, отличные от фон Неймановских. IBM создала ядро с 256 нейронами и 256 синапсами. Спустя несколько лет был представлен чип TrueNorth с 4096 ядер (это свыше 1 млн нейронов). Чип стали использовать в распознавании жестов и речи.
Еще один наглядный пример — самообучающийся нейроморфный процессор Loihi от Intel Labs. Первый чип получил 128 ядер по 1204 нейрона в каждом из них. В итоге получилась система со 130 тыс. нейронов и примерно 130 млн синапсов. Размер чипа составляет всего 60 мм 2. При таких размерах он весьма эффективен — например, для обучения обнаружения определенных запахов этому чипу нужно обучиться на данных, объем которых в 3 тыс. раз меньше, чем в случае обучения обычной нейросети. А энергии требуется примерно в 1000 раз меньше.
В 2021 году представлено второе поколение чипа, размер которого уменьшился в два раза, а число искусственных нейронов — наоборот, увеличилось в 8 раз. Чип работает на порядок быстрее, чем его предтеча. Разработано и специализированное ПО, среда программирования Lava с открытым исходным кодом.
Процессоры, о которых идет речь, используются не самостоятельно, а в рамках специализированных систем. Одна из них — USB-система Intel Kapoho Bay с двумя процессорами Loihi содержит 262 тыс. нейронов. По словам разработчиков, этого вполне достаточно для распознавания жестов, чтения шрифта Брайля, детекции запахов и т.п. Используя такую систему, ученые из Intel Labs и Корнельского университета разработали аналог системы обоняния человека. Так, им удалось научить систему распознавать признаки наличия в воздухе паров ацетона, аммиака и 8 других вредных веществ.
Еще одну систему разработали ученые из Национального университета Сингапура (NUS). Они создали роботизированную руку с искусственной кожей и датчиками зрения, оснастив ее нейроморфным процессором, о котором шла речь выше. Рука в итоге стала определять прикосновение в 1000 раз быстрее нервной системы человека, плюс ее обучили определять форму, текстуру и твердость объектов, причем быстрее, чем человек.
Работают над подобными системами и независимые научные организации. Так, команда Манчестерского вуза создала архитектуру SpiNNaker с 1 млн ядер, способных эмулировать работу свыше 100 млн нейронов.
А когда можно будет использовать нейроморфные чипы?
К сожалению, этого пока сказать нельзя. Дело в том, что нейроморфные технологии пока что тестируются в лабораториях. Сколь-нибудь серьезных комплексных проектов на их основе нет. Отдельные лабораторные проекты — да, но не коммерческие, находящиеся в общем доступе.
Тем не менее, нейроморфные чипы являются весьма перспективным направлением разработок в области вычислительной техники. Возможно, кому-то из исследователей удастся совершить прорыв, после чего начнется реализация серьезных проектов. В любом случае, нейроморфные технологии являются дополнением к существующим, они не могут быть заменой или альтернативой.