Как исследования импульсных нейронных сетей перешли из академических институтов в IT-компании?
В рамках проекта «Где рождается наукоемкий бизнес?» эксперты ПостНауки рассказывают о перспективных исследовательских задачах, решение которых не только произведет научный и технологический прорыв, но и будет иметь заметный экономический эффект. О перспективах применения искусственных нейронных сетей мы поговорили со специалистом в Computer Science Михаилом Киселевым. Прежде всего, хотелось бы несколько подкорректировать саму постановку вопроса. Сказать, что они «перешли», было бы сейчас не совсем корректно. Гораздо больше подходит «начинают переходить». Но прежде чем рассмотреть процесс этого перехода, скажем несколько слов о самих импульсных нейронных сетях, их специфике.
Когда отцы-основатели нейросетевой науки, МакКаллок, Питтс, Розенблатт, Хопфилд и другие, в 50–80-х годах XX века развивали теорию искусственных нейронных сетей, главной их движущей идеей была попытка имитировать процессы обработки информации в мозге. Их усилия оказались весьма плодотворными, привели к созданию целой индустрии программирования. Единственно, чего не удалось сделать в рамках этого направления, охватывающего несколько первых поколений нейросетевых моделей, — это, как ни странно, достичь даже отдаленной похожести на работу нейронных ансамблей в биологическом мозге. И именно этим обстоятельством объясняется очевидное в наше время несоответствие между захватывающими ожиданиями того времени, первоначальным энтузиазмом и достигнутыми, достаточно скромными успехами. Вычислительные системы, хотя бы отдаленно приближающиеся по своим возможностям к человеческому мозгу, до сих пор не построены, и сейчас мало кто сомневается, что они и не могут быть построены на основе традиционных нейронных сетей. Отсюда следует логичный вывод: надо быть ближе к природе, более точно ее копировать. Воплощением этой идеи стало научное направление, направленное на построение искусственных моделей нейронных ансамблей мозга, стремящееся реалистично воспроизвести процессы обработки информации в них. Так возник термин «импульсные (или как калька с английского — спайковые) нейронные сети». Почему же они импульсные? Чтобы ответить на этот вопрос, рассмотрим в общих чертах устройство биологического нейрона и форму, в которой он обменивается информацией с другими нейронами.
Как информационная система, нейрон имеет входы, называемые синапсами, тело (сому), реализующее обработку информации, и выход — аксон. Сигналы, зарождающиеся в теле нейрона, проходят через его аксон на синапс следующего нейрона, после чего комбинируются с сигналами, поступившими от других нейронов, определяя дальнейшее поведение этого нейрона. При этом одно из главных отличий импульсных нейросетей от предшествующих моделей состоит именно в природе сигналов, передаваемых от одного нейрона к другому, а именно: в импульсных нейросетях нейроны обмениваются очень короткими импульсами, амплитуда которых всегда одинакова, — так называемыми спайками. Информация при этом кодируется точной позицией отдельных спайков во времени либо их средней частотой. Фактор времени в таких нейронных сетях становится крайне важным — важны задержки распространения импульсов в межнейронных связях, временные характеристики отдельных нейронов как динамических систем и так далее. Будучи динамической системой, импульсная нейросеть естественным образом подходит для обработки динамической информации, взаимодействия с динамическим окружением. Нейроны в такой сети не требуют никакой глобальной синхронизации. Сигнальные линий, связывающие нейроны, очень просты и почти не рассеивают энергии. Дискретность состояния «есть импульс — нет импульса» делает их еще и хорошо помехозащищенными. Таким образом, на лицо все условия для создания на такой элементной базе сколь угодно огромных сетей, вплоть до масштабов человеческого мозга и даже больше… Научные исследования в этой области развивались по двум основным направлениям: собственно моделирование нейронных ансамблей головного мозга и использование бионического подхода к созданию сложных нейросетевых интеллектуальных систем. Задача первого направления — создавать компьютерные модели нейросетей, как можно более точно воспроизводящие нейрофизиологические реалии. Главные цели — понимание функционирования разных подсистем мозга и мозга в целом, моделирование и нахождение причин патологий ЦНС, объяснение нейрофизиологических основ высших психических функций. Для второго направления абсолютная точность воспроизведения нейрофизиологических феноменов не является самоцелью. Главное — выбор оптимального уровня абстракции, близости к биологическому прототипу — уровня, который обеспечивал бы возможности по анализу огромных потоков многомодальной информации, запоминанию, принятию оптимальных решений в сочетании с энергоэкономичностью и помехозащищенностью, сопоставимыми с мозгом человека.
Оба направления предполагают глубокое изучение свойств ансамблей импульсных нейронов, для чего принципиально есть, по крайней мере, три основных пути: изучение нейронных ансамблей живого мозга с помощью разного рода инвазивных и неинвазивных методик, изучение культур нейронов (тут сразу как наиболее впечатляющий пример вспоминаются опыты по выращиванию культур нейронов на интегральных микросхемах с их прямым электрическим контактом) и компьютерное моделирование. На последнее направление сейчас брошена вся «тяжелая артиллерия» современных компьютерных технологий. Это и самые мощные суперкомпьютеры, и специализированные нейрочипы (причем как цифровые, так и аналоговые), и ПЛИС, и кластеры массивно-параллельных графических процессоров. Исследовательские лаборатории, университетские центры, государственные исследовательские агентства, в том числе военные, с упорством гонщиков Формулы-1 преследуют цель — первыми создать вычислительную платформу, на которой можно было бы в реальном времени моделировать работу нейронных ансамблей размера человеческого мозга. А это — десятки миллиардов нейронов, сотни триллионов синаптических связей!
Каковы же практические результаты этой бурной деятельности, какова проекция из многомерных пространств академических исследований на плоскость бизнеса? Главное, что бросается в глаза, — что проекция эта пока крайне невелика. Большая часть практических приложений теории импульсных нейросетей сосредоточена сейчас в медицине, в ее очень молодой и очень перспективной области, называемой нейропротезированием. Так как известны принципы кодирования сенсорной информации, поступающей в мозг, естественным образом возникла идея эмулировать сигналы пораженных болезнью, травмированных или ампутированных органов чувств и подавать их через электроды на нервы, идущие от этих органов чувств или даже непосредственно в регионы коры головного мозга, ответственные за обработку соответствующей сенсорной информации. Аналогично этому знание кодирования команд, поступающих от мозга к мышцам, дает возможность их интерпретации специальными протезами, управляемыми микропроцессорами, которые воспроизводят действия, в нормальном случае выполняемые здоровой конечностью. Это направление сейчас активно развивается. Уже более 10 лет существуют зрительные нейропротезы, которые подают сигналы от матриц светочувствительных элементов, закодированные в виде последовательностей спайков, в зрительные отделы коры совершенно слепых пациентов, давая им возможность ориентироваться в пространстве и даже читать. Еще дольше и успешнее развивалась история применения слуховых нейропротезов у пациентов с полной потерей слуха (в том числе глухих от рождения!). История создания механических двигательных протезов в наше время только начинается, хотя уже имеются впечатляющие достижения — например, управление искусственной рукой непосредственно сигналами нейронов двигательной коры. Еще одним направлением нейропротезирования, имеющим более чем 10-летнюю историю успешного применения, является прямая электростимуляция мозга. Посылка последовательностей спайков через электроды, вживленные в определенные глубинные структуры мозга, помогает облегчить или полностью устранить симптомы болезни Паркинсона, дистонии, хронической боли и даже психиатрических заболеваний (маниакально-депрессивный психоз, шизофрения). Здесь речь уже идет о прямом направленном вмешательстве в работу мозга. Второй такой областью является робототехника. Именно здесь ожидается наиболее впечатляющий прорыв, связанный с использованием импульсных нейронных сетей. Однако пока это все в будущем. Хотя сейчас созданием роботов такого типа уже занимаются как специально созданные для этого стартапы (например, Brain Corporation из Сан-Диего), так и индустриальные гиганты; пока ни подметающих дорожки, ни производящих подводное бурение роботов такого типа не наблюдается. Правда, надо заметить, что, судя по роду основных таких источников финансирования проектов, как, например, американское агентство перспективных оборонных исследовательских проектов, финансирующее проект SyNAPSE, первые такие роботы отнюдь не дорожки будут мести…
Еще одна перспективная с этой точки зрения область — это компьютерное зрение, автоматический анализ видеоинформации. Здесь недавно был получен впечатляющий результат, хотя пока еще тоже не дошедший до уровня конечного продукта, — выпуск компанией IBM нейрочипа TrueNorth. В его состав входит миллион программируемых нейронов и 256 миллионов программируемых синапсов, которые могут образовывать структуры, подобные ансамблям нейронов отделов мозга, отвечающих за обработку зрительной информации. Чип полностью цифровой. Моделирование обеспечивается 4096 параллельно работающими ядрами на каждом чипе. Он является чемпионом во многих отношениях, содержа 5,4 миллиарда транзисторов и потребляя всего 70 милливатт энергии! По экономичности этот показатель уже приближается к биологическим нейронным сетям. Какими технологическими прорывами чреват этот результат, покажет близкое будущее. Завершим мы наш весьма короткий список сообщением о том, что американский телекоммуникационный гигант QUALCOMM последние несколько лет направляет большие средства на исследования по возможному применению импульсных нейросетей в телекоммуникационных устройствах, в том числе массового использования. Однако на данный момент суть этих исследований не разглашается, так что можно лишь догадываться, о какого рода применениях идет речь.
Таким образом, вернувшись к первоначальному тезису, можно сказать, что критическая масса полученных результатов в области импульсных нейронных сетей, при которой произойдет взрывной выброс новых продуктов и технологий на рынок, еще далеко не достигнута, но интенсивность исследований по этому направлению так велика, что этого вполне можно ожидать в близком будущем.
Полный текст статьи читайте на Postnauka.ru
