ИИ близок к чтению мыслей: нейросеть воссоздала увиденное человеком по снимкам мозга
- Институт Вейцмана создал ИИ, реконструирующий увиденное по снимкам фМРТ; модель обучали на примерно 9 тыс. изображений восьми добровольцев.
- Декодеру достаточно часа фМРТ-данных, а энкодеру обычно нужно около 40 часов на испытуемого; система работает в обоих направлениях.
- Исследователи планируют перейти к видео и аудио, а затем реконструировать мысли, воображаемое и сны.
Почему это важно: Авторы рассчитывают использовать технологию для изучения мозга и помощи людям с синдромом «запертого человека», но она также поднимает вопрос о приватности мыслей.
Учёные из Института Вейцмана в израильском Реховоте разработали ИИ-инструмент, который с поразительной точностью воссоздаёт то, что видит человек, просто анализируя снимки его мозга. Технология работает и в обратную сторону: опираясь на то, что видит человек, можно предугадать активность мозга. Учёные читают, что их открытие поможет в изучении мозга человека, а также будет полезным для людей с синдромом «запертого человека» или поможет воссоздавать содержание снов.
Источник изображения: Unsplash, Sasun Bughdaryan
На приведённом изображении слева в каждой паре располагается то, что человек действительно видел, а справа — то, что ИИ-алгоритм сгенерировал на основе анализа снимков мозга испытуемого. Работа израильских учёных уже нашла положительные отзывы. Так Джуди Иллес (Judy Illes), нейроэтик и профессор неврологии в Университете Британской Колумбии в Канаде, считает работу израильских коллег »великолепной». «Сама идея использовать такой подход для терапевтической помощи людям с неврологическими состояниями невероятно воодушевляет», — заявила Иллес.
Однако другие учёные считают, что подобный подход может использоваться для раскрытия мыслей и ментальных образов людей, даже без их согласия. «Результаты выглядят очень впечатляюще. Но если появится способ незаметно извлекать информацию, касательно того, о чём вы думаете, то <…> 150 лет научной фантастики могут воплотиться в реальности в любой момент, и это во многих отношениях тревожно», — уверен Томми Спраг (Tommy Sprague), нейробиолог из Калифорнийского университета в Санта-Барбаре.
Нейробиологи годами ищут способы использовать функциональную магнитно-резонансную томографию (фМРТ), чтобы воссоздать то, что видят люди, а также то, что происходит в их сознании. Итогом первых подобных попыток стали размытые изображения, на которых было трудно что-то разобрать. С годами ситуация улучшилась благодаря оптимизации фМРТ-сканирований и инструментов для интерпретации результатов.
Израильские учёные начинали свою работу с анализа общедоступных данных фМРТ мозга. Другие исследователи уже собрали снимки добровольцев, которым показывали сотни изображений в то время, когда они находились внутри аппарат фМРТ. Учёные также проанализировали наборы данных, которые были получены на сканерах с высоким разрешением. Эти данные показали, какой была активность мозга участников эксперимента, когда они рассматривали разные изображения.
Ранее учёные уже работали над созданием технологии воссоздания изображений того, что видит человек, на основе данных сканирования мозга. Для этого применялись разные инструменты, но ни один из них не давал подобного результата. Чтобы добиться этого учёным пришлось начать с обучения ИИ-модели. Для сбора обучающих данных восьми добровольцам, каждый из которых находился в фМРТ-сканере высокого разрешения, показали около 9 тыс. изображений.
Источник изображения: technologyreview.com
Ключевая особенность созданного учёными декодера заключается в том, что он работает сразу по двум направлениям: предсказывает структуру изображения (например, где располагаются цвета), а также содержание изображения (например, связку бананов на тарелке). Такой подход позволяет ИИ-модели генерировать гораздо более чёткие изображения того, что видел человек. Однако для повышения точности системы учёным требовалось гораздо больше данных, чем было в наличии. Для преодоления этой проблемы они обучили ещё одну ИИ-модель — своеобразный энкодер, способный предсказывать активность мозга по изображению. После этого энкодер и декодер стали использоваться вместе, чтобы параллельно улучшать оба инструмента.
Работает это следующим образом. Сначала берётся новое изображение, например, леопарда. С помощью энкодера генерируется предсказание того, как будет выглядеть фМРТ-снимок мозга человека, который будет смотреть на это изображение. Далее с помощью декодера полученное изображение реконструируют. Поначалу реконструированные изображения мало похожи на исходное. Однако многократная тренировка модели таким способом со временем даёт значительный прирост качества.
Такой подход также позволяет учёным обучать модели на сколь угодно большом количестве изображений, включая те, которые не показывали человеку, лежащему в фМРТ-сканере. По данным источника, примерно 70% обучающих данных — это изображения, изначально не сопоставленные со снимками фМРТ.
Объединив данные из нескольких исследований, учёные также смогли выделить области мозга, функции которых, вероятно, совпадают у всех людей. Например, одна область реагировала на изображения еды, а другая — на изображения спортивной тематики. Учёные не исключают, что созданная ими технология позволит «узнать что-то новое о мозге».
Что касается энкодера, то он может работать со снимком нового человека после минимальной калибровки. Однако обычно обучение модели занимает около 40 часов фМРТ-данных для каждого испытуемого, после чего алгоритм становится способным предсказывать то, что видит человек. В случае декодера для обучения хватает одного часа данных. Результаты проделанной работы учёные в прошлом месяце представили на конференции Cognitive Computational Neuroscience в Нью-Йорке.
В дальнейшем исследователи планируют выйти за рамки изображений, перейдя к видео и аудио. В конечном счёте они хотят научить ИИ реконструировать то, о чём думает человек или что представляет себе, а также содержимое снов. Однако возможность создания такой технологии неизбежно поднимет вопрос приватности человеческих мыслей, поскольку речь может идти об использовании ИИ для реконструкции мыслей или воспоминаний без согласия человека.
© 3DNews
