«Общество разума», наука и музыка: заметки о Марвине Минском04.01.2025 10:30

Познай себя — и ты познаешь мир

Сократ

Введение

Многие корифеи в области искусственного интеллекта еще в юные годы поставили перед собой грандиозную задачу, — постигнув тайны человеческого разума, создать мыслящие машины. Однако их поджидала проблема: традиционные основы психологии, неврологии, физиологии, на которые ученые привыкли опираться с начала XX века, уже спустя 50 лет оказались неточными, а то и вовсе ошибочными. Впрочем, и поныне, когда специалисты говорят о феномене разума, используя понятия «сознание», «обучение», «память», они словно открывают старые сундуки, где в причудливом беспорядке хранятся измятые, обветшавшие, надорванные идеи, тезисы, представления. Все эти концепции уходят корнями в эпоху, предшествовавшую рождению информационных технологий, и несут на себе печать докомпьютерной эпохи. Лишь в пятидесятые годы XX века перед специалистами стали открываться новые горизонты, позволяющие глубже проникнуть в природу сложнейших мыслительных процессов, и подоспело создание первых вычислительных систем, которые послужили экспериментальными установками для их моделирования. На заре грядущих открытий стали выдающиеся личности, среди которых едва ли не особое место занимает Марвин Минский — человек разносторонней одаренности, острого ума, обширных знаний, неустанный генератор идей, талантливый экспериментатор, мудрый учитель и обаятельный человек. Его по праву называют «отцом искусственного интеллекта».

В детстве я узнал, что существуют психологи — специалисты, которые разбираются в том, как работают наши головы. Поначалу мне стало страшно от осознания того, что они умеют управлять людьми и принуждать их совершать те или иные поступки, а потом я понял, что это неправда. На самом деле такой властью обладают политики и религиозные лидеры. Когда понимаешь, как возникают чувства, разум сложнее использовать для манипуляций. Будет хорошо, если мы наконец разберемся, как устроены наш разум и наше восприятие окружающего. Тогда мы сможем выбрать, что оставить, что изменить и как стать лучше. Правда, многим это будет неинтересно — люди любят себя такими, какими они являются (или хотят казаться). Возможно, им не достает желания меняться или богатства фантазии, чтобы представить себя иными. Нами теперешними мне быть не хочется: мы легкомысленны, медлительны и невежественны. Но в будущем нужно найти способы стать лучше. — М. М.

Становление

Как и многие другие одаренные ученые, Марвин Минский затруднялся обнаружить истоки увлечения математикой в своей родословной, но иногда вспоминал, как в пятилетнем возрасте проходил какой-то тест на сообразительность. В числе задач был вопрос о наиболее рациональной стратегии поиска мяча в поле с высокой травой, где этот предмет нельзя увидеть, не подойдя к нему вплотную. От испытуемого ожидали стандартный ответ: начать с центра поля и двигаться по расширяющейся спирали, пока мяч не будет найден. Маленький Марвин пытался объяснить, что это не лучшее решение, поскольку сначала нужно пересечь часть поля, чтобы добраться до центра, а значит пройти по одним и тем же местам дважды; правильнее начинать снаружи и двигаться по спирали внутрь. Однако он не смог убедить проверяющего, и воспоминание об охватившем его ощущении бессилия отпечаталось в памяти на всю жизнь.

Каждый помнит разочарование, которое испытал в детстве, осознав, что взрослые не совершенны. — М. М.

Тем не менее, пятилетний Марвин, должно быть, произвел благоприятное впечатление, поскольку на основании результатов теста его отправили в экспериментальную государственную школу для одаренных детей. Впрочем, он быстро возненавидел ее из-за того, что там во внеклассное время принуждали заниматься чечеткой.

Дети обычно не могут освоить восприятие пространства до десятилетнего возраста. Если посадить шестилетнего ребенка за стол с несколькими предметами и попросить нарисовать их не с его точки зрения, а с точки зрения человека, сидящего напротив, ребенок изобразит перспективу неправильно. Это один из тех случаев, когда способность делать многие вещи, может быть и встроенная изначально, не дается вам до определенного возраста. Большая часть вашей памяти, вероятно, во младенчестве еще не доступна. Наследственность «включает», добавляет определенные функции по мере роста и взросления. Их «аппаратное обеспечение», вероятно, встроено, но младенец не может оперировать им сразу после появления на свет; он должен научиться правильно использовать один компонент своей системы, прежде чем получит доступ к следующему. Если бы он получил всё и сразу, он бы не смог научиться пользоваться ничем. — М. М.

Осенью 1941 г. Минский поступил в Высшую школу естественных наук Бронкса (Bronx High School of Science), организованную лишь за три года до этого. Другие дети оказались здесь отличными товарищами, с которыми можно было обсуждать самые сложные темы, и никто не отмалчивался, не поддакивал, не отвечал формально или невпопад. В то же время во внешнем мире разговаривать с окружающими было мучительно, потому что все они говорили банальности: не будь таким серьезным, расслабься. А Минский совершенно не выносил это «расслабься». Но в Сайенс никто этого не поминал. Позже, когда Минский учился в Гарварде, он удивлялся тому, насколько легче там оказалась учебная программа. Кстати, в Сайенс он подружился с Расселлом Киршем, пионером информационных технологий, Энтони Эттингером, специалистом по прикладной математике и политике информационных ресурсов, впервые сумевшем заставить компьютер переводить с иностранных языков, и Фрэнком Розенблаттом, изобретателем «перцептрона» — первого прототипа машины с искусственным интеллектом.

В сентябре 1946 г. Минский поступил в Гарвард. Этот университет был в его представлении интеллектуальной мозаикой, целой вселенной знаний, которым можно было посвятить всю жизнь. Единственно, что беспокоило начинающего студента, — обязательный курс по описательному языку, поскольку в школе Марвину писанина не нравилась никогда. Он не понимал, о чем писать, не умел выражать свои мысли на бумаге, создавать интересный для прочтения текст. Ему предложили проверочное задание: пройдешь тест — освободят от обязательного курса. Нужно было прокомментировать отрывки из романов Достоевского; и Минский весьма прямолинейно и довольно лаконично объяснил, о что имел в виду автор. Видимо, экзаменатор устал читать длинные сочинения других студентов, поэтому краткий ответ был зачтен. Тесты нравились Минскому еще в школе, но сама их идея представлялась лишь несовершенной профанацией контроля знаний. Поэтому позже, занявшись преподаванием, Минский не давал студентам тестов; вместо них он поручал писать статьи, причем, без ограничений по срокам готовности.

В Гарварде Минский изучал общую физику, математику, социологию и психологию. Начитавшись статей по нейронаукам, он уговорил профессора зоологии Джона Уэлша разрешить ему самостоятельно проводить эксперименты, и тот по какой-то неведомой причине выделил в исключительное распоряжение Минского огромную лабораторию с соответствующим оборудованием и поставил задачу: следовало заняться двигательной иннервацией у раков, выяснить, как работают их клешни.

У меня была клешня рака, установленная таким образом, чтобы можно было управлять отдельными нервами. Я мог заставить эту клешню дотянуться до карандаша, поднять его и помахать им в воздухе. Не уверен, что все это имело большую научную ценность, но мне удалось выяснить, какие нервные волокна следует возбудить, чтобы подавить эффекты других, и клешня открылась. — М. М.

Это пробудило интерес к робототехнике, которой Минский стал заниматься в скором будущем.

Время, свободное от физики, математики и раков, Минский начал проводить в лаборатории кафедры психологии, которая тогда находилась в подвале Мемориал-холла. Люди в подвале очаровывали его. В западном конце расположились «дрессировщики» (Скиннер с сотрудниками). Их дела не особо интересовали Марвина, но они сумели оптимизировать дрессировку животных — заставить их делать что-то за более короткое время и с меньшим вознаграждением, чем кто-либо другой. Очевидно, в их методике было что-то, что следовало понять. В другом конце работали не на кого не похожие специалисты. Их тоже называли психологами, но они занимались странными делами. Например, один из них намеревался доказать, что чувствительность уха должна измеряться степенными, а не логарифмическими функциями. В середине подвала обитали люди третьего рода: Джордж Миллер (George A. Miller), основатель современной когнитивной психологии, пытавшийся описать психические процессы языком математики, и Джозеф Ликлайдер (Joseph Licklider), один из будущих создателей ARPANET, предшественницы современного интернета. Минский занимался вместе с Миллером вопросами психологии решения задач и обучения, а с вместе Ликлайдером — вопросами восприятия и моделирования работы мозга. Еще глубже под землей работал физик Георг фон Бекеши (Georg von Békésy). Он не устраивал дискуссий, а тихо изучал, как работает орган слуха. В 1961 году Бекеши стал первым физиком в истории, удостоенным за эти исследования Нобелевской премии по физиологии и медицине.

Подобно своему отцу, который помимо офтальмохирургии серьезно занимался музыкой, Минский тоже увлекся композицией и даже взял несколько уроков у Ирвинга Файна (Irving Fine). Но серьезного композитора из Марвина не получилось: он был по сути импровизатором, который может без труда пересоздать какую-нибудь фугу в приемлемой форме, но без сознательного размышления и плана не в состоянии написать свое собственное законченное произведение.

Чем больше я работаю над произведением, тем хуже оно становится. Я пытался научиться писать партитуры, но думаю, что никогда не предпринимал для этого необходимых усилий. — М. М.

Обретение

Минский начал думать о создании машины, которая была бы способна учиться. Его вдохновила работа Уоррена Маккалока и Уолтера Питтса, опубликованная в 1943 г. (о Маккалоке и Питтсе см. наш материал). В ней авторы описали абстрактную модель нейронов головного мозга и показали, как можно с ее помощью воссоздать психические процессы, в том числе, обучение. Минский решил, что время настало, но предстоит серьезная подготовка. Воображаемая машина нуждалась в существенном объеме памяти; электронные «нейроны» предстояло связать электронными «синапсами» и установить для них пороги срабатывания «на отдачу». В схемах надлежало реализовать петли и циклы, чтобы машина могла запоминать события и корректировать свое поведение в соответствии с «воспоминаниями». Минский рассказал Джорджу Миллеру о своих задумках, и тому удалось получить грант в пару тысяч долларов от Управления военно-морских исследований. Летом 1951 г. Минский с Дином Эдмондсом поехали в Гарвард и построили машину СНАРК, стохастический нейро-аналоговый рабочий калькулятор (SNARC, Stochastic Neural Analog Reinforcement Calculator). Это была одна из первых обучающихся машин, возможно, даже самая первая. Многие сети были соединены случайным образом, было невозможно предсказать, что она будет делать, но помимо прочего это сильно повышало надежность.

Если один из нейронов отказывал, это не имело значения: с почти тремястами лампами и тысячами соединений, постоянно где-то что-то было не так. В те дни радиоприемник с двадцатью лампами часто выходил из строя. Отладку машины мы так и не завершили, но это было и не нужно: благодаря сумасшедшему дизайну она была работоспособна. — М. М.

В начале 1956 г. Джон Маккарти, бывший сокурсник Минского, сформулировал понятие «искусственный интеллект» (ИИ). Группа в составе Маккарти, Минского, Натаниэля Рочестера из IBM и Клода Шеннона из Bell представила Фонду Рокфеллера запрос на грант для проведения конференции. В заявке подчеркивалось, что «каждый аспект обучения и любая другая особенность ИИ могут быть смоделированы». В Фонде предложение нашли интересным и выделили организаторам семь с половиной тысяч долларов. Мероприятие получило название «Дартмутский летний исследовательский проект по ИИ» и стало одной из важнейших вех на пути развития искусственного разума.

Люди редко оказываются в совершенно безвыходном положении и никогда не «зависают», как компьютеры. Если то, что вы пытаетесь предпринять, не решает задачу, вы находите другой способ. Когда вы думаете о телефоне, вы представляете его, возможно, десятком различных способов. Вероятно, некоторые из этих схем представления закодированы генетически. Мы рождаемся с базовыми способами геометрического представления вещей, поэтому можем думать о телефоне как о предмете в форме гантели. Но у нас в мозге, вероятно, есть и другие центры, которые ассоциируют не формы объектов, а их функции, и это облегчает понимание того, что в один конец такой «гантели» следует говорить, а другой — слушать. Существуют также способы представления вещей с точки зрения тех целей, которым они служат, и это способствует пониманию того, что телефон полезен для разговора с кем-нибудь на больших расстояниях. Умение пользоваться телефоном на самом деле невероятно сложно: для эффективного общения требуются способы представления сознания собеседника. Нужно понимать, какие знания являются личными, а какие относятся к тому массиву общественного достояния, которое мы иногда называем «здравым смыслом». Все знают, что вы видите глазами, слышите ушами и говорите ртом. Без этой базы общих знаний вы не можете понять структурного, функционального, социального значения телефона. — М. М.

В 1958 г. Минский стал доцентом математического факультета МТИ, и в том же году они с Джоном Маккарти основали в институте лабораторию ИИ. С этого момента началась официальная академическая история работ в этой области. Правда, и на ней сказались болезни становления и роста. Подавляющее большинство специалистов сосредоточилось на разработке все более сложных компьютерных программ. Но перехода количества в новое качество, то есть рождение прорывных решений, откладывалось. Причину назвал Фрэнсис Крик, получивший в 1962 г. вместе с Джеймсом Уотсоном и Морисом Уилкинсом Нобелевскую премию за расшифровку молекулярной структуры ДНК.

В компьютере информация обрабатывается с высокой скоростью и последовательно; в мозге скорость намного ниже, но обработка происходит параллельно по многим миллионам каналов. Компоненты компьютера очень надежны, но удаление одного или нескольких из них способно остановить вычисления. Нейроны мозга менее надежны, но удаление довольно большого их количества не приводит к заметным изменениям в работе. Компьютер точно и быстро выполняет сложнейшие вычисления, которые не могут выполнить люди, но человек способен распознавать образы такими способами, к которым компьютер не может даже приблизиться.

Фрэнсис Крик, «Размышления о мозге»

Первой машиной, способной выполнять сложное распознавание образов, стал перцептрон, разработанный в 1959 г. Фрэнком Розенблаттом, одноклассником Минского по Бронкс Сайенс. Он содержал в себе воспринимающую часть из четырехсот фотоэлементов, аккумуляторов заряда, возникающего в фотодатчиках — Розенблатт называл их ассоциаторами, — и системой отклика, которая генерировала сигналы при достижении определенного порогового значения заряда, накопленного ассоциаторами.

Минский относился к этому начинанию неоднозначно. Еще во времена СНАРКа он пришел к выводу, что следует сосредоточиться на совершенствовании машинного обучения, а не на усложнении принципов работы с датчиками.

Вскоре началась совместная работа Минского с Сеймуром Папертом. Их познакомил Уоррен Маккалок, чья с Уолтером Питтсом работа о нейронах так впечатлила Минского в сороковых годах. Сначала коллеги инициировали новые работы в области человеческого восприятия, детской психологии, теории вычислений и робототехники, затем решили дезавуировать перцептрон или, по крайней мере, сильно ограничить его популярность в отрасли. Четыре года они оформляли свои концепции и в 1969 г. опубликовали монографию «Перцептроны». Впоследствии Минский считал этот демарш бескорыстной услугой, оказанной сообществу в сфере ИИ.

Осознание

Вскоре Минский вплотную занялся компьютерной лингвистикой. Известно, что самым ранним «нечисловым» проектом, опробованным на компьютерах, стал перевод с одного языка на другой. Успех в этой области разработчикам почти не давался, поскольку трудно было алгоритмизировать синтаксис и внести ясность в присущую словам неоднозначность. Простой пословный перевод неизменно приводил к абсурду. Компьютер не мог отличить существительное от глагола без анализа контекста предложения или фразы в целом, а сложность подобной задачи в те времена превышала возможности оборудования.

Машины не смогут работать с языком до тех пор, пока мы не создадим простых алгоритмов, понимающих простые предложения простыми способами. — М. М.

В этой сфере сообщество ИИ долгое время работало практически совершенно самостоятельно, без помощи лингвистов. В 1964 г. Бертрам Рафаэль написал программу, которая позволяла компьютеру принимать решения о значении слов в заданном контексте. Он, например, вводил в компьютер такую последовательность утверждений:

• Every boy is a person (каждый мальчик есть человек).
• A finger is part of a hand (палец есть часть руки).
• There are two hands on each person (у каждого человека есть две руки).

А затем задавал вопрос: How many fingers does John have? (сколько пальцев есть у Джона?) Заметим, что имя «Джон» не было определено в программе, и глаголы используются в английском языке в нескольких смыслах (в том числе, как модальные, вспомогательные). Когда компьютер столкнулся с этой проблемой, программа Рафаэля ответила: вопрос двусмысленный, но я полагаю, что «есть» означает «имеет в качестве частей», а затем спросила: сколько пальцев на руке? Ей сообщили, что Джон — мальчик, что на каждой руке по пять пальцев. Она выдала ответ: десять. Затем Рафаэль поинтересовался у машины, кто сегодня является президентом Соединенных Штатов, и получил ответ «Форма запроса не определена».

Минский нашел программу Рафаэля весьма интересной, прежде всего потому, что она допускала противоречия в условиях поставленной задачи. Если сказать машине, что у Джона девять пальцев, сбой не возникал; она пыталась построить своего рода «иерархию знаний» вокруг этого факта. Иными словами, в любой ситуации машина искала достоверные сведения и старалась их использовать.

Меня интересуют именно такие, изящные решения, а вовсе не грандиозные достижения, когда машина побеждает гроссмейстера при игре в шахматы. В программах, подобных написанной Рафаэлем, преодолевается неопределенность условий, которые тем не менее могут быть проанализированы. В некотором смысле, производительность машины «детская», но это впечатляет сильнее, чем решение компьютером задач по матанализу. То, что делают дети, требует объединения различных видов и форм знаний, и машина, работающая аналогичными образом, достойна восхищения. — М. М.

В это время Генри Эрнст создал первого робота с компьютерным управлением для «группы ИИ» в МТИ. Это была механическая рука с плечом, локтем и захватом — примерно такая, как манипуляторы, которые используется при работе с радиоактивными материалами. Рука была прикреплена к стене и приводилась в действие несколькими двигателями, которые, в свою очередь, управлялись компьютером. Мир робота состоял из коробки и блоков, которые были разложены на столе. В кончиках пальцев захвата были установлены фотоэлементы. Рука опускалась, пока едва не происходил контакт с поверхностью стола, фотоэлементы улавливали темноту тени руки, и программа заставляла ее останавливаться. После этого она начинала двигаться в сторону, пока не входила в контакт с блоком или коробкой. Она могла различать их: объект был менее трех дюймов длиной был блоком, а более трех дюймов — коробкой. Затем программа направляла руку поднять блок и положить его в коробку. Она была способна обнаружить на столе все блоки на столе и сложить их в тару.

Программа опережала время, а мы даже не осознавали, насколько продвинутой она была. Алгоритм умел справляться с неожиданностями. Если вы перемещали коробку или блоки по ходу процесса, она находила и то, и другое. Если на стол клали мяч, она проверяла, не является ли он блоком. Кстати, когда Стэнли Кубрик снимал «Космическую одиссею 2001 года», он попросил меня проверить декорации, чтобы убедиться, что всё , что начнут снимать, является правдоподобным с технической точки зрения. Я нарисовал эскиз того, как могли бы работать механические руки. А когда увидел фильм, то был поражен тем, что кинокомпания M-G-M смогла сделать их лучше, чем мы. Они безукоризненно хорошо открывали воздушный шлюз космического корабля. Правда, позже выяснилось, что шлюз открывал человек, скрытый с другой стороны — М. М.

Минский и Паперт начали создавать программы, которые были не централизованными, а состояли из полунезависимых друг от друга компонентов — гетерархий, — которые моги обращаться друг к другу за помощью. В итоге они развили эти идеи и создали теорию «общества разума», а впоследствии предположили, что интеллект развивается на основе взаимодействия множества малых систем, работающих в рамках одной развивающейся иерархической схемы. Первая программа, использующая эту теорию, была создана Патриком Уинстоном, позже сменившим Минского на посту директора лаборатории искусственного интеллекта МТИ. К 1970 г Минский с коллегами смогли предъявить компьютеру простую структуру, например, мост из блоков, и заставить машину самостоятельно построить ее копию.

А потом были еще четыре десятилетия новых проектов, гипотез, доказательств, десятки именитых учеников, сотни талантливых коллег, тысячи оригинальных решений, гипотез и просто идей. Но главное свершилось: благодаря Марвину Минскому ИИ получил не только идейную, теоретическую, но и практическую и методическую базу. В 2003 г. лаборатория искусственного интеллекта была объединена с лабораторией вычислительных технологий, но и в новом качестве все еще остается именитым подразделением МТИ.

Сокрытая основа возможностей нашего разума кроется в богатстве его альтернативных представлений о себе и об окружающем. Трактовки, которые столь изящно используются в других областях науки и технологий, совершенно не подходят для психологии, ведь человеческий разум почти никогда не делает чего-либо лишь одним способом. Оттого-то психологи и завидуют физикам, которые достигли поразительных успехов, используя небольшое количество базовых законов для объяснения множества вещей. Психологи до сих пор (и пока безуспешно) ищут свой «священный грааль» — небольшой набор базовых законов восприятия, познания, памяти, с помощью которых можно объяснить все феномены разума. Я полагаю, что мы не найдем ответа в малом комплекте лаконичных принципов. Очередная теория познания, которую можно описать несколькими краткими утверждениями, почти наверняка ошибочна. Иначе наши предки могли бы сформулировать теорию относительности еще в те времена, когда относились к беспозвоночным животным. — М. М.

Заключение

Будучи представителем точных наук, Минский прекрасно осознавал, что понять разум — совсем не то, что просто выявить и классифицировать отделы, ядра и субструктуры мозга — это, кстати, уже сделано. И ситуация здесь вызывает из памяти любимую братьями Стругацкими цитату:

В фантастических романах главным было радио: при нем ожидалось счастье человечества.
И вот радио есть, а счастья нет.

Илья Ильф, из записных книжек

Даже если бы у нас была схема, включающая все эти миллиарды нейронов и сотни миллиардов связей между ними, она смотрела бы на нас так же безгласно, как капли росы на траве или окатыши гальки на морском берегу. Именно так — по крайней мере, для большинства из нас — выглядит фотография кремниевого чипа под микроскопом высокого разрешения. Она не выявляет всех истинных компонентов — атомов и молекул. На чипе заметны лишь придуманные Минским «сообщества разума»: память, контроллеры, АЛУ и проч. Минский верил, что со временем эти «коллективы» нейронов мозга будут идентифицированы в соответствии с характером решаемых ими задач, а функции — описаны понятным языком. Но на вопрос, нужно ли это сегодня искусственному интеллекту, следует, по-видимому, ответить отрицательно: нейросети были созданы не благодаря успехам в нейрофизиологии, а скорее вопреки им; имитация биологической мыслящей машины оказалась делом не только ненужным, но и вредным. Впрочем, это уже другая история…

Полный текст статьи читайте на iXBT прочитано 5802 раза