Предположим, человек сконструировал искусственный интеллект. Как мы об этом узнаем?
TL; DR: очередной малокомпетентный чувак с Хабра что-то пишет про искусственный интеллект.
Лирическое отступление
Метод создания интеллекта человечество вообще-то знает довольно давно: если мама и папа очень сильно любят друг друга, то спустя какое-то время на свет появляется новый интеллект (вздохнём о той доле случаев, когда этого не происходит). Но в силу каких-то причин люди мечтали об интеллекте, который будет точно такой же, как у них, только с перламутровыми пуговицами.
Как известно, куда пальцем не ткни — попадёшь в древних греков. И действительно, аж в III веке до нашей эры появляется история про Талоса — бронзового мужика автоматона, созданного Гефестом для того, чтобы сторожить Европу (ту, которая жена Зевса). И тут как понеслось…
Автоматы Аль-Джарази, механические утки, логическая машина Луллия, механические ангелы, механический Иисус, механическое небо, механический Аллах, механический турок (тут неудобно вышло, конечно)… Словом, вы поняли. Идея искусственного разума не отпускает людей уже больше двух тысяч лет. И это только то, что люди собрали непосредственно, а уж сколько идей и размышлений на этот счёт возникало!
Но вся эта погоня за механическим интеллектом (или хотя бы его впечатляющей имитацией) шла без каких-либо критериев успешности. Сделали круто выглядящую штуку — уже прорыв, почёт и уважение. Что, в сущности, не так уж удивительно: от «Органона» до «Нового органона» прошло без малого те же две тысячи лет.
Естественно-научная перегруппировка
Но мы всё-таки люди умные, живём не каких-нибудь тёмных веках, а в озарённом светом разума XXI веке. Бэкона если не читали, то слышали о нём, про научный метод в курсе, да и вообще. Говоря короче, как-то не готовы мы восторгаться просто эффектными штуками, нам критерии подавай.
Тут сведущие читатели возведут очи горе. Да-да, мы всё о том же, уж простите, в разговоре об искусственном интеллекте без этого не обойтись. Давайте вдохнём и скажем все вместе:
Тест Тьюринга
Знающие знают, незнающих приглашаю почитать про него отдельно, а потом вернуться, так что опишу в двух словах один из вариантов: человек А с помощью текстового чата беседует с другим человеком Б и искусственным интеллектом. На основании их ответов он должен сделать вывод кто есть кто. Задача искусственного интеллекта — притворяться человеком. Если по итогам эксперимента человек А не может уверенно сказать кто мешок с костями, а кто дурик жестяной, то тест, вроде как, пройден.
На этом моменте, конечно, можно покрутить носом и сказать: ну это ж субъективные ощущения, они мне не подходят. Муцураева числа хочу! С этим сложно не согласиться, но так уж вышло, что вопросы интеллекта не слишком хорошо поддаются измерению. Да и у самого теста есть и другие проблемы. Это и этичность обучения машины вранью, и необходимость машины допускать ошибки, и вообще. Но самое главное… Что ж, давайте вдохнём ещё раз.
Китайская комната
Простите ещё раз, но придётся поговорить и об этом. Китайская комната in a nutshell: в комнате сидит человек, который не знает китайский. Ему передают письма на китайском языке и он с помощью обширного количества инструкций из книг, лежащих в комнате, даёт ответы на письма. По всем признакам выходит, что китайская комната тест Тьюринга прошла, но осадочек остался. Почему и что за осадочек?
Философское наступление
Вот мы и подобрались к сути.
Что нас смущает в китайской комнате? Или, другими словами, почему формальное выполнение условий теста Тьюринга с помощью системы из бедняги, запертого в кафкианской тюрьме из книг с иероглифами, не означает разумности системы?
А смущает нас то, что никакого внутреннего понимания в системе не происходит. Из чего с неизбежностью следует, что если что-то выглядит как утка, плавает как утка, крякает на китайском как утка, но не обладает понимаем китайского как утка, то, вы уж простите, но в разумности мы этому чему-то откажем. Потому что видим явное различие человеческого интеллекта и интеллекта рукотворного: человек осознаёт свои действия и понимает их смысл, в то время как машина лишь следует некоторой наперёд заданной программе. Другими словами: общение машины носит сугубо синтаксический характер, в то время как человеку присуще ещё и семантическое, смысловое наполнение общения. Или, если более предметно, мы встречаем философского зомби: существо, которое во всём похоже на человека, ведёт себя как человек, но не обладает сознанием (ха-ха, будто мы знаем, что это такое).
Справедливым будет упомянуть про контраргументы к этой позиции. Вот их варианты, если кратко:
Ложки понимания в принципе не существует. Все психические способности человека могут быть редуцированы к функциям, которые, вообще говоря, могут быть реализованы и на неорганическом носителе, а всё это ваше сознание и прочие кунштюки — так, эпифеномены мозга.
Все смыслы слов можно, на самом деле, свести к алгоритмам их использования в комбинации с другими словами. Так что мы либо будем по кругу объяснять сепульки сепулением, либо найдём какие-то слова, значение слов которых можно объяснить только непосредственно предъявив определяемый предмет. Во втором случае мы будем иметь дело уже, конечно, не со словами, но с некоторыми знаками (в широком смысле; сенсорной информацией), которая, опять же, может быть определена либо через другие знаки, либо — задние ряды уже поняли — путём непосредственного предъявления определяемого. Таким образом мы приходим к скрытой или явной тавтологии определения одного через другое.
Человек, конечно, не понимает языка, с этим спорить глупо. Но вот система из человека, кучи книг с инструкциями, и самой комнаты язык знает (тут, правда, возникает неудобный момент, когда предлагается человека заменить за автомат, который отвечает на письма согласно инструкциям; по всему выходит, что он разумен, хотя мы, вроде как, с этим не сильно согласны).
Наконец, ход конём: знание алгоритмов китайского языка автоматически порождает понимание. Дескать, если человек внутри видит иероглифы на входе, правила, и иероглифы на выходе, то рано или поздно он худо-бедно и язык поймёт. Хопа!
Я, ясное дело, сильно упрощаю; сами контраргументы сформулированы сильно длиннее и лучше. Если интересно почитать подробнее, то ключевые слова для поиска: элиминативизм, редукционизм, теория тождества (теория идентичности).
Подводя промежуточный итог.
Если мы стоим на позициях Сёрля (автора китайской комнаты), то утверждаем, что для настоящего интеллекта требуется понимание своих действий, а не формальное подражание человеку.
Если мы стоим на позициях его противников, то или выкидываем само понимание в его обычном человеческом смысле как эпифеномен, или представляем механизмы его появления в результате действия по некоторому, возможно, достаточно сложному, алгоритму.
Давайте же рассмотрим популярные утверждения касательно искусственного интеллекта, которые должны проиллюстрировать ту или иную точку зрения.
Это просто перемножитель матриц, никакого понимания в нём нет!
Речь, конечно, про нейросети. Но тут ведь как: перемножитель-то перемножитель, но почему мы считаем, что интеллект, сознание и понимание могут родиться только в системе, которая похожа на человеческий мозг? По меткому выражению в одном из комментариев хабра уж простите, не смог его разыскать самолёты только внешне похожи на птиц, а принцип их полёта от птичьего существенно отличается. Куда палкой-то тыкать чтобы сознание и понимание отыскать? Даже с людьми не ясно. Ну есть там какие-то токи в голове, химия, опять же. Но как это с мыслями-то соотноситься?
Нейросети застыли во времени после своего обучения. Как возможно сознание в такое положении?
В книге «Человек, который принял жену за шляпу» приведён пример больного, который прекрасно помнил всю свою жизнь до некоторого момента 1945 года, а всё, что произошло потом — начисто забывал после пары минут. Значит ли это, что в этом человеке не было сознания и понимания? Кажется, нет. Они были существенно ограничены, безусловно, но никуда не девались. Можно ли это обойти в техническом смысле? С моей профанской точки зрения — да.
Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
Что ж. Как мы видим — да, сочинит и превратит. По поводу шедевра, конечно, мнения могут существенно расходиться, но тут уж, простите, сугубо субъективное восприятие искусства. Хотя мне и кажется, что нынешнее нейроискусство находится на уровне прилежного выпускника художественной школы и струны души не задевает, но и самому явлению всего ничего.
Тут, конечно, найдётся и возражение такого толка, что нейросеть не создаёт ничего нового, а лишь комбинирует уже существующее. Опять же, да;, но поступают ли люди иначе?
Многие, наверняка, знакомы с психологическим тестом сорта «нарисуй несуществующее животное». И оказывается, что все «несуществующие» животные на деле являются комбинацией реальных: вот хвост, вот когти, вот тридцать восемь глаз.
Нейросети учатся не так, как люди. В этом наше главное отличие.
С первого взгляда вроде бы похоже.
Вот ребёнок учит буквы. Если он букву узнаёт верно, то мы его хвалим, если неверное, то бьём просим подумать получше. Прямо как персептрон Розенблатта интересно, думал ли он, к чему это всё придёт? : если он угадывает, то мы увеличиваем веса, если нет, то уменьшаем.
Но если копнуть глубже, то схожесть тут только внешняя. Так, например, любому ребёнку достаточно один (пять, десять; в любом случае не очень большое количество) раз увидеть стол, чтобы отличать его от, скажем, стула. В то же время нейросети, кхм, да.
То есть человек некоторым образом овладевает идеей стула (кто сказал «Платон»?), а нейросеть судит исключительно по формальным параметрам.
Этот довод действительно сильный и каких-то механизмов, которые бы позволяли нейросетям «схватывать», «понимать» идеи, сущности явлений я, по крайней мере пока, не встречал.
У нейросети нет цели, есть только путь
И действительно: подобно верной собаке нейросеть сидит и ждёт, пока мы не скормим ей какой-нибудь запрос. Своих желаний и стремлений у неё нет.
Можно ли это изменить? С моего, опять же, профанского взгляда, да. Сформулировать задачу постоянного увеличения некоторого значения (количества знаний, решённых задач), кажется, не слишком сложно.
Опять же, наличие свободной воли у человека — вещь не самоочевидная. По крайней мере не для всех.
Можно смотреть на поступки человека телеологически (я делаю это для того чтобы добиться того-то), а можно каузально (я делаю это потому что нейроны в моём мозгу так-то и сяк-то провзаимодействовали). И чем каузальный человек отличается от машины в этом случае?
И что в итоге?
В итоге мне хотелось бы попросить подписаться на мой телеграм-канал указать на то, что исключительно научный (в смысле формы познания) подход к искусственному интеллекту ограничен. Для того, чтобы разобраться в том, что мы породили и к чему это всё приведёт надо бы привлечь к делу и философию науки, и философию вообще (как бы снисходительно к ней не относились некоторые люди). Ведь в очередной раз прогресс приносит нам явления, которые ещё только предстоит осмыслить. Надеюсь, что после прочтения вопрос, вынесенный в заголовок, станет для вас более глубоким и многогранным.
