[Перевод] Беспокойство о захвате мира искусственным интеллектом, возможно, основано на ненаучных предположениях
Надо ли нам бояться искусственного интеллекта (ИИ)? Для меня это простой вопрос, с ещё более простым ответом: нет. Но со мной согласны не все — многие люди, включая и Стивена Хокинга, выразили беспокойство тем, что появление мощных ИИ-систем может означать конец для человечества.
Ваш взгляд на вопрос того, захватит ли ИИ мир, или нет, очевидно, будет зависеть от того, сможет ли ИИ выработать разумное поведение, превосходящее людское — нечто под названием «суперинтеллект». Давайте же рассмотрим вероятность этого процесса, и почему по поводу будущего ИИ существует такое беспокойство.
Люди обычно боятся того, чего не понимают. Страх часто делают ответственным за расизм, гомофобию и другие источники дискриминации. Неудивительно, что он применим и к новым технологиям — они часто окружены определёнными загадками. Некоторые технологические достижения кажутся совершенно нереальными, превосходят ожидания, и, в некоторых случаях, возможности человека.
Нет никакого духа в машине
Давайте же сорвём покров мистики с самых популярных ИИ-технологий, известных, как «машинное обучение». Они позволяют машине научиться выполнению задачи без необходимости программировать определённые инструкции. Это может выглядеть страшноватым, но на самом деле всё сводится к довольно скучной статистике.
Машина, то есть программа, или точнее, алгоритм, разработан так, что он может раскрывать взаимосвязи, имеющиеся во входных данных. Существует много разных методов для достижения такого эффекта. К примеру, мы можем предоставить машине изображения рукописных букв, и попросить её распознать последовательность этих букв. Мы уже дали ей возможные варианты ответа — это могут быть только буквы алфавита. Сначала машина случайным образом называет букву, а мы поправляем её, давая правильный ответ. Также мы запрограммировали машину на возможность самоподстройки, и когда ей в следующий раз дадут эту букву, она с большей вероятностью выдаст нам правильный ответ. В результате, со временем машина улучшает свою эффективность и «обучается» распознавать алфавит.
Мы, по сути, запрограммировали машину на использование распространённых взаимосвязей в данных для достижения определённой цели. К примеру, все варианты буквы «а» выглядят структурно похожими, но отличными от «b», чем алгоритм может воспользоваться. Что интересно, после фазы тренировки, машина может применять полученные знания к новым примерам букв, например, написанных человеком, чей почерк до этого машина не видела.
Мы даём ИИ ответы
Однако люди и так хорошо умеют читать. Возможно, более интересным примером будет искусственный игрок в го проекта Google Deepmind, обыгравший всех человеческих игроков. Он, очевидно, учится не так, как люди — он играет в игру сам с собой такое количество раз, какое ни один человек не сыграет за всю жизнь. Его запрограммировали на выигрыш, и разъяснили, что выигрыш зависит от его действий. Также его научили правилам игры. Играя в одну и ту же игру снова и снова, он может обнаружить наилучший ход в каждой ситуации, изобретая ходы, ни разу не сделанные до этого людьми.
Карапузы против роботов
Делает ли это ИИ, играющий в го, умнее человека? Определённо нет. ИИ очень специализирован, предназначен для определённого типа задач, и не обладает разносторонностью людей. С годами люди начинают понимать мир так, как не сумел ни один ИИ, и в ближайшем будущем, вероятно, не сумеет.
То, что ИИ называют «интеллектом», связано с тем, что он способен обучаться. Но и в обучении он не дотягивает до людей. Карапузы способны обучаться, просто наблюдая, как кто-то другой решает проблему. ИИ требует вагоны данных и кучу попыток для достижения успеха в очень определённых задачах, и очень сложно обобщить его данные для задач, слишком сильно отличающихся от тех, на которых он тренировался. Поэтому, если люди вырабатывают удивительный интеллект довольно быстро в первые годы своей жизни, ключевые концепции машинного обучения не сильно отличаются от того, какими они были десять или двадцать лет назад.
Мозг маленького ребёнка удивителен
Успехи современного ИИ меньше связаны с прорывами в технологиях, и больше зависят от простого объёма данных и вычислительных мощностей. Важно отметить, что даже бесконечное количество данных не даст ИИ человеческого интеллекта — сначала нам нужно достичь значительного прогресса в создании технологий «обобщённого интеллекта» — и мы даже близко не подошли к решению этой задачи.
В общем, просто из того, что ИИ способен обучаться, не следует, что он внезапно изучит все аспекты человеческого интеллекта и превзойдёт нас. Не существует даже простого определения того, что такое человеческий интеллект, и у нас нет чёткого понимания того, как он появляется в мозге. Но даже если бы мы смогли разобраться в этом, а потом создать ИИ, который стал бы более умным, из этого вовсе не следует, что он стал бы более успешным.
Лично меня больше беспокоит то, как люди используют ИИ. Алгоритмы машинного обучения часто считаются чёрными ящиками, и принимается мало попыток разобраться в деталях решения, найденного алгоритмом. Это важный аспект, который часто игнорируется, пока мы больше одержимы эффективностью, и меньше — пониманием. Понять открытые этими системами решения важно, поскольку тогда мы могли бы оценить, правильные ли это решения, и хотим ли мы их применять.
Если, допустим, мы натренируем нашу систему неправильно, мы можем получить машину, обучившуюся взаимосвязям, в общем случае не существующим. Допустим, мы хотим сделать машину, оценивающую возможности потенциальных студентов преуспеть в инженерном деле. Идея, наверное, плохая, но давайте просто для примера, дойдём до её конца. Традиционно в этой области доминируют мужчины, что означает, что тренировочные примеры, скорее всего, будут взяты у студентов-мужчин. Если мы не убедимся в сбалансированности тренировочных данных, машина может сделать вывод, что инженерами могут быть только мужчины, и неверно применить его к принятию будущих решений.
Машинное обучение и ИИ — это инструменты. Их можно использовать правильно или неправильно, как и всё остальное. Нас должен беспокоить способ их использования, а не сами эти методы. Жадность и глупость человека беспокоят меня гораздо больше, чем искусственный интеллект.
