Чего на самом деле стоит опасаться в AI?
Ах, ты моя прелесть. Как же на тебя не посмотреть, как на какашку?
Давным-давно, в далёком-предалёком городе Харькове было мне 7 лет. В те времена я впервые в жизни увидел новое чудо техники — VHS плеер. В руках у меня была моя первая в жизни кассета. Мне было не очень важно, что я смотрел. Был важен сам факт того, что мне удастся посмотреть что-то в записи. Не зная, какая судьба мне уготована, я засунул кассету с намалёванной ручкой надписью: «Терминатор-2» в магнитофон.
Говорят, что у детей то ещё воображение. И воображать они умеют лучше взрослых. Не знаю почему, но лучше всего я запомнил сцену, в которой Лос-Анджелес бомбардируют ядерными боеголовками. Я был в паническом ужасе, тихо сидел перед «видаком» и перематывал плёнку назад, чтобы ещё раз увидеть эти, казавшиеся тогда такими страшными кадры.
После того, как я очухался, я начал спрашивать взрослых о том, что я только что видел, когда это произойдёт, и по чьей вине это случится. На меня фыркали и говорили, что беспокоиться не стоит.
И были правы. Я повзрослел. «Терминатор-2» перестал быть просто страшным фильмом, и превратился в шедевр, который я помню с детства. А страх по поводу искусственного интеллекта перестал меня беспокоить, сменив себя страхом перед человеческим интеллектом.
И действительно, чего тут бояться? Автоматических ядерных бомбардировок? Дронов-убийц из антиутопических роликов на YouТube? Очередного спин-оффа того же Терминатора? Или, что ещё хуже, ужасного ребута Робокопа? Нет, будущее не заселено ходячими киборгами-убийцами, несмотря на все попытки Киану Ривза и Харрисона Форда показать нам Ноябрь 2019 го года.
А как так вышло, что давным-давно, в далёкой-предалёкой галактике не существовало никакого искусственного интеллекта, за исключением дронов, напичканных шестерёнками? Да и в далёком будущем через 20000 лет, если верить Фрэнку Герберту, за создание искусственного интеллекта будет полагаться смертная казнь.
А жизнь, тем не менее продолжается. Жизнь, она вот прямо здесь и сейчас. И народ тихо начинает выходить из себя, потому что уж слишком много у нас получается этого AI. И мы всё никак не можем договориться о том, что же с ним делать. Кто-то говорит, что его надо искоренить, а вот Марк Цукерберг заявляет, что нет ничего лучше, чем научить тот же AI работать лучше.
Вот вам другая точка зрения. Когда я спрашивал своих друзей об этой точке зрения, то я выяснил, что большинство людей об этом как-то странно догадываются, но редко выражают это вслух.
Ваша главная ошибка в том, что Вы думаете, что компьютеры умеют думать
Посиковики по запросу «Думающий робот» выдают только этого типа. Они наверное все сговорились. Или просто AI тупит безбожно.
В английском языке есть такое замечательное слово «misnomer». На русский оно переводится как «неправильное употребление слова». Давным-давно, когда только прогревались первые лампы в ENIAC или UNIVAC, американские вояки, которые эти компьютеры построили в 45-м году, решили назвать свои детища «Электронными мозгами».
И вот тут вот пошла кутерьма и полный хаос. Никто, в принципе, в те стародавние времена и понятия не имел о том, как работает мозг. Собственно говоря, даже сейчас никто ничего про это нормально рассказать не может. У нас есть нейроны, они вместе сплетаются, и получаешься ты, Вася Пупкин. Ну, мы так думаем. Когда ты думаешь, у тебя в мозгу проходит электричество. А когда ты не думаешь, у тебя его нет. Тут ещё прикол в том, что ты в мозг запоминаешь. Но мы не знаем, как. Наверное, как-то сплетаются нейроны. Если посчитать эти нейроны, то выходит, что мы не знаем, как вообще можем что-то запомнить. Кстати, тут вот ещё что. Есть такие люди, которых пальцем по голове стукни, и они себя забудут. А есть и такие, которым пол-мозга секирой оттяпай, и всё будет хорошо.
Нет, серьёзно. Давайте мы не будем говорить, что мы полностью понимаем, как работает мозг. Понимаем в том же смысле, как мы понимаем работу сердца. У нас есть 4 камеры. Кровь попадает сюда, течёт отсюда — сюда, вот вам систолическое давление, вот вам диастолическое давление. Если всё совсем плохо, мы можем установить на сердце кардиостимулятор. Мы в общем, понимаем, как оно работает. Но, команды сердцу приходят из мозга, а вот за это мы не берёмся отвечать. Это та часть мозга, которая неподвластна человеку. Её контролировать невозможно. Разве что, только ты не какой-нибудь индийский маг. Они умеют, но им многое можно.
Да, у нас есть нейро-интерфейсы, мы можем делать томограммы и вырезать опухоли. Мы знаем, что без мозга Вася Пупкин не жилец. Но мы не знаем, как он на самом деле работает.
Почему? Потому что мы не знаем, как взять и сделать новый мозг.
Если мы знаем, как работает советский радиоприёмник «Радиотехника», мы понимаем назначение всех его деталей и можем собрать новую «Радиотехнику». Мы можем починить «Радиотехнику». Можем построить «Радиотехнику» на транзисторной микросхеме из Китая, на транзисторах и на добрых тёплых лампах. Это значит, что мы действительно понимаем, что такое «Радиотехника», и как этот приёмник работает.
Мозг? Нет. У нас есть подозрения, но мы пока не уверены. В 1945 году мы вообще и понятия не имели о 90% информации, которую мы знаем про мозг сейчас.
И вот, располагая такими знаниями, кто-то приходит и говорит: «А знаете, дорогие сэры, я так подумал, нам надо эту штуку назвать «Электронным мозгом»!
«Misnomer». Неправильное использование слова.
И всё бы ничего, но кто-то повёлся. Раз в названии присутствует слово «мозг», то компьютер — это мозг. И понеслось. У нас есть программисты, которые понимают, как работают компьютеры, а есть какие-то сектанты, которые пытаются воссоздать мозг, в надежде сделать его живым и мыслящим самостоятельно.
Давайте разложим некоторые вещи по полочкам
AI решил, что это — самая подходящая картинка для этого заголовка. Наслаждайтесь визуальной репрезентацией пузырьковой сортировки.
Итак, начнём с определений.
Для начала, опустим то, что написано в Википедии. Это больше напоминает ужас, летящий на крыльях ночи.
Давайте лучше, обратимся к словарю Merriam-Webster.
Full Definition of artificial intelligence
1: a branch of computer science dealing with the simulation of intelligent behavior in computers
2: the capability of a machine to imitate intelligent human behavior
Полное определение словосочетания искусственный интеллект:
«Отрасль компьютерной науки, занимающаяся симуляцией разумного поведения в компьютерах.
Способность машины имитировать разумное человеческое поведение».
Больше нам не надо ничего выдумывать. Вот Вам и ответ на вопрос, что такое AI. Это имитация человеческого поведения машиной. Если у Вас появились какие-то идеи о том, что это как-то связано с созданием жизни — пойдите посмотрите определение слова «имитация».
Соответственно, первая программа по игре в шахматы может называться AI. Криворукая, но всё же имитация.
Теперь, имея это определение под рукой, мы можем перейти к более узконаправленным определениям. Например, мы можем посмотреть на понятие машинного обучения:
Definition of machine learning
The process by which a computer is able to improve its own performance (as in analyzing image files) by continuously incorporating new data into an existing statistical model.
The branch of computer science dealing with the creating and use of computer software that employs machine learning.
В переводе на русский:
Процесс, с помощью которого компьютер способен улучшить производительность (как например в распознавании графических файлов), путём постоянного добавления новых данных в уже существующую статистическую модель.
Отрасль компьютерной науки, занимающаяся разработкой и внедрением программного обеспечения, использующего машинное обучение.
И так, машинное обучение — это просто добавление данных в статистическую модель. Что мы получаем на выходе Вашей ML сети? long значение в диапазоне от 0 до 1. Вы либо смотрите на собаку, тогда это .999 собака, либо вы видите котика. Это будет .998 котик. Или, если система очень уверена в себе, Вы можете получить 1 собаку. Это 100% собака на картинке, зуб даю. Усложнение подобных алгоритмов позволяет создать интересные вещи. Например, мы можем заставить компьютер играть в «Mario». Или складывать фигурки в тетрисе. Позиция 1 хороша на 10%, а позиция 2 хороша на 78%.
А дальше как в «Футураме»:
— Красиво, неправда-ли?
— Конечно, но это всего лишь 93% от твоей красоты.
— О, Бендер! Это либо ошибка в вычислениях, либо ты — самый романтичный робот, которого я когда-либо встречала!
Любовь зла — полюбишь и Бендера.
Ну, можем для красоты душевной, посмотреть на «Neural Network».
A computer architecture in which a number of processors are interconnected in a manner suggestive of the connections between neurons in a human brain and which is able to learn by a process of trial and error.
Компьютерная архитектура, в которой процессоры (вычислительные ядра) соединены между собой тем же способом, подобным тому, как соединяются нейроны в человеческом мозге. Подобная архитектура способна обучаться методом проб и ошибок.
Итого: У нас на руках архитектура, в которой мы соединили процессоры определённым образом, и можем делать на ней «machine learning».
Опять же, ничто из вышеописанного не предполагает наличие заменителя мозга или интеллекта.
Ну и на что ты жалуешься, автор?
На то, что мы любим сжигать на кострах ведьм и играть в охотников за приведениями. Возможно, из-за наличия большого количества научной фантастики, а возможно потому, что мы чего-то недопонимаем, мы начинаем приписывать человеческие чувства машинам.
И я не говорю о том, что мы пытаемся создать систему, которая будет выносить суждения о запуске ядерных боеголовок. Нет. Мы такой глупости не сделали.
Вместо этого мы делаем другие глупости.
Мы доверили AI наши эмоции и способность выбирать.
Каждый раз, когда мы свайпаем вверх в «Тик-токе», ставим «лайк» в «Инсте», или крутим ленту в «Фейсбуке», мы доверяем искусственному интеллекту в выборе следующего материала для того, чтобы мы могли себя чем-то занять.
Что-то, что всегда было уделом человеческих решений, было отдано на откуп компьютерам. Потому что мы просто физически не сможем правильно обработать такое количество информации.
В старые добрые времена у нас были барды, шуты, сказочники, заводилы и тому подобные люди. Их задачей было нас развлекать. Когда такой человек выходит на сцену (или начинает говорить в кругу друзей) он в состоянии анализировать атмосферу и понимать, что происходит. Если он ляпнет что-то невпопад, то он может проанализировать ситуацию, подумать о ней и, основываясь на своём опыте, вынести решение о том, что сказать дальше.
Если Люде не понравилась шутка про розовые штаны и единорога, то хороший рассказчик вспомнит, что Люда — она вредная, но Люде нравятся котики. Посему он переключит тему на котиков. И всё может пойти на лад.
Когда наш Алгоритм предлагает нам следующее видео для просмотра, это не Ваш лучший друг, который может Вас понять и простить. Его задача — это не сделать так, чтобы Вы чувствовали себя лучше. Его задача — сделать так, чтобы Вы оставались дольше на сайте. И вот, Ваш взгляд задержался на каком-то странном видео, и Алгоритм уже принял решение о том, что такое хорошо, и что такое плохо. Через три часа Вы находите себя в болоте каких-то странных видео о смерти животных на дорогах.
Не поймите меня неправильно,
В самом AI нет ничего плохого. Если только Вы принимаете «его» за того, кем «он» является. Это — компьютерный алгоритм. Последовательность действий для нахождения результата. В данном случае результат не будет чётко определён, но такова цель AI. Найти наиболее возможно правильный результат из наиболее возможно правильного набора данных.
Что влияет на работу AI? Входные данные и модель. Кто тренирует эту модель и собирает данные? Человек.
За любым устройством всегда стоит человек.
Машина никогда не сможет быть причиной чего-то нового. Причиной чего-либо вообще в жизни является кто-то, а не что-то. Даже если кто-то строит машину, которая «думает» и «создаёт более совершенную машину», это происходит потому что кто-то создал машину, создающую машины.
А дальше, перед Вами ситуация с огнестрельным оружием. Дайте в руки двух людей пистолеты. Первый человек будет закалённым бойцом, который стрелял из сотен различных видов оружия. Второй пусть будет пацаном, который ничего про оружие не знает, но смотрел фильмы про братков.
Первый, скорее всего, поставит пистолет на предохранитель, и уберёт от греха подальше. Второй прострелит что-нибудь. Первый человек знает, что он сделал, что находится у него в руках и как этим пользоваться. Первый человек — ответственен за то, что у него в руках. Второй человек пристрелит соседскую кошку и скажет: «Я не виноват, оно само».
Намного лучше будет аналогия с автомобилями. Вы видели того самого закалённого водилу, который спокойно сидит в пробке. Он знает, что если сейчас рыпнуться, то только потеряешь время и бензин. Он знает как работает машина и как происходить движение. Его машине уже 10 лет, но на ней нет ни царапины, и мотор работает как полагается. В нём всегда достаточно свежего масла. И клеммы аккумулятора вычищены до блеска.
С другой стороны у нас есть стандартная фефа, которая заливает масло в воронку для стеклоомывателя.
Первый человек — это та странная, вымирающая порода профессионалов своего дела. Это такие люди, которые могут быть ответственными за результат своих действий. Вторая порода — это наши программисты-самоучки, которые посмотрели курс «Как писать нейронки за 3 часа на «УouTube».
Ответственный программист сядет, и будет использовать нейронную сеть для восстановления замутнённых изображений. Второй человек будет писать чат-бота, чтобы поднять настроение себе и знакомым.
В чём разница?
Первый — понимает, что AI — это просто алгоритм, который позволяет эффективно решать задачи с неопределённым ответом.
Второй — думает, что AI — это какое-то сознание, которое принимает решения лучше человека.
AI не принимает решения лучше человека
Ещё одна картинка, найденная поисковиками на основе текста этой статьи.
Он их принимает быстрее человека. В определённом наборе данных, хорошо обученная сеть может найти наиболее правильный ответ намного продуктивнее человека. Обработка массива с более чем тысячью параметров — это что-то, что займёт у Васи Пупкина 200 лет на ручные подсчёты.
Способность быстрой сортировки изображений, выполнение определённых инструкций, или даже вождение автомобиля — это то, с чем AI будет отлично справляться. У нас есть определённый объём строгих правил, ограничивающих область деятельности, и в этом объёме мы можем научить наш AI принимать решения на основе полученных данных из окружающей среды.
Знаете, чего AI не сможет сделать? Он не сможет создавать. Он не сможет начинать новые идеи. Алгоритм, который выполняет определённые действия для получения конечного результата не сможет в один прекрасный момент сам себе сказать: «Да пошло оно всё! Уеду, господа, в Ватутинки, и провались оно всё пропадом. Построю дом, буду морковь выращивать!».
А если Вы наивно полагаете, что AI сможет сделать что-то подобное, потому что кто-то только что написал AI который создаёт новые произведения искусства, то это Вы глубоко заблуждаетесь. Потому что кто-то написал этот новый AI.
Для создания чего-то нового нам нужен ты — человек абстрактный. Человек, который может делать невероятную вещь, не подчиняющуюся никаким законам физики. Человек может взять мысль из ниоткуда. Она просто появляется и существует. Из пустоты.
У нас в мозгу нет генератора случайных чисел. Нам не нужно сливания манны небесной по протоколу HTTP, чтобы внезапно подскочить и сказать: «О! Прикольно! Знаешь, что я придумал?».
И, честное слово, Вы не знаете, как это работает. Нейрохирурги не знают, как это работает. Психологи не знают, как это работает. Это просто работает. Поэтому мы, как инженеры, можем спокойно оставить это в стороне. Это не в области нашей компетенции. Оно работает, и пусть себе работает.
Но, мы как инженеры, должны понимать, что же находится в области нашей компетенции.
Алгоритмы искусственного интеллекта хорошо подходят для автоматизации задач, которые невозможно автоматизировать чётко описанной последовательностью действий. Обработка изображений, выявление аномалий, анализ цен и производительности — это то, чем нам стоит увлекаться, тренируя AI.
Но, вот определённые вещи искусственному интеллекту не по зубам. Возможность предлагать, что мне стоит посмотреть после того, как я закончу просмотр всей «Игры Престолов», я лучше оставлю своим друзьям. Ответ на вопрос: «Что мне лучше подойдёт к тёмным штанам, серая или белая футболка?» — это вопрос, на который могут ответить только три человека в моей жизни.
И в чём же проблема?
В английском языке есть такое замечательное имя Karen, которое используется для всех недалёких мамаш. В русском языке есть эквиваленты. Можно вспомнить классику — Эллочку.
Проблема в том, что с помощью AI можно не брать ответственность за свои поступки. И люди этим пользуются для прикрытия своих же недостатков.
Помните, я говорил о профессионалах? Моя бабушка была архитектором. Всю жизнь она провела перед листом ватмана с логарифмической линейкой в руках. Сопромат она знала так, как мне и не снилось. Когда она заходила в модную новостройку, она всегда критически осматривала несущую конструкцию, и несколько раз при мне высказывала своё мнение. «Вот это будет держать» или «Интересное решение, но, наверное, стоило бы поставить что-то потолще».
Профессионал своего дела отличается от непрофессионала тем, что он может достичь результата, которого от него требуют.
Если Вы профессиональный архитектор, Вы должны уметь проектировать устойчивые конструкции.
Если Вы — профессиональный программист, то Вы должны уметь писать хороший, устойчивый, оптимизированный код, который даёт ответы и не падает.
Если Вы — адвокат, от Вас потребуют правильного совета и ссылок к текущему законодательству, которое позволит разрешить существующие разногласия.
Если Вы — оперный певец, то Вам следует уметь взять нужные ноты в нужное время и делать это правильно.
Профессионалы могут сделать своё дело и гордится этим.
Люди, которым до этого далеко, будут выдумывать отговорки, почему они не могут написать код или спеть до-диез в третьей октаве. И вот тут на помощь пришли нейронные сети и AI.
Мы получили данные по рынку от этой модели, но они были неточными, поэтому у нас продажи рухнули.
Мы не смогли правильно ограничить содержание интернет-постов, и у нас вся социальная сеть внезапно наполнилось пропагандой наркотиков.
Судя по всему, кто-то не умеет делать свою работу. И прикрывается нейронкой, потому что винить компьютер очень просто. Компьютер не ответит на обвинения. Его всегда можно будет начать переучивать. Прикол-то в том, что что-либо может происходить только благодаря человеку. Компьютер ничего нового не сделает.
Только вот Ваша работа от этого лучше не станет. А начальство ведётся. Так удобно обвинять алгоритм. Он не сработал, давайте все сядем, и будем переделывать алгоритм.
И вместо того, чтобы устроить разнос отделу продаж, и заставить людей в этом отделе решить их проблемы, и начать-таки продавать продукт, мы будем сидеть и писать новый алгоритм, который и так уже применяется не там, где надо, и который от этого переписывания лучше стать не может.
Ну, и добро пожаловать в наш Дивный Новый Мир!
Когда у нас что-то не получается, мы пихаем туда без разбора AI. А если он не работает, то мы будем выкручивать гайки этому AI. А после этого мы будем ходить в Конгресс США, Палату Представителей в Великобритании или Парламент в России, чтобы оправдываться и рассказывать о том, что мы нашу социальную сеть учили обезвреживать террористическую пропаганду, а получилось, как всегда.
Компьютеры не умеют принимать человеческие решения
Не веришь? Тогда иди и съешь ещё этих мягких французских тортиков, да выпей чаю.
А для того, чтобы создать, «Начало» или «Довод» Вам потребуется Кристофер Нолан.
И как будет выглядеть конец нашей цивилизации?
Мы просто отгородим себя от принятия ответственности за что-либо вообще, путём установки AI на всё что только можно.
Я уже представляю себе такой бред, как AI система правосудия. Где Вы понятия не имеете, по какой причине принимаются решения. У Вас будет AI система, которая будет Вам говорить, как правильно проводить время. Не то, как Вам хочется проводить время, а как время проводит среднестатистический человек.
У нас уже есть AI система, которая говорит всем, какой фильм надо смотреть. Поэтому все толпами прут на последние «Звёздные Войны», которые просто являются набором сцен, сгенерированных на основе Big Data, собранных со всех фанатов. И при этом, никто не знает о «Королевство Полной Луны», замечательной комедии, в которой Брюс Уиллис и Эдвард Нортон играют двух папаш, которые озабочены судьбой одного сироты.
У нас есть AI системы для прослушивания музыки, которые несомненно приводят нас к списку наших любимых композиций, или, ещё лучше, списку композиций, которые лучше всего продавать в данный момент.
У нас уже есть AI система, которая говорит нам, в кого надо влюбляться, и как надо вести переписку.
У нас есть AI система, которая позволяет нам найти лучших кандидатов для работы. Поэтому в топ несомненно вылезают кандидаты с именами порно-звёзд в резюме, поскольку резюме SEO-оптимизированы.
И не так далёк тот день, когда мы можем перестать нести ответственность за свои жизни, и отдадим их на растерзание Алгоритму. Вам не понадобятся никакие T-1000, или роботы-осьминоги. За вами никто не придёт. Вас пригласят. В руках у вас появится рекламный буклет, который будет говорить о том, что жить во вселенной Meta намного удобнее. Вам продадут идею о том, что вам не важно, какой у вас есть дом. Вам можно просто загрузить дом, который вам предложит Алгоритм. Он-то знает. А вы уже не знаете, потому что отучились принимать решения сами.
Запомните, компьютеры работают с количеством. Они умеют отвечать на вопросы «Как много», «Насколько быстро», «Насколько сильно». Количественные ответы — это те ответы, которые хорошо обрабатываются различными моделями.
Компьютеры не могут ответить на вопросы «Насколько красиво», «Как Вам нравится» и «Как Вы считаете».
Не будьте на 93% лучше Бендера Родригеза.
TL; DR
AI — это просто аглоритм. Он выполняет поставленную цель. Несмотря на все усилия определённых людей он всегда будет имитацией человека.
Проблемы начинаются, когда не слишком далёкие дилетанты прикрываются AI и, ввиду своей необразованности и неспособности делать что-то, просто перекладывают всю ответственность за какую-то область деятельности на AI.
А после мы не можем свести концы с концами.
Мне важно ваше мнение
Я работаю над проектом, который я называю «Восстание Человеков Против Машин». Мне важна ваша точка зрения. Автору самого заплюсованного коммента по теме — тык в карму и деньги на пиво в пейпал.
PS. Вчера я общался с одним из моих редакторов. Внезапная проблема была в том, что существовал текст в 6000 символов. А надо было 10000 символов. Системы авто-генерации ничего нормального выдать не могли. Я дописал недостающие 4000 символов за 20 минут.
Этот текст, в 22000 символов я написал за 2.5 часа. У меня просто появилась идея, написать текст об AI, и я его написал.
Я не верю в системы AI генерации текста. И если Вы хотите писать статьи, то я рекомендую Вам тоже в них не верить.
PPS. Сразу после того как опубликовал это, увидел новую статью от @xlebanet https://habr.com/en/post/586794/. Ещё один пример того, как всё может пойти неправильно.
