Искусственный интеллект – путь к апокалипсису?
Регулярно вижу алармистские заявления от тех кого быстрое развития технологий пугает с триумфальным шествием по миру chat gpt их кол-во увеличилось. А давайте порассуждаем там ли это опасно, как некоторые пишут.
Примечание: технологий тут будет минимум. Это скорей публицистика/эссе про социально-философские аспекты.
Начнем с частного «Роботы заберут нашу работу». Бедные-несчастные водители останутся без работы
Давайте посмотрим были ли в истории прецеденты, когда появление и массовое внедрение технологий выкидывала с рынка труда целые профессии? Или смещала баланс сил?
Да. Было. И регулярно происходит. В Один экскаватор может десяток землекопов. Появление автомобилей позволило появиться профессии водителя, вполне почетной и престижной, но убило профессию ямщиков, да и по сопредельные сферы связанным содержанием лошадей ударило. Водопровод убил водовозов. Центральное отопление обрушило спрос на трубочистов и печников. Технологии развиваются достаточно давно. Появление новых суммарно дает лучший эффект, но остаются и те кто потерял в деньгах и статусе и кто выиграл. И есть противники –классика это история о луддитов который уничтожали ткатские станки. Даже конкретное внедрение влияет-построили мост на реке- жители раздаться, а погромщик остался без работы.
Возможно возражение: автоматизация на этот раз будет тотальна. И новых профессий не появиться. Но я, хоть и работаю сам в найме, скорей бы проголосовал за такой вариант. Потому что это будет не просто массовая безработица, а смерть капитализма. В рамках земного шара как еденной капиталистической мир системы некому будет продавать выпущенную продукцию, некому оказывать услуги. То есть переход к чему то вроде «безусловного подушевого дохода». Причем, если автоматизация тотальна, то и бизнесмены как организатора производства не очень нужны, машина сделает это оптимальней. Да и функция инвестора не вполне понятно. При рыночной экономики инвестор должен зарабатывать, сберегать, экономист (см Вебер Протестансикая этика и дух капитализма), отбирать лучшие по соотношению риск/доходности активы, выискивать не эффективности и зарабатывать на них (что в пределе приводит к том что она закрывается. В тотальную автоматизацию в обозримом будущем, я не очень верю, но если дойдет до неё то, должна последовать трансформация не меньше чем была при переходе от рабовладельческого строя к феодализму и от феодализма, с Лэнд лордами к капитализму (вспомните, например Вишнёвый сад).
Вторая «громкая» группа, это «Творцы». Мол ИИ на их гениальных работах обучали. Засудить надо создателей этого ИИ.
В ущемлённость их я не очень верю. Причина простая — процент тех кто создаёт что-то принципиально новое ничтожно мал. Посмотрите учебник по истории живописи или фотографии. Сколько там персоналий? А сколько всего было? Большая часть –ремесленники. Сейчас принято у них, ради маркетинга разгонять пафос и относить себя к некой новой элите, но, если почитать классический советский учебник по композиции в фото, автор (Дыко), прямо говорит- мы занимаемся бытовым обсаживанием население. Да –это ремесло. Давайте делать его качественно. Современный «творец» сам является такой же нейросеткой которая изучает долго и подробно работы предшественников. Старается их производить, копировать стилистику и характерные приёмы. Это база. Кто-то потом делают компиляцию из ученного. Ну, а некоторые просто копируют кого то. Причем может быть даже так-фотограф из Мск/спб прошел обучение в США, снимает как там научили воспроизводя стиль преподавателя (как может и умеет). А ещё дает мастер классы. И уже его копируют приехавшие из провинции «творцы». И если уже требывать неукоснительного соблюдения авторских прав и справедливому воздаянию тем кто был первым-то большую часть гонорара любого из них придется отдавать наследникам тех кто открыл, к примеру, линейную перспективу. Или Рембранта-его световая схема до сих пор изучается на фотокурсах. Или Ротченко, который первый начал использовать ракурсы нестандартные (нетипичные для живописи).
Думаю, тому кто способен создавать реально новые ИИ не проблема. ИИ (как конкурент) пока копирует его идее-он уже создал что-то новое. Причем подходящее лучше под ситуацию и запрос задачи. Ну, а судьба ремесленников, их ведь не беспокоит то что пользуясь водопроводом они лишают возможности заработка тех кто мог бы делать на этом денежку.
И важный момент –авторское право появилось недавно. 1886 году Бернская конвенция. По меркам истории- вчера. Причем тут тоже без технологий обеспечивающих технологическую воспроизводимость изменение не обошлось. В 20 веке были звёзды, например, в музыке, который слушал весь мир, и которые зарабатывают сотни миллионов с продаж по всему миру. Некоторые из них на пиратство жаловались? Но живи они до эпохи звукозаписи их знали бы лишь в их городе, максимум –в стране, перебрались бы в столицу и иногда выезжали на гастроли. А деньги бы в других уголках планеты зарабатывали бы тысячи других коллег, возможно менее именитых, но также исполняющих произведения в живую. Аналогично с актёрами, которые глядя на один из эпизодов черного зеркало опасаются что их образ скопируют и они останутся без ролей которые позволяют, наиболее популярным из них, зарабатывать в год в десятки миллионов долларов. Мол права их нарушают. Но это не естественное враждебное право, f продукт установившийся в какой-то момент существующей системе. Которой нужны такие узнаваемые «звёзды» и которая их порождала и вкладывалась в них и их продвижения
И последний повод для опасений –ИИ захватит власть. Мы его не сможем контролировать. Т к более простое существо не сможет контролировать более развитое .К тому же с большей скоростью развития). Но, даже если такое допустить: однозначно ли это негативное событие? Ответ будет зависеть от того, считаете ли Вы нас мир совершенным и как оценивайте успехи человечества в управления им. Или теоретические способности в купе с реальностью воплощения. Последние полтора века мы имеем бурное научно технологическое развития. Но при этом гуманитарно мы продвинулись несильно. В 20 веке мы получили 2 мировые войны + холодную с карибским кризисом. Сейчас вот вновь в конфликте сверхдержав находимся с реальной угрозой перехода у использования ЯО. Причем конфликт то не единственный- посмотрите в Вики список войн за 21 век. Удивитесь кол-ву. Причем скорее есть перспективы к продолжению, тот же Тайвань накачивают оружием-война между китаем и США пока ведётся только в торговой и санкционной плоскостях, но грядущая смена мирового лидера (на который намекает разница в долгосрочная в темпах роста) –может и через такой этап пройти. Второй кризис, когда о ЯО говорят за несколько десятилетий — это уже некоторая статистика. И с долгосрочной перспективе, если ничего не измениться, можно предположить что, например, 7 кризис в 2243 году таки приведёт к грандиозному фейерверку который приведет к смерти большей части населения нашей планеты.
Развитие технологий без соответствующего роста гуманитарной составляющей, по мне угроза более сильное-можно получить примерно такой же результат, как, если дать обезьяне гранату. И это обезьяну не контролировать. При этом есть мнение, что от этологических основ наших родичей по дикой природе, мы не так уж далеко ушли. И нам, даже не смотря на 21 век в голову бьют гормоны не с меньшим эффектом. Только вместо дубины с примотанным булыжником у нас появилась пушка, пулемёт, бомбардировщик сделал зону где погибают люди не локальной (линия фронта), межконтинентальная ракета я ядерной боеголовкой привела к тому что на земном шаре остается очень немного мест где можно себя чувствовать неуязвимым, в случае, если йбольший диди решает выяснить у кого их них дление, толще и крепче ракеты.
Да и успех в использовании технологий сейчас, неоднозначный. Почитайте фантастов 60тых- Раннего Лема, Стругацких, Ефремова. Они думали, что к нашему времени наступит светлое будущее на земле и мы полетим уже как минимум на венеру, а то и на на альфа центавру. Вместо этого мы покупаем каждый год новые айфон с процессором более мощным чем использовался для расчётов ракет в 60тых. И смотрим фотки котиков на экране высокого разрешения и повышенной яркости. Причем и просмотр этот является условно добровольным. Нас дрессируют теми же шортсами на ютуб. Дешёвый дофамин. Заходишь посмотреть обзор по макроэкономиеи и сам не заметил как уже их листаешь кликнув по кликбейтному заголовку. Постоянно быть осознанным и действовать на силе воле и рацио, человек не может. Маркетологи и рекламщики денно и нощно думают, как бы контролировать наше внимание, время и деньги. И свои цели в таком мире уже воплощать не так-то просто. Да и «свои цели» становятся понятием довольно условным- вот карьерист, он целеустремлённый? Подсиживает босса, пашет вечерами, стратегию какую-то имеет. А с позиции директора по персоналу он крайне управляемый. Ему подсунули цель (в интересах бизнеса) и он готов ради её исполнения пойти на любые свои жертвы. К чему это я ? среда становится всё более активной вбирая себя свойство субъекта, а индивид уже становиться объектом воздействия. Всё более тонкого и незаметного (куда там советской пропаганде), с учетом последних ай ти тенденций и биг даты ещё и всё более персонализированного. Производительность труда растёт? Не очень. Советская песенка «вкалывают роботы», а не человек осталась красивой мечтой. Человек продолжил вкалывать, автоматизировать труд, условной, уборщицы сложно и недостаточно выгодной. Того же юриста с более высокой ЗП автоматизировать интересней, а это удар по среднему классу? Равенство? . Нет- наблюдается как раз рост неравенства. См подробней Томаззо Пикети. Меньше стали работать используя технологии? Тоже нет. В результате двух революций в России мы получили переход с труда 12–14–16 часов день с одним выходным (+ детский труд), к привычной 8 в двумя выходными. Во всем мире перешли. А вот дальше- до четырехдневки или до перехода к работе 6, а в идеале 4 часа (в. такое в желаемых планах и печатях было)- никак не переходим. Нигде. Увы. К чем это я? Нет уверенности, что человечество может оптимально использовать даже современные ресурсы и технологии.
Кратко:
1. У нас на мировой повестке при наличии технологий, довольно «сорные» успехи в процветании население земного шарика. Отчуждение не победили «как объяснить, что дом и работа, а настоящая жизнь лишь по субботам», неравенство растёт. Власть корпорации тоже (при том что корпорации продукт всё таки капитализма, а не технологий). Потеря человеком субъектности, с ростом активности (и субъектной) внешней среды. И с риском устроить ядерный холокостинг © Пелевин. Для население планеты И на изюминку «отказ от больших нарративов». Т.е. куда идти нам, как человеческой обществу не очень понятно. Последний крупный утопически просвещенческий проект (в смысле духа просвещения как эпохи в философии с желанием построить лучший и более разумный мир) — это был СССР. Технологии растут стремительно, а производительность труда нет. И жизнь улучшения жизни людей отстаёт. Что современный человек становиться более свободным, чем пол века назад- тоже не наблюдаю. Находясь в такой ситуации, мне кажется, поводов бояться изменений не так много.
2. Значительная часть протестов и опасений- даже если рациональна по форме, антитехнологична по риторике, но по истокам борьба за статус кво и свои интересы. И тут уж каждому самому решать –устраивает ли текущий статус кво. Вы олигарх не склонный к рефлексии со своим частным остовом- вероятно устраивает. Ребёнок в Бангладеш шьющий одежду для модного европейского бутика-будет иметь явно другой взгляд
3. Думаю, будущее о котором говорят и дальше и ближе от нас одновременно. В разных смыслах. Диабетик с инсулиновой помпой и в очках- в некотором роде уже киборг. Не может он без этих продуктов технологий. Да и компьютер стал обходить человека «в чем-то» довольно быстро-как минимум скорость счета. Первый компьютер ENIAC мог совершать за секунду 5 тыс операций сложения- не одному счетоводу такое не снилось. С другой стороны до сильного и универсально ИИ от частностей как до луны. Мы пока для себя ещё не поняли, что такое интеллект, о сознании философы веками спорят. То есть, даже ТЗ четкое написать на разработку сильного ИИ мы не можем. К тому-же оптимизм нынешний, мне кажется, через чур эмоционально ангажирован. И в прошлом такое было- см Универсальный решатель задач –в 57 году разработали. Но выяснилось, что не слишком универсальный- часть задач на понятном ему наречии опишешь, а для части быстро наступит комбинаторный взрыв. Была программа психотерапевт «элиза» (66 год) которой восхищались некоторые психологи, но она была проста как 2+2. А потом была и зима ИИ. Такие циклы случаются. Что текущий последний и за ним последует прорыв- вероятность не слишком велика. Хотя я лично и был бы рад этому.
4.Идя в сторону сильного ИИ, а тем более технологической сингулярности (см Рэй Курцвейл) мы открываем ящик пандоры. Но повод, думать, что «новый мир» будет хуже старого, явно не больше, чем полагать, что он будет лучше. Мы ведь живя в городе и работая в офисе, обычно, не сожалеем о мире в котором мы были бы крепостными крестьянами (или рабами на плантациях). Даже, предположив, что сильный ИИ будет создан, что человечеству не удастся удержать контроль над ним, не смотря на планы Ника Бостома бомбить датацентры- это не будет значить ровным счетом ничего, кроме того что мир будет иным
