Повелитель мух
Поводом написать эту небольшую заметку явилась недавняя статья про открытие рейтинга пассажиров в Яндекс.Такси. Однако стоит заметить, что дело не только в Яндексе, не в сфере транспорта и даже не в российских реалиях. Мы как человечество, как цивилизация уже некоторое время стоим на краю пропасти. Или, может быть, перед огромной стеной. Но ведём себя как дети, которые совершенно не задумываются о последствиях. И кому, как ни нам, представителям IT-сообщества, тем, чьими руками делается цифровизация, начинать говорить об этом всерьёз.
В заголовке и КДПВ не зря есть отсылки к войнам. Напоминаю, в романе Годинга «Повелитель мух» дети в военное время оказываются на острове и уже там начинают войну сами с собой. Картинка же — из позднесоветского (а значит, жестокого) фильма «До первой крови», тоже про войну детей друг с другом, которая началась как обычная «Зарница» в пионерлагере.
Прочитав статью про рейтинги Яндекса, нельзя не отделаться от ощущения, что страта пассажиров давно и со вкусом воюет со стратой перевозчиков. И наоборот. Взаимная ненависть, подозрения, готовность конфликтовать. Масла в огонь подливают новости: нет дня, чтобы водитель такси-агрегатора не намотал машину с пассажиром на столб или въехал под Камаз. Пассажиры тоже не отстают: эталонная городская выскочка Яна «Вези меня мразь» Данькова стала олицетворением особого класса потребительских террористов, людей, которые делают жизнь работников сферы услуг невыносимой.
Что происходит? Почему люди воюют друг с другом?
Оставим досужие сплетни о «генетическом вырождении», «влиянии соцсетей» и прочую субъективщину бабушкам у телевизора. Давайте посмотрим в корень.
Мы, люди, как вид отличаемся крайне высокой приспосабливаемостью и изобретательностью, когда дело касается взаимодействия с внешним миром. Наш выдающийся мозг даёт нам колоссальные возможности продолжать свою деятельность в самых разных условиях. По меркам мира животных мы практически мгновенно преобразовали планету, достаточно сильно изменили социум.
Но в самом социуме есть люди, которые создают условия для других, и те, кто вынуждены подчиняться. Современный мир цифровых услуг пришёл к нам незаметно, в ходе естественного развития технологии. Он просто даёт экономические преимущества агентам рынка, и поэтому наступление цифры отменить совершенно точно невозможно. Но из обычной конкурентной гонки выросло нечто большее. Цифра стала активно менять социум, приходить туда, где может быть очень больно и неуютно. Мало того, похоже, никто в самой «цифре» не задумывается о настоящем размере последствий своих шагов.
Комментаторы под статьёй про рейтинги Яндекса возмущаются: мол, как это так, они будут выставлять мне оценки, когда я уже заплатил за услугу! Человеческое возмущение абсолютно понятно и естественно. Но для бизнеса все эти оценки — лишь способ собрать некий «объективный» портрет вас как экономического агента. Чтобы продать вас… простите, то есть информацию о вас наиболее выгодным для него, бизнеса, способом.
По мере развития капитализма бизнес сначала старался удовлетворять потребности потребителя. Потом настала эра маркетинга, и потребности стали активно формироваться. Так бизнес кое-как, но научился справляться с кризисами перепроизводства. Теперь же новая веха: вам уже не только навязывают потребности, но и предсказывают ваше поведение, ваш потребительский портрет, чтобы не тратить лишние силы на рекламу или производство чего-то, что вы предположительно не купите. Людей стали упаковывать в некие невидимые коробки, каждая из которых будет положена на свою полочку, чтобы в определённый момент времени можно было достать её и употребить предсказанным способом.
Но сама логика оцифровки человеческого поведения, человеческих отношений глубоко ущербна. Некоторые из нас, технарей (я сам программист) в какой-то момент решили, что всю сложность человеческого поведения можно описать конечным набором алгоритмов, вывести некие «лучшие практики», а за остальное просто банить. Благо, людей много, а крупные цифровые монополии взаимодействуют практически с каждым. Ну, если такой алгоритм написать невозможно, поможет искусственный интеллект, вскормленный на бигдате. Собственно, этим так грубо и беспардонно и занимается Яндекс (и любой другой сервис-агрегатор услуг).
Смотрите. Он ставит некую задранную планку (таксистов, как было сказано, за среднюю оценку 4 банят в системе). То есть если много людей оценили вашу работу как «хорошо», то «вы нам не подходите» (WHAT???!). Кстати, мне очень понравился вот этот грамотный комментарий про задранные оценки в сфере услуг вообще. Как можно предположить, логика агрегатора такая: водитель будет стараться работать как можно лучше, чтобы быть не просто хорошим, а отличным. Агрегатора как систему не интересуют судьбы отдельных людей. Возможно, какой-то нормальный водитель отказался везти пьяного скота или хама и получил за это кол в карму. Агрегатору не интересно разбираться в каждом конкретном случае — это очень дорого (требует подключения живых людей, расследования, выслушивания сторон). Агрегатор работает с её величеством Статистикой.
Агрегатор делает некое предположение, допущение, на базе которого строит свою модель взаимоотношения с потребителем. Модель может быть кривая, косая, не адекватная местной культуре или обычаям — агрегатор в следующей итерации изменит её. А что с теми людьми, которые пострадали от старой и теперь не могут никуда уехать на такси (или взять заказ), ставшие фактически изгоями? — Да ничего! Как поётся в одной русской песне, ну вальнул не тех лосей извиняюсь гоу жрать ©
Цифровой экономике интересен некий усреднённый человек. Любая модель всегда строится в границах допущений, и чем эти допущения уже, тем точнее предсказания, соответственно, выше маржа цифрового бизнеса.
Кстати, потребители возмутились только сейчас: как это так, рейтинг потребителя? Но почему-то мало кто громко говорит о другом: та же политика цифрового агрегатора выдавила из отрасли прежний контингент (не всегда адекватный в общении с пассажирами, но тем не менее хотя бы с российскими паспортами), и теперь за рулём баранки сидят самые нищие, необразованные мигранты, не имеющие возможности полноценно отдыхать, часто даже не знающие языка. Всего лишь настройки системы, всего лишь изменение кое-каких коэффициентов оплаты и механизма заказа — и вот уже целая отрасль поменяла лицо (простите за каламбур). Аварийность с участием машин такси растет угрожающими темпами: в России за десять месяцев число ДТП выросло на 60% по сравнению с тем же периодом прошлого года, в Москве — на 70% (https://www.kommersant.ru/doc/4179622). Как тебе такое, Илон Маск?
Люди давно придумали законы. Их количество растёт вместе со сложностью устройства экономики и социальной сферы. Но принятие законов имеет определённую процедуру, общество выдаёт мандат на право менять законы для себя. Потом, любой человек, получивший хотя бы школьный минимум гуманитарного образования, знает, что далеко не всё подпадает под закон. Есть обычаи, устоявшаяся мораль, модели поведения, контекст, в котором можно вести себя так или иначе. С пошлыми матросскими шутками не приходят на собеседование или на знакомство с родителями невесты, но надо ли вообще карать за каждый случай употребления мата? Человеческий мир бесконечно сложен, чтобы можно было описать его формальными требованиями. Не зря есть такое понятие, как «уставщина»: жить строго по букве закона можно, но недолго.
Понятия о том, что хорошо или плохо, появляются в процессе самой жизни, общения людей между собой. Люди оставляют друг другу возможность доказать, отстоять свою позицию: обычный разговор глаза в глаза, помощь авторитета силы или мнения общества, наконец, суд. Практически ничего этого нет в цифровом мире: тебя просто банят за слова, сказанные три года назад (как это часто любит делать Фейсбук) или отключают от возможности делать/принимать заказы (как это делает агрегатор). Де-факто, в силу занимаемого положения, цифровые агрегаторы уже стали монополистами, этакими прокси-министерствами. Однако никаких рисков за неизбежные ошибки в своей деятельности они не несут. «Наша программа не может ошибиться, потому что ваш рейтинг — результат голосования тысячи человек». Но кто ответит за настройки этого голосования? Насколько адекватны ваши метрики?
Рейтинги ещё более-менее адекватно работали при оценке товаров (и тот же Яндекс.Маркет дал не без изъянов, но вполне действенный способ выбирать хороший товар или хороший магазин). Но как можно оценивать целиком других людей, используя лишь лайки и звёздочки?
Понятно, вопросы сейчас выглядят риторически. Но ведь это уже работает и меняет жизни тысяч людей!!! Сейчас программисты возмущаются, мол, как это какой-то там нерусский таксист будет оценивать его, пассажира, поведение. Но подумайте над тем, что ваш кредитный рейтинг или возможность устроиться на работу вообще будет оценивать некий алгоритм на основе обобщения информации о вашем поведении в сети. Шанс стать никем в такой системе немал, а ещё меньше шансов вернуть себе обратно свою жизнь, если окажется, что программа всё-таки ошиблась.
Цифровые агрегаторы, делая бизнес на взаимоотношениях между людьми, произвольно обращаются с нашими устоявшимися практиками, представлениями о должном. Вламываясь в самое сложное и вместе с тем самое хрупкое, они думают только о квартальных и годовых прибылях, росте акций. Нужно ли нам такое цифровое будущее, где все мы, люди, лишь источник статистики для манипуляций с целью повысить прибыль и снизить издержки? И нужно ли нам выплёскивать свой гнев на тех, кто временно оказался чуть ниже по социальной лестнице, вести войну с себе подобными, в этом огромном и странном эксперименте по игре с коэффициентами? А самое главное, как нам остановиться и развернуть эту машину в нужную сторону?
Простых ответов нет. Но думать и что-то предпринимать надо уже сейчас. Пока мы все не выставили друг другу единички в рейтинге и не устроили бессмысленный бунт всех против всех.
