Нейросеть Uber распознает пользователей приложения в «необычном» состоянии
7 июня 2018 года компания Uber Technologies, Inc. подала заявку на патент США № 20180157984 под названием «Прогнозирование состояния пользователя с помощью машинного обучения» (Predicting user state using machine learning).
Патентная заявка описывает самообучающуюся систему (нейросеть), которая постоянно отслеживает, как конкретный человек использует приложение Uber — и идентифицирует поведение, необычное для этого человека. Система обучается по ряду входных сигналов, в том числе:
- количество опечаток в тексте;
- точность нажатия на ссылки и кнопки;
- угол наклона устройства;
- скорость ходьбы (вероятно, данные снимаются по GPS);
- скорость ввода данных;
- день недели и время суток;
- адрес пассажира.
Хотя в патентной заявке не говорится о конкретной цели применения системы, но исходя из параметров обучения нейронной сети можно предположить, кого конкретно она должна выявлять. Судя по всему, речь идёт о выявлении сильно пьяных пассажиров.
В патентной заявке приводится таблица с примерами различных значений входных данных — и результата, который выдаёт система в графе «Идентификация необычного состояния пользователя» (1 или 0). Возможно, Uber уже действительно опробовал модель машинного обучения — и в патентной заявке указаны реальные результаты её работы.
Результаты в таблице действительно похожи на результаты работы настоящей нейросети, потому что они не всегда очевидны. Например, пользователь № 5 набирает данные быстро и точно, при этом передвигается со средней скоростью. Но система всё равно приписывает ему «необычное» состояние (результат 1). Вероятно, большой вес имеет время вызова и день недели (суббота, 1:38 ночи). Другими словами, в субботу в такое время очень трудно доказать нейросети, что ты трезвый.
Если систему внедрят, то при получении заказа водителю в качестве сопроводительной информации может выводиться предупреждение, что заказ потенциально поступил от пассажира с «пониженной адекватностью». Соответственно, водитель может или согласиться на такую поездку, или отказаться от неё.
Можно предположить также, что компания попробует внедрить специальный повышенный тариф для перевозки пьяных пассажиров.
Правда, сразу на ум приходят способы, как можно обмануть систему. Например, пользователь может попросить трезвого друга сделать заказ из приложения, чтобы система не предлагала ему ехать по повышенному тарифу. Могут появиться специальные боты — программы, которые самостоятельно вызывают такси в Uber, например, по голосовой команде пользователя. В этом случае целый ряд входных сигналов дадут искажённую картину: количество опечаток в тексте будет нулевым, точность нажатия на ссылки и кнопки — идеальной, а время между открытием программы и вызовом такси — минимальным.
Впрочем, другие входные параметры всё равно не удастся скрыть. Например, если человек вызывает такси в 2 ночи, находясь внутри питейного заведения или рядом с ним, то и без всякой нейросети таксист может сделать правильные выводы.
В патенте прямо говорится, что выводы нейросети оказывают влияние на услугу, которую Uber предоставляет пользователю. Водители могут быть предупреждены о состоянии пассажира. Если же «вероятность необычного состояния пассажира относительно высока», то его заявка не поступит в общий пул, а будет направлена только водителям «с соответствующим опытом или подготовкой», говорится в патентной заявке.
Для водителей Uber работа с пьяными пассажирами — один из основных недостатков их профессиональной деятельности. Если обычный таксист в прошлом веке мог даже радоваться такому пассажиру, потому что это сулило ему дополнительный заработок, то в автоматизированной системе прокладки маршрута, тарификации и безналичных платежей Uber очень трудно получить дополнительные деньги от пьяного пассажира. Поэтому введение повышенного тарифа в случае интоксикации выглядит вполне оправданным.
«Было бы здорово, если бы водители получили дополнительные деньги за подвоз пьяных пассажиров. Здесь нет особой разницы [между пьяными и трезвыми пассажирами], но определённо у водителя добавляется седых волос после десятков таких поездок», — сказал Гарри Кэмпбелл (Harry Campbell), автор блога RideShare Guy.
