Роботы-начальники: семь примеров, как люди и бизнесы переходят под власть машин
Самые главные «побочки» коронавируса — не физиологические, а социальные и экономические. Ничего принципиально нового он в жизнь человечества не привнёс — зато разогнал и так уже шедшие процессы, главные из которых — переход на удалённую работу и автоматизация. И показал, в какую сторону меняются отношения человека и машин. Роботы и программы по-прежнему призваны помогать человеку, но теперь всё очевиднее, что эта помощь заключается, в том числе, в принятии роли надсмотрщиков — будь то роботы, следящие за соблюдением социальной дистанции, или программы, напоминающие сотрудникам о том, что солнце ещё высоко, и им пора за работу. Всё во имя блага самого человека, разумеется.
Робот-овчарка
В мае 2020 года на улицы Сингапура вышел на робопёс компании Boston Dynamics, чтобы контролировать соблюдение мясными мешками социальной дистанции.
Каждый робот патрулировал свой участок сингапурского парка Бишан-Анг Мо Кио. При встрече с группой людей робот озвучивал заранее записанное сообщение: «Сохраним здоровье Сингапура! Для вашей безопасности и безопасности окружающих вас людей, пожалуйста, оставайтесь на расстоянии не менее одного метра. Спасибо».
Робопёс Spot развивает скорость до 1,6 м/сек, изучает окружающее пространство через стереокамеры с суммарным углом обзора в 360°, весит 25 килограмм — легкий, небольшой, маневренный. Spot был представлен компанией в 2016 году и предлагался в основном к использованию на производстве, например, для удаленной проверки производственных помещений.
Полностью автономными роботов Spot назвать нельзя — в течение тестового периода его контролировали специалисты. Однако с учетом текущего уровня развития компьютерного зрения и систем принятия решений несложно представить, как робопес определяет маршрут и цель самостоятельно — это вполне реализуемо. Уже сейчас Spot снабжен камерами, которые используются для выявления групп людей. Но правительство Сингапура заявило, что роботы не будут использовать распознавание лиц или собирать личные данные граждан. Как может распорядиться возможностями пса другой хозяин — неизвестно, а простор для это теперь есть: с 16 июня 2020 года робопес поступил в продажу (до этого он сдавался предприятиям в аренду).
Пандемия изменяет условия жизни, но многим не нравится контроль, и не все охотно подчиняются требованиям держать дистанцию и соблюдать меры предосторожности в полном объеме. Одной из ситуаций, повлиявших на вывод робопса в парк, стал конфликт между прохожим и сотрудником парка, связанный с необходимостью социального дистанцирования. Будут ли пешеходы спокойнее реагировать на контроль и ограничения, если они будут звучать от желтого робопса, разговаривающего вежливым женским голосом? Выглядит это все довольно антиутопично, но пока вроде бы никто на робопсов не нападал.
Робот, проверяющий, помыты ли руки
Еще одна разработка, актуальная для событий 2020 года: в Fujitsu разработали систему контроля мытья рук на основе искусственного интеллекта. Для обучения системы было использовано две тысячи видео мытья рук с различными видами мыла и умывальников. Система может распознавать сложные движения рук и определять, используется ли мыло. Система проверяет соответствие мытья рук рекомендованной министерством здравоохранения Японии шестишаговой процедуре, включающей в себя мытье ладоней, пальцев, промежутков между пальцами, запястий, чистку ногтей.
В компании считают, что эту систему можно применить для контроля соблюдения правил гигиены работниками гостиничной отрасли, производства продуктов питания, медицины и так далее, но коммерческой версии системы пока нет.
Система может определять чистоту рук, но не личности людей. Хотя, если её объединить с системой распознавания лиц, то компании смогут следить ещё и за тем, кто конкретно является грязнулей в коллективе.
Тем временем в России уже не только объединено распознавание лиц с контролем мытья рук, но комбинация уже запатентована и продается в виде готового решения. Компания «Дамате», занимающаяся производством молока и мяса, использует разработанную в Сколково систему «Директива». Разработчики «Директивы: санитария» обещают проверку санитарной обработки рук в соответствии с международными стандартами со 100% точностью. В «Дамате» сейчас имеется 20 точек контроля мытья рук, через которые проходят 2250 сотрудников и планируется установить 21 систему на строящемся заводе по глубокой переработке мяса индейки в Пензенской области.
Цель внедрения системы — не повышение прибыли (наоборот, внедрение и техподдержка системы обходятся недешево), а предотвращение проблем, когда всего одна пара недомытых рук может заразить потребителей, вызвать финансовые проблемы и подпортить репутацию.
Электронный ГАИшник
Еще один пример автоматизированного контроля — искусственный интеллект, выписывающий штрафы вместо ГИБДД. Еще с 2018 года Московские власти взялись за разработку интеллектуальных систем контроля транспортного потока. Нейронная сеть используется для обработки миллионов фотографий и автоматического определения нарушений. Каких-либо новых принципов выявлений нарушений не предполагается: система просто призвана разгрузить техников Центра организации дорожного движения (ЦОДД), обрабатывающих фотографии с камер для ГИБДД, чтобы у них было больше времени на изучение спорных случаев и отсеивание в брак ошибочных штрафов.
Насколько совершенна такая система и будет ли она выписывать штрафы несправедливо? Вполне возможно, т.к. результат сильно зависит от исходных данных (качества фотографий) и от принципов работы модели машинного обучения, использующейся в системе. Логичнее задать вопрос следующим образом: будет ли процент ошибок искусственного интеллекта меньше или больше, чем процент ошибок живых специалистов, выполняющих ту же задачу? Но вряд ли мы узнаем ответ: штрафы остаются источником дохода для государства независимо от того, кто их выписал, и кто-то наверху вряд ли будет подсчитывать некий процент несправедливостей и стремиться его уменьшить. Так что справедливость интеллектуального контроля в данном случае зависит не только от применяемых технологий, но и от целей, которые за ними стоят. Известно только то, что ошибки делают и живые люди, и программы, и казусы («Штраф за тень и птица без номеров: как ошибаются дорожные камеры») происходят не только для России. Однако там, где есть автоматизированное выписывание штрафов, можно внедрить и автоматизированную борьбу с неправильно назначенными штрафами: в Дубае искусственный интеллект помогает бороться с ошибками, которые допускают люди при выписывании штрафов, а в Германии существует так называемый цифровой адвокат.
Робот-жена автолюбителя
Более человеколюбивая интеллектуальная система контроля — это умный круиз-контроль. Одна из разработок в этой сфере принадлежит Hyundai: в октябре 2019 года было объявлено о выпуске системы SCC-ML (Smart Cruise Control + Machine Learning). В ней учитывается дистанция до другого автомобиля, время реакций на смену дорожных условий и скорость. В отличие от привычных систем круизконтроля SCC-ML не только поддерживает дистанцию до впереди идущего автомобиля и заданную скорость, но и способна обучаться на примере действий водителя.
В 2019 году Nvidia Corporation, активно занимающаяся решениями для водителей, создала нейронную сеть, регулирующую за водителя дальний свет. Сеть реагирует на попадающие в поле зрения камеры автомобили, у которых включен задний фонарь или фара в текущем кадре камеры. Доступны 2 режима: в первом режиме (Auto High Beam) система освещения дальнего света автоматически включается при слабой освещенности дороги.
Припаркованные автомобили считаются неактивными и игнорируются, а при обнаружении активных автомобилей система автоматически переключается на ближний свет или выключается. Как только активные транспортные средства выходят за рамки камеры, дальний свет автоматически включается снова. Во втором режиме (Adaptive Driving Beam) ИИ снижает яркость отдельных светодиодов в фарах, создавая зоны без бликов.
Подобные разработки — компромисс между полностью беспилотным управлением и помощью водителю, который управляет машиной самостоятельно, но с помощью интеллектуального контроля со стороны системы. Так же, как и уже привычный парктроник, они забирают часть функций у водителя, чтобы облегчить процесс вождения. Для большинства пользователей не имеет значения, как именно реализованы эти решения технически — важно, чтобы на них можно было положиться.
Робот-начальник
В повседневные рабочие процессы офисных работников тоже вмешиваются автоматизированные системы, которые совершенствуются и приобретают новые функции, основанные на данных о психике. Производитель софта для контроля за удалёнными сотрудниками Kickidler выпустил функцию «Автокик» для самоконтроля сотрудников. «Автокик» состоит из двух частей: инструментов самоконтроля в виде отчета и автоматических уведомлений сотруднику о его нарушениях (что считать нарушением — настраивается заранее). То есть, с другой стороны задача «Автокика» — автоматизация пинков, раздаваемых начальством. Зачем тогда остаётся нужным начальство — непонятно.
На первый взгляд, программа, которая наблюдает за всем, что вы делаете на своем устройстве в рабочее время — это дополнительный контроль от лица начальства, которое хочет, чтобы вы максимально эффективно тратили рабочее время. Если же присмотреться внимательно, она действует также в интересах самих сотрудников, потому что продуктивность невозможно повысить там, где сотрудник некомфортно себя чувствует.
Уже почти прошло то время, когда считалось, что из человека нужно выжимать максимум принуждением под лозунгами в стиле «Выйди из зоны комфорта! Добейся максимума! Поставь цель и иди к ней, несмотря ни на что!».
Многие работодатели уже знают: чтобы выйти из зоны комфорта, нужно сначала в нее войти.
А что можно понимать под комфортом для сотрудника, проводящего целый день в интеллектуальной или коммуникативной работе перед монитором? Рассуждения об осмысленности и степени интересности работы оставим за кадром — надеемся, вам нравится ваша работа. Но кроме мотивации, существуют и психофизиологические ограничения.
Некоторые исследования показывают, что человек эффективен на работе менее трех часов в день, а уровень концентрации резко падает уже через 20 минут. В целом в психологии считается, что длительность эффективного произвольного внимания взрослого человека — максимум 45–50 минут. После этого требуется переключение внимания на задачу другого типа.
В популярной технике тайм-менеджмента Pomodoro стандартными считаются отрезки 25 минут, но их можно адаптировать под себя, а главной остается идея частых перерывов в монотонной деятельности. «Автокик» как раз может подсказать сотруднику, работающему долго без перерывов, сделать небольшую паузу в работе. Эту функцию можно использовать для заботы о здоровье — напоминание о перерыве может намекать на необходимость физической активности: раз в несколько рабочих отрезков времени можно сделать небольшую зарядку или гимнастику для глаз.
Робот-няня
Разработки на основе искусственного интеллекта также могут определять уровень стресса, помогать в тренировке навыков концентрации внимания и расслабления. Например, у участников интенсива по подготовке кадров для цифровой экономики и Национальной технологической инициативы (НТИ) «Остров 10–21» собирались данные и использовались системой на основе искусственного интеллекта для корректировки образовательного процесса. Основная цель — избежать эмоционального выгорания и снижения эффективности из-за стресса.
Зеленоградская группа компаний «Нейроботикс» выпустила в продажу нейрогарнитуру NeuroPlay, которая позволяет замерять электроактивность мозга человека. Пользователь гарнитуры может корректировать работу мозга в соответствии с выбранной тренировкой для борьбы с тревожностью, бессонницей, раздражением, нарушением внимания, стрессом. Для улучшений придется выполнять рекомендации, выдаваемые системой.
Подобные разработки контролируют психическое и физическое состояние человека и, обрабатывая полученные данные, помогают улучшать самочувствие и повышать продуктивность.
Робот, следящий, чтобы не выражались
В интересах бизнеса программы научились даже контролировать речь сотрудников: сервис Anryze предложил брокерской компании Weeden and Co технологию по контролю за употреблением брокерами определенных слов при общении с клиентами. Дело в том, что брокерам запрещено гарантировать доходность от продаваемых бумаг. Компании, нарушившие запрет, могут получить штраф от $5 млн, а также их ждет разбор инцидента и репутационные риски. Сервис Anryze вылавливает в речи сотрудника запрещенные слова и анализирует контекст, в котором они были сказаны.
Если брокер произносит слова о гарантии доходности, то сразу же после разговора получает информацию о возможном нарушении закона. В целом, контроль вряд ли приятен сам по себе, но он просто подкрепляет и так существующее ограничение на произнесение некоторых фраз — своего рода издержки профессии.
Добровольно в Матрицу
Факт остаётся фактом: люди в собственных интересах передают контроль над собой машинам. Для бизнеса и государства в целом одни плюсы, кроме высокой стоимости разработки, а что касается обычных людей — приватность и самостоятельность они обменивают на получение рекомендаций и снятие ответственности за принятие решений.
В Соединенных Штатах можно почувствовать напряженность между гарантированием индивидуальных прав и защитой коллективных интересов во время этого кризиса в области здравоохранения. Таким образом, ГАФАМ имеет в своем распоряжении в Соединенных Штатах информацию, которая была бы чрезвычайно ценной во время кризиса: огромное количество данных об американском населении. Ларри Бриллиант, эпидемиолог и исполнительный директор Google.org, утверждает, что эта информация может «изменить лицо общественного здравоохранения» и считает, что «мало вещей в жизни важнее, чем вопрос о том, не слишком ли мощны основные технологии, но пандемия, несомненно, одна из них» (Н. Скола, Big Tech сталкивается с ловушкой «Большого Брата» на коронавирусе, POLITICO, 18 марта 2020 г). Поэтому правительство США обратилось к этим компаниям с просьбой предоставить доступ к агрегированным и анонимным данным, особенно в отношении мобильных телефонов, для борьбы с распространением вируса (Т. Ромм, Э. Двоскин, С. Тимберг, Правительство США и технологическая индустрия обсуждают способы использования данных о местоположении смартфонов для борьбы с коронавирусом, The Washington Post, 18 марта 2020 г). Однако эти компании проявляют осторожность в связи с юридическим риском и потенциальным нанесением ущерба имиджу (С. Оверли, Белый дом ищет помощи в борьбе с коронавирусом в Силиконовой долине, POLITICO, 11 марта 2020 г.). Законодательное регулирование данных, вероятно, помогло бы наладить диалог между государственным и частным секторами и определить, какие виды чрезвычайных ситуаций должны подпадать под коллективный интерес в отношении индивидуальных прав (а также условия и гарантии такого механизма), однако за последние два года Конгресс не добился никакого прогресса в отношении такого закона.
Закончить этот обзор хотелось бы словами Юваля Ной Харари из статьи «Мир после коронавируса» (The Financial Times, 20 марта 2020 г):
Временные меры по контролю и массовому мониторингу населения с помощью этой технологии не должны считаться тривиальными и не должны стать постоянными.
