Все свихнулись на ИИ. Чем рискует бизнес?
Идеальный искусственный интеллект — это Электроник. Уже тогда фантасты и учёные понимали, что главная задача ИИ — получение свойств эмпатии (помните про умение плакать?) у искусственного разума, железяки с вычислениями на борту. Умение чувствовать и сопереживать это как раз один из ключевых барьеров, отделяющих алгоритм от человеческого мышления и действия. Сегодня мы восхищаемся ChatGPT и Midjourney, забывая, что эти нейросети управляются прежде всего человеком: они им спроектированы и созданы, для своего «творчества» они используют ранее накопленный опыт и материалы электронной сферы жизни человечества. Как технология ради технологии, ранняя лабораторная работа они просто прекрасны: вместе с ними движутся вперёд разработчики, дизайнеры, пользователи. Однако не стоит радушно принимать новичков в IT-инфраструктуру компаний: слишком высоки риски.
Подискутируем?
Disclaimer: статья написана сотрудником в рамках рубрики «Свободный микрофон», мнение автора может совпадать, а может не совпадать с мнением компании. Мнение ИИ никто не спрашивал.
Люди и алгоритмы
Начнём с того, о чём чаще всего забывают и разработчики, и менеджеры: любая компания состоит из самых обычных людей с самыми обычными потребностями, заскоками, «нравится — не нравится». Причём жизнь этих людей в компании приправлена специфической особенностью: руководители хотят заработать денег, сотрудники… тоже хотят заработать денег. То есть к обычности людей подмешивается вопрос выживания в его глубинном смысле. К любому средству производства (будь то CRM или станок) сотрудники компании относятся с двух точек зрения:
насколько мне это понятно — удобно пользоваться, просто, однозначно;
насколько это классно для зарабатывания денег: как соотносятся вложенные усилия и выхлоп от существования этой самой CRM или станка.
Это с одной стороны. С другой стороны, современная китч-культура «всего», мода на современные технологии, привычка потреблять и быстро забрасывать мотивирует бизнес обращать внимание на всё новое. А если есть такое внимание, значит, его можно монетизировать. Чем и пользуется другой бизнес.
Теперь об искусственном интеллекте.
Он тоже весьма относителен. Например, в RegionSoft CRM есть алгоритм, который распознаёт дубли в системе и предупреждает об этом оператора. Это делает искусственный интеллект — работающий фрагмент кода с заложенной в него логикой (которую придумал естественный интеллект, если, конечно, главный инженер ничего от нас не скрывает). Алгоритм существует давно и никто его никогда не пытался продать как искусственный интеллект. И это самый простой и мелкий пример, а ведь в этой же самой системе есть модуль автоматизации бизнес-процессов, логика умного KPI и прочие штуки, которые сами по себе весьма интеллектуальны и работают независимо от оператора на основе собранных и/или внесённых данных.
В целом в разных бизнес-системах есть и другие функции, которые можно запросто позиционировать как возможности ИИ: скоринг сделок, распознавание речи и перевод речи в текст, анализ тональности разговора с рекомендациями «на лету», предиктивная аналитика, сбор данных из почты и мессенджеров и даже поиск всех видео с участием клиента по его фотографии (как собрать фото клиентов в CRM — тот ещё вопрос). И это всё — обычные алгоритмы, написанные кожаными программистами. Алгоритмы работают ровно в тех рамках, которые им предоставлены человеком. Обучаются эти алгоритмы (если предполагается обучение) на данных — чаще уже на каких-то готовых датасетах, реже — на данных компании (редко у кого найдётся массив, реально подходящий для задач машинного обучения).
И вот, значит, самые обычные люди готовы покупать фичи искусственного интеллекта, который является самым обычным (ну ладно, не самым) алгоритмом. И здесь начинается самое интересное.
Искусственный интеллект на службе бизнеса: риски
Любой работающий против рутины алгоритм — большое благо для бизнеса: он экономит силы, время, помогает сотрудникам переключиться на более вдумчивое общение с клиентами и глубокую работу над стратегическими разработками. Но есть и риски.
Главные риски, конечно, лежат в сфере кибербезопасности. Всё просто: искусственный интеллект очень ёмкий с точки зрения данных, он собирает значительный слой коммерческой информации. В случае взлома и получения доступа злоумышленниками утечка может оказаться серьёзной, а то и фатальной даже для маленькой компании. Обработка в алгоритмах ИИ конфиденциальной информации и персональных данных значительно усугубляет риски.
Именно поэтому советуем вам не доверять сторонним ИИ-плагинам и неизвестным приложениям, а работать только с теми модулями, которые входят в официально поставляемое бизнес ПО, потому что в этом случае элементы ИИ наследуют уровень безопасности системы в целом.
На втором месте — готовые обученные алгоритмы (например, скоринг). Обучение алгоритма, грубо говоря, это теория вероятности и работа с нормальным распределением: алгоритм анализирует входную информацию, сравнивает её с зонами распределения внутри алгоритма и прикидывает, что сделка состоится с вероятностью 47%, потому что все остальные сделки с такими параметрами на входе состоялись примерно с такой же вероятностью. Если обучение происходит на «чужом» датасете, предсказание может терять смысл, поскольку у каждой компании свои этапы сделки и особенности.
Значительные риски связаны с текстом и речью. Распознавание действительно впечатляет, но часто непригодно для бизнеса: например, алгоритм может расшифровать «кирпич» как «приличный», «бетон» как «при том», не говоря уже о том, что при заказе препарата «анауран» он предложит «а на Урал?». Если такие расшифровки по недосмотру менеджеров пролезут в документы и заказы, последствия будут неприятными и, скорее всего, обойдутся в какие-то реальные денежные потери.Человеческое ухо такой оплошности не допустит даже при плохой дикции — просто потому что человеческий мозг воспринимает слова в контексте и способен «достроить» то, что кажется непонятным или нечётким.
Если искусственный интеллект вашего программного обеспечения обучается на внутренних данных компании, важно понимать, что данные должны быть хорошо подготовленными: достаточными, актуальными, достоверными, безошибочными. Иначе все ошибки будут учтены в алгоритме и пользователи получат на выходе неверное решение.
ИИ основан на быстрых вычислениях и, как следствие, выполняет работу крайне быстро и эффективно. За то и любим. Однако, если в данные или в алгоритм закрадётся неточность или ошибка, ИИ отработает так же быстро и эффективно и совершит внутри транзакций огромное количество ошибок (полбеды, если это неправильная рассылка, а вот если неправильные биллинг, генерация документов, формирование заказов или функция мониторинга…)
Есть ещё один отвратительный риск, связанный с человеческим фактором. В российских компаниях, как и во всём мире, процветает так называемое Shadow IT — явление, при котором сотрудники сами выбирают приложения для помощи в работе: от управления проектами до расшифровки звонков. Если в компании не очень с безопасностью (а в малом бизнесе это повсеместно), ничего не мешает сотруднику использовать какой-нибудь бот или расширение и скармливать ему данные из клиентской базы и коммерческую информацию. Обычно это делается ради эксперимента или для удобства, но от этого не легче: данные могут просто уйти на сторону и использоваться в совершенно неожиданных местах.
У современного искусственного интеллекта пока слишком мало практической реализации — по сути всё его существование это одна большая лабораторная работа. Конечно, ничего не мешает генерировать картинки и тексты для страниц сайта, обрабатывать и использовать их — это, пожалуй, один из рациональных путей применения возможностей ИИ. Однако тащить ИИ в коммерцию, оперативную работу нужно крайне осторожно.
Вообще, если уж говорить о рисках до конца, у использования искусственного интеллекта для решения рабочих задач есть ещё один интересный, специфический риск. Когда алгоритм чётко выполняет свои задачи, от этих задач отвыкают сотрудники и теряют часть своих компетенций. И если, например, потеря привычки заполнять первичку руками только в плюс всем, то слепое доверие скорингу и скриптам и отказ от аналитики и ситуативной коммуникации может быстро привести к снижению качества сервиса, а это, между прочим, важная зона конкуренции. Поэтому важно использовать современные технологии осторожно, с умом и без безграничного доверия. Мало ли что оно там себе надумает ;-)
