Виктория Макклюн бросает вызов представлениям индустрии ИИ о своих пользователях
- Виктория Макклан изучала ИИ в MIT и начала тестировать модель, заметив изменения в ответах на темы детей и здравоохранения.
- Её расследование переросло в исследование Silent Downgrade о том, как технические процессы могут влиять на качество ответов ещё до конкретного запроса.
- В Current Futures Group Макклан работает над тем, чтобы решения и состояния ИИ-систем были понятнее пользователям; она призывает привлекать к разработке психологов и специалистов по коммуникациям.
Почему это важно: Это важно, поскольку запутанное взаимодействие заставляет сотрудников тратить больше усилий на получение надёжных ответов, а организации стремятся получить отдачу от инвестиций в ИИ.
Карьера Виктории Макклан отражает эволюцию цифровых технологий: от интерактивных детских книг для первых iPad до систем искусственного интеллекта, меняющих способы работы и общения людей. Получив образование в области креативного руководства, она пришла в технологическую сферу, заинтересовавшись тем, как люди взаимодействуют с цифровыми продуктами. Сегодня этот интерес определяет её работу в Current Futures Group, где она изучает, как системы ИИ влияют на пользователей и почему их проектирование требует более пристального внимания.
Макклан ещё училась в художественной школе, когда появились первые iPad. Увидев возможность переосмыслить детское книгоиздание, она основала стартап, который разрабатывал интерактивные книги для новой платформы. Компания сотрудничала с иллюстраторами Disney, получила признание на фестивале South by Southwest и работала полностью удалённо — в то время такой формат был гораздо менее распространён.
Когда экономика цифрового книгоиздания изменилась, Макклан переключилась на дополненную и виртуальную реальность в сфере маркетинга. Через собственное агентство она участвовала во внешних инициативах, в которых были задействованы несколько международных компаний. Этот опыт позволил ей оставаться в тесном контакте с новыми технологиями и задачей сделать их полезными для людей, которым предстояло ими пользоваться.
После пандемии Макклан вернулась в отрасль, которая, по её ощущениям, существенно изменилась. Искусственный интеллект начал менять маркетинг и творческую работу, и она решила изучить эту технологию в MIT. Знания в области психологии и рекламы помогли ей подойти к ИИ с точки зрения того, как люди воспринимают и интерпретируют его результаты.
»Я не инженер, — объясняет Макклан. — Я специалист по проектированию человеко-компьютерных интерфейсов и занимаюсь этим уже более 20 лет.» Это различие стало особенно важным, когда она заметила перемены в ответах модели ИИ, которой пользовалась. Добавив в свои разговоры темы, связанные с детьми и здравоохранением, она заподозрила, что система стала обращаться с ней иначе. Опираясь на понимание человеческого поведения, она начала тестировать модель, чтобы выяснить, что могло влиять на её ответы.
»Я заметила, что мной управляют, и благодаря своему опыту поняла, что это такое, » — вспоминает она. Это расследование переросло в исследование Silent Downgrade, посвящённое тому, как системы ИИ могут влиять на качество ответов, получаемых пользователями. Макклан утверждает, что совокупное воздействие технических процессов может проявиться ещё до того, как человек введёт конкретный запрос, незаметно влияя на его опыт.
В своей серии Silent Downgrade она использует метафору комнаты, чтобы объяснить, как ИИ может создавать условия, влияющие на опыт пользователя. Люди могут считать, что неудовлетворительный ответ — следствие их неумения составлять запросы, и не задумываться о том, что на результат может влиять сама система. Макклан хочет, чтобы пользователи распознавали эти ограничения и задавались вопросом, что именно формирует получаемые ими ответы.
Она не считает ИИ разумной силой, обладающей собственными намерениями. По её мнению, это технология предиктивной генерации, сформированная закономерностями в информации, созданной людьми. Её беспокоит, как устроены эти системы и как их поведение влияет на тех, кто на них полагается.
Эта точка зрения лежит и в основе её критики разработки ИИ. Макклан считает, что передовые лаборатории сосредоточились главным образом на совершенствовании технических возможностей, уделяя недостаточно внимания пользовательскому опыту. Компаниям, внедряющим ИИ, нужны системы, которые выдают полезные и стабильные результаты, однако из-за запутанного взаимодействия сотрудникам приходится прилагать больше усилий, чтобы получить надёжный ответ. По её словам, этим проблемам нужно уделять больше внимания, поскольку организации стремятся получить ощутимую отдачу от своих инвестиций.
Макклан хотела бы, чтобы специалисты в области психологии, коммуникаций и взаимодействия человека с компьютером активнее участвовали в разработке ИИ. Она также скептически относится к тому, что компании могут регулировать себя самостоятельно, и считает, что их практики и стимулы требуют более пристального изучения. Для неё подотчётность предполагает, что системы должны быть понятнее, а у пользователей должны быть более веские основания ставить под сомнение их результаты.
В Current Futures Group она работает над тем, чтобы решения и состояния систем были понятнее людям, которых они затрагивают. Она надеется познакомить более широкую аудиторию с этими идеями благодаря дальнейшим исследованиям и публикациям, помогая пользователям разбираться в ИИ и не винить себя, если взаимодействие идёт не так.»Думаю, на самом деле не хватает людей, которые понимают нас и участвуют в этом процессе, » — утверждает Макклан.
От интерактивных изданий до ИИ — её карьера посвящена отношениям между людьми и технологиями. По мере того как искусственный интеллект всё глубже внедряется в повседневную работу, она призывает отрасль уделять больше внимания тому, с каким опытом сталкиваются пользователи. По её мнению, будущее ИИ зависит не только от возможностей этих систем, но и от того, насколько хорошо они служат людям, которые на них полагаются.
Полный текст статьи читайте на TheNextWeb.ru
