[Перевод] Опасность внутриигрового сбора данных
Ник Йи торгует секретами.
Он знает, что вам нравится, не нравится, и, что более важно — почему. Он знает, что вас мотивирует, что мешает вам достигнуть своей цели, что отталкивает вас, и всё, что находится посередине этого спектра. По крайней мере, в том, что касается игр. Он многие годы собирал информацию об игроках, проведя более 200 тысяч добровольных опросов, и узнал их возраст, об их любимых и нелюбимых вещах, о предпочитаемых жанрах.
И он продаёт эти знания разработчикам. Некоторые из них изменяют свои игры на основании этих знаний, чтобы вы покупали их, играли в них, и рассказывали о них другим.
Йи основал в 2015 году компанию Quantic Foundry, занимающуюся продажей его данных в такие игровые компании, как Tencent (владелица League of Legends), PopCap (студия, разработавшая Plants vs Zombies) и Wizards of the Coast (издатель Magic: The Gathering).
«В прошлом отрасль разработки игр не могла узнать истинных данных», — рассказывает Йи. «Когда люди играли на консолях без Интернета, разработчики не получали обратной связи. Они не могли составить чёткой картины того, как пользователи играют в их игры».
Теперь, по словам разработчиков, у них есть большие объёмы данных, как от телеметрии продуктов (внутриигрового поведения игроков), так и из внешних источников (например из опросов Йи). И некоторые люди начинают опасаться, что у них может быть слишком много информации.
По мнению многих разработчиков, частые утечки паролей из соцсетей, компаний и других источников делают приватность в играх очень важным аспектом. Кроме того, развитие взаимосвязанных государственных систем, например, китайской системы социального кредита ставит перед нами вопрос: может ли внутриигровое поведение влиять на то, как тебя воспринимают в реальном мире?
Первый вид данных — это информация, собираемая у игроков Ником Йи. Она довольно обобщённая, анонимная и помогает разработчикам выделить общие черты и типы личности. Например, программное обеспечение Quantic Foundry позволяет разработчикам выбрать игру (допустим, Civilization), а затем увидеть график, на котором показаны способы мотивации игроков.
Второй вид данных более конкретен. Как игроки взаимодействуют с игрой? Какой выбор они делают?
Эту информацию можно использовать для создания более качественных игр. А ещё её можно комбинировать с другими видами информации для создания чётких личных профилей. Такие личные профили обычно используются для целевой рекламы, но специалисты по конфиденциальности предупреждают, что в будущем эту информацию можно будет использовать пугающим, неожиданным для нас образом.
«Иногда инфраструктура сбора данных создаётся для одной цели…, но потом люди начинают задумываться о других вариантах её применения», — рассказывает старший политический аналитик Американского союза защиты гражданских свобод Джей Стенли.
И если это действительно станет реальностью, то разработчики должны начать создавать игры таким образом, чтобы пресечь подобные манипуляции ещё до их возникновения.
Опасения сбора данных
Во многих играх (если не в большинстве) есть встроенные системы, отслеживающие то, как в них играют пользователи. Разработчики могут использовать эту информацию для изменения сюжетных линий, уровней сложности, а также учитывать её при добавлении нового контента.
Эти данные обычно изолированы. Например, игра XCOM может отслеживать, какую из двух миссий вы выбрали. Но из этого простого решения сложно понять что-то о личности игрока.
Но в некоторых случаях игры собирают более личные данные, что позволяет повысить точность. Сохраняются такие сведения, как выбор варианта в диалоге или настоящие личностные тесты, способные дать понимание о личности игрока.
Специалисты по конфиденциальности и некоторые разработчики опасаются, что такую информацию можно будет связать с сетью онлайн-сервисов и использовать сомнительным образом. Именно поэтому, по словам сценариста Сэма Барлоу, если бы его игра 2009 года Silent Hill: Shattered Memories выпускалась сегодня, он вёл бы себя иначе.
«В процессе разработки определённо бы возникли дополнительные сложности», — говорит он.
В начале игра просит игроков пройти психометрический тест, и на основании их ответов контент игры меняется. Например, как говорит Барлоу, некоторые игроки всегда сохраняют уважение к представителям власти. Если личностный тест Silent Hill обнаружит это, то игроки увидят полицейского, который сначала представляется как союзник, но в результате оказывается враждебным и грубым.
Игроки, испытывающие (по данным психологического теста) недоверие к представителям власти, встретятся с заботливым и отзывчивым полицейским, который искренне о них волнуется…, а затем оставляет игрока в одиночестве. По словам Барлоу, такой подход использует особенности личности, чтобы опровергать ожидания и повышать накал драмы.
«Я записывал все эти данные и в дальнейшем их анализировал. Честно говоря, при этом кажется, что ты за кем-то шпионишь», — признаётся Барлоу.
Сэм вспоминает, как показывал игру на E3 и наблюдал за тем, как игроки всё больше нервничали, читая вопросы наподобие «изменяли ли вы когда-нибудь своему партнёру?». В то же время, по словам Барлоу, было удивительно видеть, как интерактивный геймплей создавался «прямым и личностным» образом.
Но с тех пор Барлоу стал задаваться вопросами: как можно создавать интерактивные истории, сохраняя при этом анонимность данных?
«Это заставляет дважды подумать над тем, какую информацию мы собираем», — говорит Барлоу.
«В Shattered Memories есть момент, когда игрок идёт по коридору, и обычно этот путь занимает около 15 секунд. Но в то же время происходит разговор между главным героем и его женой, длящийся 30 секунд — игра запоминает, слушал ли игрок, или игнорировал беседу».
«На основании этого и некоторых других переменных она даёт ему ту концовку, которой тот заслуживает».
Именно подобные виды микроскопических решений определяют психометрический профиль игрока. Хоть это и ни в коем смысле не является строгим психологическим тестом, последствия сбора данных становятся более явственными.
«Может ли случится так, что через десять лет вы не сможете получить работу, потому что игра показала, что вы не командный игрок?», — говорит он.
«Я говорил с людьми из отдела маркетинга, которые очень заинтересованы в создании интерактивного сторителлинга, и обычно они сообщали, что с этим связаны очень большие деньги», — говорит Барлоу.
В 2018 году Netflix экспериментировала с нарративом в стиле «выбери собственное приключение». Она выпустила интерактивный эпизод «Чёрного зеркала», в котором записывала принимаемые зрителями решения. Отслеживание выбора пользователя играет огромную роль и в маркетинге: собирая множество незначительных решений, сделанных зрителями (или игроками), компании наподобие Netflix могут создавать профили не только об их личностях, но и о видах продуктов и услуг, которые им нравятся и не нравятся. А ещё такие данные можно продавать.
Netflix знает о ваших телевизионных пристрастиях уже много лет. Важное отличие заключается в том, насколько микроскопическими становятся подобные системы. Вместо того, чтобы узнавать, что вам нравится больше — «Девочки Гилмор» или «Во все тяжкие», Netflix с помощью интерактивного нарратива теперь может понять: вам нужна сюжетная линия, в которой Уолтер Уайт убивает своих врагов или дарит им свободу?
«Любой элемент данных легко можно экстраполировать. Если вы отслеживаете активность мужа и жены, то информация о том, когда они играют в игры, может дать анализ проводимого ими вместе времени. Можно измерить уровень их отношений», — говорит Барлоу.
По словам Барлоу, подобные предположения делают опросы интереснее, но и опаснее. И это означает, что создание игры наподобие Silent Hill: Shattered Memories ставит перед разработчиками моральные вопросы о собираемых данных.
«Если бы она была на iPhone, то теоретически вы бы могли связать свою игру с психологическим профилем», — говорит Барлоу.
Анонимных данных не существует
Специалисты по конфиденциальности и разработчики замечают, что каждая частица данных, записываемая компанией, может сопоставляться с другими базами данных. Отдельные фрагменты данных, например, принятое в игре решение, могут казаться неопасными, но в сочетании с другими множествами становятся подробной моделью поведения и психологии.
Этот страх испытывает и директор по дизайну Obsidian Джош Сойер. Он работал над игрой Fallout: New Vegas, в которой тоже использовались личностные тесты игроков.
Как и Барлоу, Сойер говорит, что если бы игра выпускалась сегодня, он бы принял другие решения относительно её дизайна.
«Мы бы воспринимали это иначе», — говорит Сойер. «Сбор телеметрических данных выполняется во всех наших играх, но мы всегда обсуждаем защиту информации. Мы спрашиваем пользователей, хотят ли они, чтобы сбор данных был по умолчанию включен».
Хотя Сойер и говорит, что этот тест не был основан на какой-то психологической структуре и нужен был как способ выбора навыков персонажей игроков, сам по себе он является любопытным опросником. В нём игроков спрашивают, предпочитают ли они определённые черты (к примеру, честность) другим, например скромности.
«В этом нет психологической определённости», — говорит Сойер, но он также отмечает, что в этом и заключается проблема.
Если эта информация собирается и используется в новых алгоритмах, то идея о том, что программы, приложения или сервисы могут извлекать психологические данные из тестов, не обладающих психологической строгостью, накладывает на дизайнеров игр огромную ответственность.
«Самое пугающее в алгоритмах Amazon то, что они могут определять, беременна ли женщина, или является ли мужчина геем… И они извлекают эту информацию не из их явных действий, а из побочных особенностей, которые никто не считает чем-то уникальным», — говорит Барлоу.
Известен один случай, когда сеть магазинов Target отправила девушке-подростку каталог с товарами для детей, спрогнозировав её беременность на основании предыдущего поведения покупателей.
«Именно поэтому я считаю, что нам нужно быть очень аккуратными и осторожными с собираемыми и передаваемыми данными, потому что они могут использоваться намного более изощрённым образом».
Ник Йи сообщает, что данные, соответствующие личным привычкам, собираемые в процессе этих тестов, будут довольно приблизительными и ненадёжными, но владеющие такой информацией могут понимать это и всё равно использовать её.
И это не гипотетическое предположение. Недавно введённая в строй система социального кредита правительства Китая полагается на тысячи входящих данных, в том числе на информацию о необдуманных тратах или слишком долгой игре в видеоигры. Муниципальные власти одного города заявили, что в будущем введут наказания за читерство в играх.
Приложение Miitomo компании Nintendo тоже экспериментировало с подобным видом сбора данных — оно спрашивало пользователей о предпочтениях в разных продуктах. Хоть Nintendo и заявила, что не будет продавать информацию сторонним лицам, пользователи начали видеть соответствующую рекламу на других устройствах Nintendo, связанных цифровым аккаунтом.
Ник Йи вполне допускает, что будущие кредитные системы наподобие китайской могут в том числе учитывать и данные о принятии решений в видеоиграх.
«Если вы многократно выбираете более рискованный вариант, несмотря на наличие менее агрессивной альтернативы… то может ли это что-то сказать кредитору о вашей готовности к кредиту?», — задаётся вопросом Йи.
Разрушение барьера между цифровым и реальным миром
«Если мы сегодня используем телеметрию, то очень внимательно относимся к тому, как используется и собирается информация из игр», — говорит Сойер.
«В играх наподобие New Vegas меня бы очень беспокоило то, что мы позволяет игрокам делать выбор, который может оказаться очень мрачным или печальным».
Это проблема не только для AAA-разработчиков. Независимый разработчик Майкл Хикс выпустил свою игру The Path of Motus в начале 2018 года. Игра экспериментирует с реакциями игрока на разные техники издевательств.
«Почти все сразу же реагировали на агрессоров жестокостью, даже несмотря на то, что игра ни разу не говорит, как конкретно нужно играть», — говорит Хикс.
«Очень малый процент людей мгновенно сожалел о применении насилия и пытался найти другие решения, в то время как большинство испытывало озарение и меняло тактику только ближе к середине игры».
Хикс говорит, что хотя его игра использует минимальное отслеживание игроков и не связывает данные с личными профилями, в процессе разработки он думал, что собираемая информация является своего рода опросом. Однако, как и в New Vegas, тест не является психологически строгим и не хранится в базе данных, по которой можно идентифицировать личность.
Калли Шрёдер — помощник юриста в отделе транзакций и защиты данных и интеллектуальной собственности в фирме Lewis Bass Williams & Weese. Она считает, что вне зависимости от намерений разработчиков, подобные данные могут собираться и комбинироваться с другой информацией.
«Существует множество взаимосвязей, о которых люди не задумываются, а благодаря быстрому развитию технологий подобные связи сегодня устанавливать проще и дешевле, чем ещё пять лет назад», — говорит она.
Данные и зависимость
Алекс Шампандар — специалист по ИИ и его активный разработчик, он работал в Rockstar над игрой Max Payne 3 и в Guerrilla над серией Killzone. Он далеко не считает себя паникёром, но говорит, что создание психологических профилей на основе игровых данных — это просто логичная эволюция развития игр и бизнеса.
«Меня не столько волнует конфиденциальность», — говорит Шампандар. «Большая опасность заключается в том, что эти данные становятся оружием создания зависимости: разработчики создают игру, чтобы манипулировать с помощью контента физиологией и выбросами дофамина».
«Иногда это нужно, чтобы увлечь игрока и погрузить его в игру. Но если скомбинировать это с процедурными системами, то мы по сути получим катастрофическую ситуацию», — говорит Шампандар. «Представьте пачку сигарет с микротаргетированием, которая доставляет сигарету прямо вам в руку в тот самый момент, когда вы чувствуете себя наиболее уязвимым».
Компания Ubisoft, в которой Йи ранее работал специалистом по анализу данных, многие годы собирала данные по Assassin«s Creed, напрямую обращаясь к игрокам с просьбами оценить отдельные миссии после их прохождения. Такую информацию можно обрабатывать различными способами, чтобы стимулировать пользователей возвращаться в игру.
Йи обрабатывает информацию, предоставленную самими игроками, и использует её как своеобразные «персоны» — обобщённые профили, которые разработчики могут применять для лучшего таргетирования своих игр. Информация анонимна, поэтому с ней нельзя связать адреса электронной почты или имена, но она способна способствовать в создании гипертаргетированных рекламных кампаний.
Именно подобную ценную информацию собирает Йи. В том числе и такую, которую опубликовала Blizzard в Armory игры World of Warcraft. Этот массив данных был опубликован несколько лет назад; он позволяет любому пользователю просмотреть имя персонажа, подробности его предыдущих действий, предпочитаемый в игре класс… и даже сколько раз его обнимали.
Йи говорит, что не может делиться подробностями работы с клиентами, но упоминает один случай, когда его компания помогала с игрой Crusaders of the Lost Idols, которую создавала Codename Entertainment. Игра была «кликером» (idle clicker), то есть почти не требовала никакого другого ввода, кроме нажатий на кнопку.
С помощью своих моделей игроков Йи смог показать компании, что большинству игроков в «кликеры» также нравятся и более сложные игры наподобие Diablo 3 и EVE Online.
Анализ открытых данных Steam позволил Йи и другому сооснователю компании прийти к выводу, что кликеры и подобные игры имеют нечто общее: чувство развития при переходе игрока от одного уровня к другому. Такой упор на развитие был учтён в маркетинговой кампании Codename, что привело к многократному росту продаж.
По словам Йи, это достаточно стандартный процесс исследования пользователей.
Нестандартно в нём то, что цифровые данные используются для создания цифровых «отпечатков пальцев» действий игроков и адаптации сложной сети воронок продаж.
В своей научной статье 2011 года, в которой задокументирован эксперимент внутри World of Warcraft, Йи поднял вопрос потенциальных проблем с конфиденциальностью в онлайн-мирах.
»… до появления Armory игроки могли ожидать разумного уровня конфиденциальности в WoW», — писал Йи.
»…, но теперь на это надеяться нельзя».
Взгляд в будущее
По мнению Йи, одним из барьеров для создания психологических профилей в играх является то, что многие люди играют в разные виды игр по разным причинам. Перенос поведения из одной игры в другую часто не срабатывает.
«Существуют игры с ограниченными возможностями настройки, поэтому понять предпочтения игроков по ним нельзя. С другими всё проще».
«Но более серьёзная проблема заключается в переносе этого поведения […] например, в некоторых играх вы можете активнее конкурировать с противниками, чем в других».
Но Шампандар говорит, что нам всё-таки не стоит расслабляться. Момент, когда внутриигровое поведение станет таргетируемым, настанет быстрее, чем мы думаем… и этому поспособствует искусственный интеллект.
«То, чем долгие годы занимались программисты ИИ, можно будет встроить в систему и получать новые данные. Если кто-то реализует подобное, то это будет иметь серьёзные последствия».
