Новые меры по борьбе со злоупотреблением нашей платформой
Сьюзен Войжитски (Susan Wojcicki), генеральный директор YouTube
В качестве генерального директора YouTube я наблюдала, как наша платформа становится движущей силой для творчества, обучения и доступа к информации. Я видела, как активисты используют ее, чтобы отстаивать социальные перемены, активизировать протесты и документировать военные преступления. Я видела, как платформа становится одновременно центром развлечений и всемирной библиотекой видео. Я видела, какие экономические возможности открывает наша платформа, как с ее помощью маленькие компании выходят на рынок и продают свои товары по всему миру. Наконец, я видела, какую роль она играет в просвещении моих детей, насколько более полное и разностороннее понимание мира и миллиардов людей, она дает.
Однако при этом я поняла, что у открытости YouTube есть и другая, тревожная сторона. Я видела, как некоторые пользуются этим, чтобы вводить в заблуждение, манипулировать и причинять людям вред.
За последний год мы приняли меры, чтобы защитить наше сообщество от жестокого или экстремистского контента и протестировали новые системы, способные противодействовать существующим и потенциальным угрозам. Мы ужесточили наши правила в отношении публикации контента на нашей платформе и получения авторами дохода. Мы увеличили количество сотрудников, следящих за соблюдением правил. Мы также инвестировали в новые мощные технологии машинного обучения, чтобы снизить нагрузку модераторов, удаляющих видео и комментарии, нарушающие наши правила.
Мы применяем все, чему научились за год борьбы с экстремистским контентом, чтобы эффективнее справляться с другими сомнительными материалами. Наша цель — всегда на шаг опережать злоумышленников, препятствуя появлению или хранению на YouTube контента, нарушающего правила.
Больше людей занимаются обзором контента
Эксперты продолжают играть ведущую роль как в удалении контента, так и в развитии систем машинного обучения, потому что только человек способен критически оценить контекст и принять обоснованное решение в отношении контента. С июня надежные и доверенные команды экспертов просмотрели около двух миллионов видеороликов экстремистского содержания, помогая технологиям машинного обучения определять подобные видео в будущем. Мы также принимаем жесткие меры в отношении комментариев. Мы запустили новый инструмент для модерирования комментариев, и в некоторых случаях полностью отключаем возможность комментирования. За последние несколько недель мы использовали машинное обучение, чтобы помочь экспертам найти и отключить сотни аккаунтов и удалить сотни тысяч комментариев.
В следующем году мы продолжим расширение нашей команды. Мы планируем увеличить численность сотрудников Google, работающих с контентом, который возможно нарушает наши правила, до 10 000 человек. В то же время мы расширяем сотрудничество с учеными, отраслевыми группами и экспертами в данной области, чтобы учиться у них и лучше понимать возникающие проблемы.
Мы верим, что для этого нам необходим новый подход к размещению рекламы на YouTube, который включает тщательный анализ того, какие каналы и видео подходят для показа рекламных материалов. Мы планируем ввести более жесткие критерии, проводить отбор в ручном режиме и привлечь к работе больше специалистов по анализу рекламы, чтобы убедиться, что материалы интегрируются в соответствующий контент. Благодаря этому авторы, прошедшие отбор, смогут получать более стабильный доход. Это будет полезно и рекламодателям, и авторам, и в следующие несколько недель мы будем общаться и с теми, и с другими, чтобы усовершенствовать этот подход.
Мы принимаем все эти меры, потому что считаем это правильным. Авторы создают замечательный контент, который привлекает поклонников со всего мира. Зрители приходят на YouTube, чтобы смотреть видео, делиться роликами с друзьями и взаимодействовать с контентом. Вся эта система существует за счет рекламодателей, которые хотят охватить эту аудиторию. Все три группы необходимы для того, чтобы творческая экосистема YouTube продолжала существовать. Все они зависят друг от друга достойны самых лучших и комфортных условий.
Опасности, угрожающие нашей платформе, меняются и развиваются, поэтому мы просто обязаны совершенствовать методы борьбы с ними. Но какие бы проблемы перед нами ни вставали, мы твердо намерены прикладывать все усилия для их решения. Мы примем все необходимые меры, чтобы защитить наше сообществу и обеспечить развитие YouTube как площадки, на которой авторы, рекламодатели и зрители могут чувствовать себя комфортно.
Должный уровень работы
Мы будем шире использовать передовые технологии машинного обучения, чтобы быстрее и эффективнее удалять контент, нарушающий наши правила. В июне мы начали применять эту технологию, чтобы отправлять на оценку экспертам контент, который может быть расценен как жестокий или экстремистский, и мы добились значительного прогресса.
●С июня мы удалили более 150 000 видео, в которых демонстрировались жестокость и экстремизм.
●Благодаря машинному обучению наши сотрудники способны удалять в пять раз больше видео, чем раньше.
●В настоящее время алгоритмы машинного обучения обнаруживают 98% видео, которые удаляются за жестокость и экстремизм.
●Благодаря развитым технологиям машинного обучения почти 70% экстремистского контента удаляется не позднее, чем через 8 часов после загрузки, причем почти половина — в первые два часа. Мы работаем над тем, чтобы это происходило еще быстрее.
●Технологии машинного обучения используются для выявления жестокого и экстремистского контента с июня. За это время было проанализировано и обнаружено такое количество контента, для проверки которого вручную потребовалось бы 180 000 человек, работающих 40 часов в неделю.
Опираясь на полученные результаты, мы развиваем технологии машинного обучения, которые будут применяться к сомнительному контенту в других областях, включая безопасность детей и разжигание ненависти.
Повышение прозрачности
Мы понимаем, что пользователи хотят лучше представлять, как мы поступаем с сомнительным контентом. Наши Правила дают пользователям представление о том, какой контент на нашей платформе считается недопустимым, и мы хотим делиться информацией о том, как мы с ним боремся. Поэтому в 2018 году мы будем готовить регулярные отчеты со сводными данными о полученных жалобах и действиях, которые мы предпринимаем, чтобы удалять видео и комментарии, нарушающие наши правила. Мы разрабатываем дополнительные инструменты, чтобы повысить прозрачность действий с сомнительным контентом.
Новый подход к рекламе на YouTube
Мы принимаем меры по защите рекламодателей и авторов от недопустимого контента. Мы хотим, чтобы рекламодатели были уверены, что их объявления показываются рядом с контентом, который отражает ценности их бренда. Точно также мы хотим, чтобы авторы были уверены, что их доход не пострадает от действий злоумышленников.
