Facebook усовершенствует систему фильтрации видеотрансляций после теракта в Крайстчерче01.04.2019 13:00

Illustration by Alex Castro / Th

Сандберг охарактеризовала нападение как «акт чистого зла» и заверила, что компания «намерена тщательно проанализировать, что произошло», в сотрудничестве с властями Новой Зеландии. Незадолго после теракта социальная сеть Facebook сообщила, что они удалили 1,5 миллиона видеороликов о нападении загружаемых по всему миру, 1,2 миллиона из которых были заблокированы «при загрузке». В своём письме Сандберг говорит, что в то время как Facebook лишь оперативно удалил аккаунт и видео злоумышленника, компания могла бы сделать большее, и изложила три шага, которые предпримет компания, чтобы противодействовать развитию насилия и нетерпимости в любом виде.

Первым шагом является то, что в Facebook «изучают способы ограничить возможность для видеотрансляций пользователям, которые ранее нарушали стандарты о недопустимости насилия в публикуемых материалах», и что компания намерена вложить больше ресурсов в автоматические системы, которые смогут идентифицировать видео с актами насилия ещё на момент их загрузки в социальную сеть, даже если перед этим они будут каким-либо образом отредактированы. Сандберг отметила, что они нашли более 900 вариаций видео об атаке в Крайстчерч, пока Facebook делал всё возможное, что не допустить их распространение в сети.

Второй шаг — предпринять «ещё более решительные меры для устранения недопустимого контента на нашей платформе». После упомянутого теракта Facebook вскоре объявили о том, что они запрещает публикацию любых националистических и сепаратистских материалов, и будут перенаправлять людей, ищущих подобную информацию в социальной сети, на специализированные ресурсы, помогающие людям выйти из пропагандирующих насилие организаций. Сандберг сообщает о том, что в последнее время компания удалила множество тематически групп, уличенных в распространении подобной запрещенной информации, а также превентивно заблокировала возможность для «лайков» сообществ, заподозренных в этом.

Последний шаг, который описывает Сандберг, заключается в том, что компания оказывает поддержку «четырем местным организациям, занимающимся вопросами благосостояния и психического здоровья» в Новой Зеландии. Также она указывает на то, что компания «готова работать с комиссией, созданной для изучения работы интернет-сайтов и социальных сетей, и в том какую роль они сыграли в террористической атаке».

В письме Сэндберг не дает конкретных указаний на то, что подразумевается под «улучшением системы фильтрации» для видео трансляций в реальном времени, хотя похоже, что в своем первичном варианте ограничения будут основываться на информации о прошлом поведении пользователя в социальной сети. То есть, если человек ранее нарушал стандарты для публикуемых материалов сообщества Facebook, то начать онлайн трансляцию у него уже не получится.

www.nzherald.co.nz 

Напомним, что ранее в этом месяце один из исполнителей нападений на Мечети в Крайстчерч снимал весь акт беспрецедентной бойни в прямом эфире, а затем загрузил видеоролик в Facebook, YouTube, Twitter и Instagram с целью сделать его вирусными. В то время, как первое видео было посмотрено менее чем 200 людей, технологические компании боролись, чтобы воспрепятствовать его дальнейшему распространению. Впервые с подобной ситуацией Facebook столкнулся в недавнем прошлом, когда в 2017 году житель американского города Кливленд провел трансляцию с убийством в прямом эфире и загрузил видео на свою страницу, где оно оставалось в открытом доступе в течение нескольких часов.