Секретные гайдлайны Facebook о насилии и порнографии
«Пристрелите наконец Трампа» расценивается, как прямая угроза в адрес чиновника, но фраза «сдохни уже наконец» — просто грубая лексика.
Как и подобает крупнейшей в мире социальной сети, Facebook имеет чёткие инструкции по модерации пользовательского контента. The Guardian удалось раздобыть эти методички с правилами, чем журналисты и поделились с общественностью. Откуда у журналистов такая информация, источник не разглашает.
Каждый раз, когда в в сети появляется контент подозрительного содержания, модераторы сидят возле » красной» кнопки и принимают решение — нарушает ли пост правила социальной сети или не нарушает. Именно этот процесс значительно замедляет реакцию модераторов и именно поэтому некоторый контент долгое время висит на страницах пользователей, до тех пор, пока люди в ручном режиме не протестируют его по своим внутренним писаным правилам. С другой стороны, самому модератору нужно принять решение за считанные секунды, а если посмотреть на количество правил, то удивляешься, как вообще это все можно запомнить и анализировать на ходу.
На серии презентаций упоминаются самые разные ситуации — от разжигания вражды до терроризма. Все они предназначены для модераторов, которым пришлось столкнуться с постами, содержащими элементы насилия, угроз, порнографии, детского насилия и зоофилии.
В материалах подробно описываются действия модераторов на конкретных примерах. Знаете ли вы, когда изображение наготы не считается порнографией? Ответ: если фото является новостным либо известным. Подобные ситуации описаны и по поводу насилия и многого другого.
Разбирается и работа с угрозами. Например, «Пристрелите наконец Трампа» расценивается как прямая угроза в адрес чиновника, но фраза «сдохни уже наконец» — лишь использованием «грубой лексики для выражения несогласия».
Facebook также пытается всячески оградить несовершеннолетних от сцен насилия и жестокости, поэтому по решению модераторов подобный контент скрывают от взора детей, а совершеннолетним дают выбор, хотят ли они это видеть.
Интересно то, что некоторые сцены зоофилии социальная сеть намеренно пропускает, чтобы привлечь внимание к проблеме.
Всего над этим трудятся 4500 контент-менеджеров, но в ближайшее время компания планирует нанять ещё 3000 сотрудников — все они ежедневно сталкиваются с миллионами жалоб. Работа довольно стрессовая, ведь иногда на принятие решения у сотрудника есть всего десять секунд.
The Guardian даже запустили интерактивный тест на готовность работать контент-менеджером.
Сложность возникают и в культурных различиях пользователей. Вот, что об этом говорит Моника Биккерт, руководитель отдела глобальной контентной политики Facebook:
«Разные люди имеют разные мнения насчёт того, чем можно делиться».
Все гайды занимают тысячи слайдов и у них есть свои сторонники и противники, поддерживающие свободу слова.
Работа ведётся очень скрупулёзная и этот пример показывает насколько серьёзно люди в Facebook относятся в понятие «контент» и ставят его превыше всего, иногда превыше человеческих понятий о приличии и допустимости. К примеру, некоторые сцены с насилием модератор Facebook не будет полностью «выпиливать» из новостной ленты, а ограничит показ такой информации для несовершеннолетних, а взрослым пользователям даст возможность отказаться от показа подобного контента в дальнейшем, но сам контент не будет удалён из социальной сети.
Представьте себя на месте модератора Facebook, смогли бы вы спокойно пропускать в сеть контент с сомнительным содержанием, ради наглядного примера для публики? Считаете ли вы фразу «Давайте пинать толстых детей» призывом к действию вне зависимости от контекста? Работёнка не из простых.
Интересно узнать, как происходит подобный процесс в социальной сети ВКонтакте, ведь у нас другой менталитет, другие законы, другая «свобода слова».
Источник
