Создана программа для удаления женоненавистнических сообщений29.08.2020 21:03

Может определять контекст сообщения

7bc5f262a2270d79f42a78d9f2020cf4074c1efe

Исследователи из Квинслендского технологического университета создали алгоритм для удаления женоненавистнических сообщений из Twitter. При этом программа, как утверждается, может отличить сарказм от настоящего оскорбления.

Сначала исследователи обучали алгоритм на миллионе твитов. Затем они уточнили датасет, поискав сообщения с тремя ключевыми словами: «whore», «slut», «rape». Исследователи также классифицировали твиты на основании того, женоненавистнические они или нет, опираясь на контекст сообщений. В итоге алгоритм научился искать мизогинические публикации.

Исследователи отметили, что своеобразной победой стал момент, когда программа смогла обозначить фразу «возвращайся на кухню» как женоненавистническую. Это значило, что алгоритм научился учитывать контекст.

Авторы разработки утверждают, что система способна определять мизогинические твиты с 75-процентной точностью. Исследователи надеются, что их алгоритм поможет защитить женщин в интернете.