Google улучшила алгоритмы автоматической модерации Youtube
Компания Google опубликовала на своём сайте поддержки информацию об улучшении работы алгоритмов автоматической модерации на своем видеосервисе Youtube. Как заявила администрация видеохостинга, алгоритмы будут эффективнее справляться со спамом и оскорблениями в комментариях. Также разработчики пояснили, что активным сетевым хулиганам будут выноситься предупреждения и выдаваться временные ограничения пользования платформой.
В посте говориться об удалении на YouTube более 1,1 млрд комментарий содержащих спам за первую половину 2022 года. Как утверждают разработчики, спамеры постоянно меняют тактику и для этого приходится постоянно совершенствовать модели машинного обучения, чтобы они могли эффективнее обнаруживать нежелательный контент.
Эти защитные ИИ-алгоритмы работают не только в комментариях под видео, они будут работать в чатах прямых трансляций. Также при удалении системой нескольких комментариев оскорбительного характера от одного пользователя, ему будет вынесено предупреждение о недопустимости нарушения политики ресурса. Если же он будет игнорировать выданное предупреждение, его забанят на 24 часов и он не сможет оставлять комментарии.
Администрацией YouTube утверждает, что проведённое ими собственное исследование, показывает снижение вероятности оскорбительного поведения пользователя при использовании озвученных мер. Сейчас предупреждения выносятся в англоязычном сегменте платформы, но их функции расширят и на другие сегменты Youtube.
