Twitter исправит алгоритм автоматической обрезки изображений после жалоб на его расовую предвзятость
Фото: The Verge
Twitter изменит функцию автоматической обрезки изображений после того, как пользователи пожаловались на ее предвзятость. По их сообщениям, при попытке обрезать снимки алгоритм выделял людей с более светлой кожей вне зависимости от того, где располагался фокус исходного изображения. Версия пользователей подтверждалась даже в экспериментах с мультяшными героями и черными и белыми собаками.
Компания заявляет, что работает над тем, чтобы «уменьшить зависимость» от автоматической обрезки, а пользователи могли в конечном итоге контролировать, как их изображения отображаются в твите. «Мы надеемся, что предоставление людям большего выбора для обрезки изображений и предварительного просмотра того, как они будут выглядеть в твите, может помочь снизить риск причинения вреда», — говорится в блоге компании.
В Twitter пообещали стремиться к принципу «что видишь, то и получаешь». Пока не ясно, когда и как эти изменения могут быть реализованы.
При этом компания сообщила, что провела собственное тестирование функции. В ходе теста составили пары по демографическому принципу. Затем два лица со снимка объединили в одно изображение, рандомизировав их порядок, и попробовали вычислить карту значимости. Максимум на этой значимости относили к определенной демографической категории. Опыт повторили 200 раз для каждой пары. Twitter утверждает, что эксперимент не выявил «расовых или гендерных предубеждений».
Планируется отдельное тестирование функции с участием широкой общественности.
Twitter представил функцию обрезки изображения в 2018 году, заявив, что она предназначена для выделения «заметных» областей с помощью нейронных сетей.
См. также:
