Искусственный интеллект оказался предвзят к бедным людям

Он хуже распознаёт их предметы быта
e999f5e8a03eff6640fbc67bc62eab801f626080
Компания Facebook провела исследование систем компьютерного зрения для распознавания образов на изображениях. Оказалось, что алгоритмы, лежащие в основе таких систем, лучше справляются с задачей, когда работают с фотографиями обеспеченных людей из развитых стран.

Специалисты из Facebook изучили шесть систем: Google Cloud, Microsoft Azure, AWS, IBM Watson, Clarifai и собственную. Эти алгоритмы инженеры тестировали на базе данных Dollar Street с фотографиями предметов быта из 50 стран. Снимки были отсортированы по географическому признаку и по уровню доходов семей, в домах которых они были сделаны.

Оказалось, что искусственный интеллект на 10–20% лучше распознаёт предметы на фотографиях, сделанных в домах богатых людей из Северной Америки и Европы. Объекты в домах бедных жителей Азии и Африке системы идентифицируют хуже.

Вероятнее всего, разница обусловлена тем, что искусственный интеллект обучают на изображениях, полученных в развитых странах.

a2e011c9a44fd4d2bdb9e73275963f51a9791f33

На фото показаны ошибки систем в распознавании предметов

Facebook

©  Ferra.ru