Фотографии пользователей Copilot без цензуры попадают на проверку людям, сообщает 404 Media
- Подрядчики, оценивающие качество Copilot, видят исходный запрос, загруженное фото и два варианта изображения; лица на фото не скрыты.
- 404 Media сообщило о сексуальных запросах, подборке из восьми фотографий из-под юбки и материалах, пропагандирующих анорексию.
- Microsoft заявила, что использует данные клиентов для улучшения продуктов и соблюдения кодекса поведения.
Почему это важно: Документы показывают, что проверка людьми распространяется не только на переписки, но и на фотографии, загружаемые в Copilot.
Подрядчики-люди, нанятые для улучшения Copilot от Microsoft, видят фотографии, которые пользователи загружают для редактирования с помощью ИИ, — лица на них не скрыты, — сообщил в понедельник Джозеф Кокс в материале для 404 Media. По внутренним документам, полученным изданием, подрядчики также видят запросы пользователей, многие из которых носят сексуальный характер.
«Лица всегда остаются открытыми, а многие запросы носят сексуальный характер и вызывают сомнения с точки зрения согласия», — рассказал 404 Media один из тех, кто работает с запросами.
Документы включают руководства с инструкциями, реальные запросы Copilot и фотографии, а также сообщения с внутреннего форума для подрядчиков. TNW не видел этих материалов.
Что видят проверяющие
В каждом задании подрядчик видит исходный запрос пользователя, загруженную фотографию и два варианта изображения, созданных Copilot. Он выбирает лучший вариант и оценивает, следует ли тот инструкциям, остаётся ли остальная часть изображения неизменной, нет ли искажений и хорошо ли он выглядит в целом.
Как сообщило 404 Media, задача подрядчиков — не выявлять оскорбительный или вредоносный контент. Им платят за оценку качества результатов Copilot, в том числе когда запрос носит сексуальный характер. В инструкциях предлагается доверять своей интуиции.
«Ваша непосредственная реакция как зрителя имеет значение», — говорится в инструкциях.
Фотографии из-под юбки и запросы, пропагандирующие анорексию
Подрядчики рассказывали о запросах укоротить женщинам юбки, увеличить грудь или поместить людей в сексуальные позы. Один из них сообщил о подборке из восьми фотографий из-под юбки и попросил пометить задание как содержащее небезопасный контент. Другие говорили, что видели материалы, пропагандирующие анорексию. Один подрядчик сообщил о запросе, который, по-видимому, был предназначен для создания провокационного изображения группы маленьких девочек.
«Кто пишет эти запросы и кто решает, что теперь Copilot в основном должен генерировать порно?» — написал один из подрядчиков на форуме.
Как сообщило 404 Media, по крайней мере одна компания, нанимающая таких подрядчиков, — Prolific. Prolific не ответила на запрос 404 Media о комментарии. Microsoft сослалась на свои условия использования.
«Microsoft использует данные клиентов так, как описано в наших условиях использования, в том числе для улучшения продуктов и обеспечения соблюдения нашего кодекса поведения», — заявил представитель Microsoft в комментарии для 404 Media.
Copilot не одинок
Ранее в этом месяце 404 Media сообщило, что подрядчики OpenAI тоже читают реальные переписки в ChatGPT. Документы о Copilot показывают, что проверка людьми распространяется и на фотографии, загружаемые пользователями, сообщает 404 Media.
На прошлой неделе Microsoft представила новое приложение Copilot с инструментами для программирования и постоянно работающим агентом под названием Autopilot. Джейкоб Андреу, исполнительный вице-президент, который руководит Copilot, в понедельник дал интервью Business Insider. По его словам, больше всего Microsoft беспокоит риск «диффузии» ИИ — его широкого распространения по всей экономике.
