Как OpenAI подходит к выборам по всему миру в 2024 году15.01.2024 08:00

Обновление от 8 ноября 2024 г.:

• В преддверии выборов в США мы внедрили средства защиты, направляющие пользователей к надежным источникам информации, предотвращающие создание дипфейков и противодействующие усилиям злоумышленников. Ниже приведены некоторые предварительные выводы об этих мерах:

Продвижение авторитетных источников информации

• В течение 2024 года мы работали над продвижением надежных источников информации о выборах в ChatGPT. Благодаря нашему сотрудничеству с Национальной ассоциацией секретарей штатов (NASS), пользователям, задававшим ChatGPT конкретные вопросы о голосовании в США (например, где и как проголосовать), предоставлялись ссылки на CanIVote.org⁠. За месяц до выборов примерно 1 миллион ответов ChatGPT перенаправляли пользователей на CanIVote.org⁠. Аналогичным образом, начиная со дня выборов в США, пользователи, запрашивавшие у ChatGPT результаты выборов, получали ответы с призывом проверять такие новостные источники, как Associated Press и Reuters. Около 2 миллионов ответов ChatGPT содержали это сообщение в день выборов и на следующий день.  
• В дополнение к нашим усилиям по перенаправлению пользователей к надежным источникам информации, мы также следили за тем, чтобы ChatGPT не выражал политических предпочтений и не рекомендовал кандидатов, даже когда об этом просили напрямую.

Предотвращение появления дипфейков

• Мы применили меры безопасности к ChatGPT, чтобы отклонять запросы на генерацию изображений реальных людей, включая политиков. Эти защитные механизмы особенно важны в контексте выборов и являются ключевой частью наших более широких усилий по предотвращению использования наших инструментов в обманных или вредоносных целях. По нашим оценкам, за месяц до дня выборов ChatGPT отклонил более 250 000 запросов на создание изображений DALL·E с участием избранного президента Трампа, вице-президента Харрис, избранного вице-президента Вэнса, президента Байдена и губернатора Уолца.

Пресечение действий злоумышленников 

• Центральной частью нашей глобальной работы по выборам в 2024 году было выявление и пресечение попыток использования наших инструментов для генерации контента, используемого в скрытых операциях влияния. В мае⁠ мы начали публично делиться информацией о таких пресечениях, а также опубликовали дополнительные отчеты в августе⁠ и октябре⁠. 
• Наши команды продолжали внимательно следить за нашими сервисами в преддверии дня выборов и не обнаружили свидетельств того, что операции влияния, связанные с выборами в США, привлекли вирусную аудиторию или сформировали устойчивую аудиторию за счет использования наших моделей.

Обновление от 31 октября 2024 г.:

• По мере приближения дня выборов в США наши команды активно тестируют средства защиты, внедренные за последний год, и следят за любыми проблемами или попытками их обхода. Мы будем корректировать наши защитные меры по мере необходимости, основываясь на поступающих данных о том, как пользователи взаимодействуют с нашими инструментами.
• Начиная с 5 ноября, пользователи, обращающиеся к ChatGPT за результатами выборов, увидят сообщение с призывом проверять новостные источники, такие как Associated Press⁠ и Reuters⁠, а также свои государственные или местные избирательные комиссии для получения наиболее полной и актуальной информации.
• Это решение дополняет наше сотрудничество с Национальной ассоциацией секретарей штатов с целью направления людей, ищущих информацию о том, как и где голосовать, на CanIVote.org⁠ — авторитетный веб-сайт с информацией о голосовании в США. ChatGPT продолжит направлять пользователей, задающих такие вопросы, на сайт CanIVote.org вплоть до дня выборов.
  

Обновление от 14 мая 2024 г.:

• В рамках нашей постоянной работы по обеспечению прозрачности контента, созданного ИИ, в этот важный год выборов мы недавно предоставили исследователям ранний доступ к новому инструменту, который помогает идентифицировать изображения, созданные с помощью DALL·E 3 от OpenAI. Мы также вошли в Руководящий комитет C2PA (Коалиции по происхождению и подлинности контента). C2PA — это широко используемый стандарт сертификации цифрового контента, разработанный и принятый широким кругом участников, включая компании-разработчики программного обеспечения, производителей камер и онлайн-платформы. 
• Продолжая наши усилия по направлению пользователей к авторитетным источникам информации о голосовании в США, мы представили новый функционал в преддверии выборов в Европейский парламент 2024 года. Теперь ChatGPT направляет пользователей к официальному источнику информации о выборах Европейского парламента elections.europa.eu⁠ при получении определенных вопросов о выборном процессе, например о том, где голосовать. Это аналогично нашему сотрудничеству с Национальной ассоциацией секретарей штатов (NASS) на президентских выборах в США 2024 года.
• Помимо шагов, предпринимаемых в OpenAI, мы считаем, что важную роль должны играть правительства. Сегодня мы поддерживаем законопроект »О защите выборов от вводящего в заблуждение ИИ⁠» (Protect Elections from Deceptive AI Act), двухпартийный законопроект, предложенный сенаторами Клобучар, Хоули, Кунсом, Коллинз, Рикеттсом и Беннетом в Сенате США. Законопроект запретит распространение вводящих в заблуждение аудио-, видеоматериалов или изображений, созданных ИИ и связанных с федеральными кандидатами в политической рекламе, при этом сохраняя важные исключения для защиты прав Первой поправки. Мы не хотим, чтобы наши технологии — или любые технологии ИИ — использовались для введения избирателей в заблуждение, и считаем, что этот закон представляет собой важный шаг в решении данной проблемы в контексте политической рекламы.

Защита целостности выборов требует совместных усилий во всех сферах демократического процесса, и мы хотим убедиться, что наши технологии не используются способом, способным подорвать этот процесс. 

Наши инструменты помогают людям улучшать свою повседневную жизнь и решать сложные задачи — от использования ИИ для совершенствования государственных услуг⁠ до упрощения медицинских форм для пациентов⁠.

Мы хотим быть уверены, что наши системы ИИ создаются, внедряются и используются безопасно⁠. Как и любые новые технологии, эти инструменты несут как преимущества, так и проблемы. Они также беспрецедентны, и мы продолжим развивать наш подход по мере того, как будем узнавать больше об использовании наших инструментов.

Готовясь к выборам 2024 года в крупнейших демократиях мира, мы стремимся продолжать работу по безопасности нашей платформы, продвигая точную информацию о голосовании, применяя взвешенную политику и повышая прозрачность. У нас есть межфункциональная команда, занимающаяся вопросами выборов, которая объединяет экспертов в области систем безопасности, аналитики угроз, права, инженерии и государственной политики для оперативного расследования и пресечения потенциальных злоупотреблений. 

Ниже приведены ключевые инициативы, в которые инвестируют наши команды в рамках подготовки к выборам этого года:

Предотвращение злоупотреблений

Мы ожидаем и стремимся к тому, чтобы люди использовали наши инструменты безопасно и ответственно, и выборы здесь не исключение. Мы работаем над прогнозированием и предотвращением соответствующих злоупотреблений — таких как вводящие в заблуждение «дипфейки», масштабные операции влияния или чат-боты, выдающие себя за кандидатов. Перед выпуском новых систем мы проводим их тестирование силами «красных команд» (red team), привлекаем пользователей и внешних партнеров для получения отзывов, а также создаем средства защиты для снижения потенциального вреда. Годами мы совершенствовали инструменты для повышения фактической точности, снижения предвзятости и отклонения определенных запросов. Эти инструменты составляют прочную основу для нашей работы по обеспечению целостности выборов. Например, DALL·E имеет защитные механизмы, отклоняющие запросы на генерацию изображений реальных людей, включая кандидатов.

Мы регулярно дорабатываем наши Правила использования⁠ ChatGPT и API по мере того, как узнаем больше о том, как люди используют или пытаются злоупотреблять нашими технологиями. Вот некоторые из них, важные в контексте выборов:  

• Мы все еще работаем над пониманием того, насколько эффективными могут быть наши инструменты для персонализированного убеждения. Пока у нас не будет больше информации, мы не разрешаем создавать приложения для политической агитации и лоббизма. 
• Люди хотят знать и быть уверенными в том, что они взаимодействуют с реальным человеком, бизнесом или правительством. По этой причине мы не разрешаем разработчикам создавать чат-боты, выдающие себя за реальных людей (например, кандидатов) или учреждения (например, местные органы власти). 
• Мы не разрешаем приложения, которые отговаривают людей от участия в демократических процессах — например, искажают информацию о процессах и требованиях к голосованию (например, когда, где или кто имеет право голоса) или отбивают охоту голосовать (например, утверждая, что голос ничего не значит).
• С помощью наших новых GPT пользователи могут сообщать нам о потенциальных нарушениях.

Прозрачность контента, созданного ИИ

Повышение прозрачности происхождения изображений — включая возможность определять, какие инструменты использовались для их создания — помогает избирателям оценивать изображения осознанно и уверенно. Мы работаем над несколькими инициативами в области происхождения контента. Мы внедрили цифровые учетные данные Коалиции по происхождению и подлинности контента⁠ (подход, который кодирует сведения о происхождении контента с помощью криптографии) для изображений⁠, созданных DALL·E 3.

Мы также экспериментируем с классификатором происхождения — новым инструментом для обнаружения изображений, созданных DALL·E. Наше внутреннее тестирование показало многообещающие результаты даже в тех случаях, когда изображения подвергались распространенным типам модификаций. Мы планируем вскоре сделать его доступным для нашей первой группы тестировщиков, включая журналистов, платформы и исследователей, для сбора отзывов.

Наконец, ChatGPT все активнее интегрируется с существующими источниками информации — например, пользователи получат глобальный доступ к новостным репортажам в реальном времени, включая указание авторства и ссылки. Прозрачность происхождения информации и сбалансированность новостных источников могут помочь избирателям лучше оценивать информацию и самостоятельно решать, чему можно доверять.

Улучшение доступа к авторитетной информации о голосовании

В Соединенных Штатах мы сотрудничаем с Национальной ассоциацией секретарей штатов⁠ (NASS), старейшей в стране беспартийной профессиональной организацией должностных лиц. ChatGPT будет направлять пользователей на CanIVote.org — авторитетный веб-сайт с информацией о голосовании в США, когда они задают определенные процедурные вопросы, связанные с выборами (например, где проголосовать). Опыт этой работы ляжет в основу нашего подхода в других странах и регионах. 

В ближайшие месяцы мы сможем поделиться дополнительной информацией. Мы с нетерпением ждем возможности продолжать сотрудничество с партнерами и учиться у них, чтобы предвидеть и предотвращать потенциальные злоупотребления нашими инструментами в преддверии выборов этого года по всему миру.