Демократические подходы к искусственному интеллекту
Наша некоммерческая организация OpenAI, Inc. запускает программу по выделению десяти грантов в размере 100 000 долларов США на финансирование экспериментов по созданию демократического процесса определения правил, которым должны следовать системы искусственного интеллекта в рамках, установленных законом.
Искусственный интеллект окажет значительное и далеко идущее влияние на экономику и общество. Технологии формируют жизни людей, то, как мы взаимодействуем друг с другом и как общество развивается в целом. Мы убеждены, что решения о том, как ведет себя ИИ, должны формироваться на основе разнообразных точек зрения, отражающих общественные интересы.
Законы кодифицируют ценности и нормы для регулирования поведения. Помимо правовой базы, искусственный интеллект, подобно обществу, нуждается в более тонких и адаптивных руководящих принципах своего поведения. Например: при каких условиях системы ИИ должны осуждать или критиковать публичных лиц, учитывая различные мнения разных групп об этих людях? Как спорные взгляды должны быть представлены в результатах работы ИИ? Должен ли ИИ по умолчанию отражать образ мыслей типичного жителя планеты, страны пользователя, его демографической группы или нечто совершенно иное? Ни один отдельный человек, компания или даже страна не должны диктовать эти решения.
ОИИ (AGI) должен приносить пользу всему человечеству и формироваться так, чтобы быть максимально инклюзивным. Мы запускаем эту грантовую программу как первый шаг в данном направлении. Мы ищем команды по всему миру для разработки концепт-прототипов демократического процесса, способного ответить на вопросы о том, каким правилам должны следовать системы ИИ. Мы хотим извлечь уроки из этих экспериментов и использовать их в качестве основы для более масштабного и амбициозного процесса в будущем. Хотя эти первоначальные эксперименты (по крайней мере пока) не претендуют на принятие обязательных решений, мы надеемся, что они позволят исследовать актуальные вопросы и создать новые демократические инструменты, которые смогут более напрямую влиять на решения в будущем.
Управление наиболее мощными системами, а также решения, касающиеся их развертывания, должны находиться под строгим общественным контролем. Данный грант представляет собой шаг к созданию демократических процессов надзора за AGI и, в конечном счете, за суперинтеллектом. Средства будут выделены некоммерческой организацией OpenAI, а результаты исследований будут находиться в свободном доступе.
Что мы понимаем под «демократическим процессом»?
Под «демократическим процессом» мы понимаем процедуру, в ходе которой широкая репрезентативная группа людей
Демократическим процессам могут помешать различные проблемы, такие как неспособность должным образом представить меньшинства или группы большинства, манипуляции со стороны групп особых интересов, недостаточная информированность участников или так называемый «отмыв»участия» (participation washing). Мы ищем команды, которые упреждающе борются с этими сценарными сбоями и демонстрируют понимание потенциальных недостатков и рисков различных подходов. В конечном счете, разработка по-настоящему демократических процессов — это высокая планка, и мы рассматриваем наши усилия скорее как дополнение, а не замену государственному регулированию ИИ; эта программа поощряет процессы, основанные на лучших практиках и демократичном духе, предполагающие обсуждение и широкое общественное участие в качестве промежуточных этапов.
Инструкции по участию
Чтобы подать заявку на грант, пожалуйста, отправьте необходимые материалы до 21:00 по тихоокеанскому летнему времени (PDT) 24 июня 2023 года. Вы можете перейти к порталу подачи заявок здесь. Вам будет предложено ответить на ряд вопросов об опыте вашей команды, выбранных вами вопросах, деталях высокого уровня вашего предполагаемого инструмента, а также о вашем плане проведения и оценки демократического процесса с учетом этих факторов. Мы бы хотели, чтобы ваш подход был направлен на решение одного или нескольких политических вопросов из представленного списка. Любой желающий (физические лица или организации) может подать заявку на участие независимо от своего опыта в области социальных наук или ИИ.
После завершения приема заявок мы планируем отобрать десять успешных получателей грантов. Получателями могут быть отдельные лица, команды или организации. Каждый грантополучатель получит 100 000 долларов США для пилотного запуска своего предложения, описанного в заявочных материалах. Ожидается, что получатели гранта создадут концепт-прототип/прототип, привлекут не менее 500 участников и будут обязаны опубликовать публичный отчет о своих выводах до 20 октября 2023 года. Кроме того, в рамках грантовой программы весь код или другая интеллектуальная собственность, разработанная для проекта, должны быть доступны общественности на условиях лицензии с открытым исходным кодом. Условия, применимые к получателям грантов, указаны в Условиях предоставления грантов и любых других соглашениях, которые получателей грантов могут попросить заключить с нами в связи с этой программой.
Подать заявку и начать процесс отправки.
График
- 24 июня 2023 г., 21:00 по тихоокеанскому времени: крайний срок подачи заявки на грант
- 14 июля 2023 г.: успешные заявители будут отобраны и уведомлены
- 20 октября 2023 г.: завершение подготовки публичного отчета о работающем прототипе и результатах
Политические вопросы, рассматриваемые в рамках программы
Для участия команды должны выбрать один или несколько вопросов из предоставленного списка, чтобы продемонстрировать свой предполагаемый подход. При желании они также могут сформулировать собственные вопросы. Важно отметить, что мы поощряем рассмотрение вопросов, на которые нельзя дать простой ответ «да» или «нет», что требует разработки детального политического предложения.
Сфера применения этого гранта касается вопросов политики, связанных с поведением моделей, так как это позволяет проводить A/B-тестирование с измененным поведением моделей в соответствии с рекомендациями политики. Мы признаем ограничения этого гранта и понимаем, что многие проблемы ИИ могут решаться с помощью демократического процесса, выходя за рамки поведения моделей и охватывая такие области, как правила использования ИИ в различных контекстах, экономическое воздействие, распределение выгод и многое другое.
- Как вы думаете, насколько далеко должна заходить персонализация ИИ-ассистентов (вроде ChatGPT) в соответствии со вкусами и предпочтениями пользователя? Какие границы, если таковые имеются, должны существовать в этом процессе?
- Как ИИ-ассистенты должны отвечать на вопросы о взглядах публичных лиц? Например: должны ли они быть нейтральными? Должны ли они отказываться отвечать? Должны ли они предоставлять какие-либо источники?
- При каких условиях (если таковые имеются) ИИ-ассистентам должно быть разрешено давать медицинские, финансовые или юридические советы?
- В каких случаях (если таковые имеются) ИИ-ассистенты должны оказывать эмоциональную поддержку людям?
- Должно ли быть разрешено совместным моделям «зрение — язык» определять по изображениям пол, расу, эмоции и личность/имя людей? Почему да или почему нет?
- Когда генеративные модели создают изображения по недостаточно детализированным запросам вроде «генеральный директор» (CEO), «врач» или «медсестра», они могут выдавать как разнообразные, так и однородные результаты. Как ИИ-моделям следует балансировать между этими возможностями? Какие факторы следует расставлять в приоритете при решении вопроса об изображении людей в таких случаях?
- Какими принципами должен руководствоваться ИИ при работе с темами, затрагивающими как права человека, так и локальные культурные или правовые особенности (например, права ЛГБТ и права женщин)? Должны ли ответы ИИ меняться в зависимости от места или культуры, в которой он используется?
- Создатели каких категорий контента (если таковые имеются), по вашему мнению, должны сосредоточиться на ограничении или запрете со стороны создателей ИИ-моделей? Какие критерии следует использовать для определения этих ограничений?
Основная цель этого гранта — стимулировать инновации в процессах: нам нужны улучшенные демократические методы управления поведением ИИ. Конкретные ответы на вопросы имеют меньшее значение, чем достижения в самом процессе.
Консультативный комитет по рассмотрению заявок
- Колин Мегилл (Colin Megill), соучредитель pol.is
- Элен Ландемор (Hélène Landemore), профессор политологии в Йельском университете
- Авив Овадья (Aviv Ovadya), Центр Беркмана Клейна
Факторы оценки заявок
- Оценка: Мы призываем участников устанавливать метрики для оценки качества своих методов, такие как удовлетворенность участников, сдвиги в поляризации, масштабируемость или другие релевантные показатели, а также изобретать новые метрики для здорового демократического процесса.
- Надежность: Меры по предотвращению или пресечению ненадлежащего поведения, такого как троллинг и фейковые аккаунты.
- Инклюзивность и репрезентативность: Стратегии вовлечения в демократический процесс людей с самым разным бэкграундом и уровнем знакомства с системами ИИ.
- Расширение прав и возможностей меньшинств: Обеспечение того, чтобы непопулярные мнения или мнения меньшинств были услышаны, и предоставление небольшим группам возможности влиять на важные для них вопросы.
- Эффективная модерация: Решение проблем модерации, включая обеспечение разнообразного представления точек зрения, отделение ценного вклада от «нерелевантных» комментариев и предотвращение влияния предвзятости модераторов на процесс.
- Масштабируемость: Мы делаем акцент на масштабируемых процессах, которые могут осуществляться виртуально, а не посредством очного взаимодействия. Мы осознаем, что такой подход может потребовать отказа от некоторых преимуществ, связанных с живым обсуждением, и понимаем, что определенные аспекты могут быть утеряны в виртуальной среде.
- Применимость на практике: Степень практической применимости информации, полученной в ходе процесса обсуждения.
- Прозрачность (понятность): Насколько легко понять процесс и доверять ему.
Сноски
Авторы
Благодарности
Ариэль Прокачча, Авив Овадья, Колин Мегилл, Давид Медина, Дивья Сиддарт, Эла Мадей, Элизабет Сегер, Джиллиан Хэдфилд, Грег Брокман, Элен Ландемор, Илья Суцкевер, Джастин Розенштейн, Маргарет Леви, Михил Баккер, Майлз Брандидж, Мира Мурати, Ноэль Бундик, Памела Мишкин, Райан Лоу, Сафрон Хуанг, Сэм Альтман, Сандини Агарвал, Тедди Ли
Полный текст статьи читайте на OpenAI
