Исследования экономических последствий в OpenAI03.03.2022 08:00

Важнейшей частью нашей миссии по обеспечению того, чтобы общий искусственный интеллект приносил пользу всему человечеству, является понимание экономических последствий, которые наши модели оказывают или будут оказывать на отдельных людей и общество в целом. Разработка инструментов для тщательной оценки экономического воздействия наших моделей имеет решающее значение для принятия более разумных решений в области разработки и внедрения, а также важна для формирования вариантов государственной политики, которые максимизируют благосостояние людей и минимизируют риск экономических потерь от ИИ. Наша способность генерировать высококачественные данные для принятия этих решений будет существенно расширена за счет развития разнообразных продуктивных исследовательских партнерств, и мы твердо убеждены, что разработчики ИИ должны поддерживать внешних исследователей, проводящих эту работу, а не ограничиваться проведением исследований исключительно собственными силами.

Исходя из этой посылки, вы можете ознакомиться с нашей первой публичной программой исследований по этим темам⁠. В ней описаны наши предварительные приоритеты в исследованиях экономических последствий больших языковых моделей в целом. Мы рады дополнить эту исследовательскую программу конкретными действиями, направленными на содействие более точной оценке экономического воздействия наших моделей. Мы объявляем о приеме заявок от исследователей, заинтересованных в изучении экономических последствий Codex и других наших релизов больших языковых моделей, таких как GPT-3, ChatGPT и DALL-E 2, а также запускаем портал для клиентов, желающих выразить заинтересованность в поддержке этой работы. Более подробную информацию о том и другом вы найдете ниже.

Важность изучения экономических последствий

Как компания, занимающаяся исследованиями и развертыванием ИИ, OpenAI признает, что наши решения в отношении проектирования и внедрения систем ИИ могут влиять на экономические последствия и распределение экономических выгод от достижений в области ИИ. Несмотря на значительный технологический прогресс за последние несколько десятилетий, прирост экономического благосостояния распределился неравномерно. В США тенденции в области неравенства доходов и благосостояния за последние сорок лет демонстрируют тревожные темпы экономического расхождения и неравного доступа к возможностям.1 Хотя недавние данные свидетельствуют о том, что существует минимальный непосредственный риск массовой технологической безработицы из-за ИИ, очевидно, что влияние всё более совершенного ИИ на рынок труда будет существенно различаться для разных категорий работников.2 Шоки на рынке труда, даже если они носят временный характер, оказывают широкомасштабное негативное влияние на благополучие отдельных людей, 3, а усиление экономического неравенства может усугубить социальные расколы.4

Мы стремимся поддерживать и проводить исследования, которые могут повлиять на принятие решений в трех направлениях:

1. Политика внедрения ИИ
2. Решения по проектированию систем ИИ
3. Меры государственной политики, опирающиеся на реальные данные.

Нам необходимо заниматься исследованиями экономического воздействия наших моделей уже сегодня, чтобы быть готовыми оценивать безопасность разработки и выпуска более мощных систем в будущем. Недавние релизы наших моделей, такие как Codex, DALL·E 2 и ChatGPT, предоставляют реальные возможности для создания основы для подобных исследований в дальнейшем.

Процесс подачи заявок для исследователей

В настоящее время мы принимаем заявки от исследователей со степенью PhD, включая текущих аспирантов. Исследовательское сотрудничество может принимать самые разные формы: от включения в нашу расширенную исследовательскую когорту и приглашения к участию в тестах на безопасность (red teaming) до предоставления грантов на кредиты API. Мы будем работать с потенциальными партнерами над индивидуальной настройкой нашего сотрудничества, чтобы обеспечить максимально продуктивные рабочие отношения. В дальнейшем мы хотели бы иметь возможность связывать исследователей с клиентами, которые создают продукты на базе больших языковых моделей и напрямую контактируют с работниками и потребителями, а также оказывают на них непосредственное влияние.

При оценке заявок мы будем учитывать ваш бэкграунд и опыт, ясность мотивации к сотрудничеству с OpenAI, а также четкость и значимость для принятия решений ваших исследовательских интересов в области экономического воздействия больших языковых моделей.

Если вы хотите подать заявку на участие в качестве исследователя-партнера, пожалуйста, используйтеэту форму⁠.

Процесс подачи заявок для компаний и пользователей инструментов OpenAI

Мы также находимся в процессе установления связей между исследователями и компаниями, которые имеют наилучшие возможности для поддержки конкретных исследовательских интересов. Мы намерены способствовать обсуждениям между внешними исследователями, разработчиками ИИ, компаниями, внедряющими ИИ, и работниками из различных отраслей, затронутых достижениями в области ИИ, чтобы расширить круг точек зрения, способных формировать вектор разработки и внедрения ИИ.

Если вы представляете компанию или являетесь пользователем наших моделей или продуктов и хотите узнать, как вы можете внести свой вклад или спонсировать исследования экономических последствий систем ИИ, пожалуйста, заполнитеэту форму⁠.

Дополнительная информация

Если у вас есть какие-либо вопросы о формах заявки или призыве к подаче выражений заинтересованности, пожалуйста, свяжитесь с нами по адресу econ@openai.com⁠.

1. 1

   Chetty, Raj, et al. «The fading American dream: Trends in absolute income mobility since 1940.» Science 356.6336 (2017): 398–406.; Saez, Emmanuel, and Gabriel Zucman. «The rise of income and wealth inequality in America: Evidence from distributional macroeconomic accounts.» Journal of Economic Perspectives 34.4 (2020):  3–26.

2. 2

   Autor, David, David Mindell, and Elisabeth Reynolds. «The work of the future: Building better jobs in an age of intelligent machines.» Boston: MIT.https://workofthefuture.mit.edu/wp-content/uploads/2021/01/2020-Final-Report4.pdf⁠vom 18 (2020):  2020.

3. 3

   Brand, Jennie E. «The far-reaching impact of job loss and unemployment.» Annual review of sociology 41 (2015):  359–375.

4. 4

   Van de Werfhorst, Herman G., and Wiemer Salverda. «Consequences of economic inequality: Introduction to a special issue.» Research in Social Stratification and Mobility 30.4 (2012):  377–387.