Обновленная информация о фонде OpenAI

Заметка от Бретта Тейлора, председателя совета директоров фонда OpenAI
Прошлой осенью компания OpenAI объявила о своей рекапитализации, проложив путь для фонда OpenAI к получению значительных ресурсов. Сегодня мы рассказываем о том, как фонд начинает применять эту поддержку на практике.
Наша миссия
Наша миссия — гарантировать, что общий искусственный интеллект принесет пользу всему человечеству. Это многоаспектная задача.
ИИ уже меняет то, как люди работают, учатся и получают медицинскую помощь. Он обладает потенциалом для предоставления исключительных преимуществ: более быстрых медицинских прорывов, ускоренных научных открытий, более персонализированных услуг в здравоохранении и образовании, новых инструментов для творчества и изобретений, повышения производительности и экономического роста, улучшения государственных услуг, таких как транспортные системы, и многого другого. Наша вера в этот потенциал направляла OpenAI с момента ее основания.
Но создание мощных систем на благо человечества — это лишь часть работы в рамках нашей миссии. Передовые модели ИИ также создадут новые проблемы, которые уже проявляются, и мы должны быть готовы выявлять эти проблемы и разрабатывать решения для их преодоления.
Таковы два направления нашей работы по созданию фонда. Мы стремимся задействовать ИИ для поиска решений сложнейших проблем человечества, преобразить возможности людей и принести реальную пользу в их жизнь, одновременно упорно работая с партнерами над подготовкой к новым вызовам и повышением устойчивости общества по мере развития ИИ.
Эта работа только начинается. В течение следующего года, по мере быстрого наращивания темпов, фонд планирует инвестировать не менее 1 миллиарда долларов в такие сферы, как науки о жизни и лечение заболеваний, рабочие места и экономическое воздействие, устойчивость к ИИ и общественные программы. Сюда входят ранние инвестиции в рамках ранее объявленного нами обязательства в размере 25 миллиардов долларов на лечение заболеваний и повышение устойчивости к ИИ.
В предстоящие месяцы мы будем делиться новостями по каждому из этих направлений по мере развития, обучения, совершенствования нашего подхода и продвижения нашей миссии с помощью новых грантов и программ.
Науки о жизни и лечение заболеваний1
Мы начинаем с направления «Науки о жизни и лечение заболеваний», где, как мы верим, ИИ обладает огромным потенциалом для ускорения научного и медицинского прогресса в целях спасения и улучшения жизней. Мы уже наблюдаем множество ранних признаков возможностей ИИ в этих областях. Исследователи используют ИИ для лучшего понимания болезней, поиска новых способов их профилактики и лечения, а также для более быстрого переноса идей из лабораторий к пациентам.
В фонде мы выделили три первоочередных направления, где, по нашему мнению, эта работа может принести реальные результаты:
- ИИ против болезни Альцгеймера: Болезнь Альцгеймера — одно из самых тяжелых и трагических заболеваний, с которыми сталкиваются семьи, и одна из самых сложных проблем в медицине. Способность ИИ анализировать сложные данные может помочь исследователям получить новые знания. Мы будем сотрудничать с ведущими исследовательскими институтами, уделяя первоочередное внимание картированию путей развития болезней, обнаружению биомаркеров для клинической помощи и клинических испытаний, а также ускорению персонализации лечения—включая, по возможности, перепрофилирование существующих молекул, одобренных FDA.
- Общедоступные данные для здравоохранения: Многие из величайших медицинских достижений стали возможны благодаря общим научным данным, а открытый доступ к данным имеет решающее значение для реализации потенциала ИИ в научных прорывах. Мы поможем партнерам создавать и расширять открытые высококачественные наборы данных—и, где это уместно, ответственно открывать ранее закрытые данные, — чтобы исследователи по всему миру могли использовать ИИ и данные для стимулирования прогресса в борьбе с различными заболеваниями.
- Ускорение прогресса в борьбе с заболеваниями с высокой смертностью и тяжелым бременем: Мы верим, что ИИ может способствовать научным прорывам, а также снизить затраты и риски на разработку или перепрофилирование методов лечения, особенно в недостаточно финансируемых областях заболеваний с высоким уровнем смертности и тяжелым бременем. Мы объединим исследователей в области ИИ и экспертов по заболеваниям, начав с целенаправленного семинара, чтобы определить, как наилучшим образом расширить возможности ученых с помощью инструментов ИИ и выявить перспективные возможности.
Джейкоб Трефетен возглавит эту работу в качестве руководителя направления «Науки о жизни и лечение заболеваний». Он переходит к нам из фонда Coefficient Giving, где руководил выделением грантов на науку и здравоохранение на сумму более 500 миллионов долларов.
Рабочие места и экономическое воздействие
ИИ изменит характер работы и экономику, принеся с собой как проблемы, так и возможности. Мы осознаем исключительную важность этого. Фонд начал взаимодействие с экспертами и сообществами — гражданским обществом, владельцами малого бизнеса, профсоюзами, ведущими экономистами, политиками и другими лицами, — чтобы разработать и профинансировать практические решения в этой области. Мы намерены направить значительные ресурсы на поддержку наиболее перспективных подходов и расскажем об этом подробнее в ближайшие недели.
Устойчивость к ИИ
Как сообщалось ранее, программа «Устойчивость к ИИ» также станет одной из наших ключевых программ. Эта работа сосредоточена на новых проблемах, которые неизбежно возникают в связи с появлением более мощных систем ИИ, чтобы люди могли в полной мере извлекать пользу из ИИ способами, поддерживающими и расширяющими свободу действий, креативность и возможности человека.
Первоначально мы сосредоточимся на нескольких областях, где обеспокоенность по поводу последствий уже очевидна и где, по нашему мнению, ранние шаги могут принести реальный результат:
- Влияние ИИ на детей и молодежь: Мы хотим помочь обеспечить безопасность инструментов ИИ для молодежи и поддержать ее здоровое развитие. Это включает в себя инвестиции в основанные на данных исследования и оценку, а также сотрудничество в различных областях для выявления надлежащих мер защиты, которые гарантируют безопасное и полезное взаимодействие между ИИ, детьми и молодежью.
- Биобезопасность: Мы хотим укрепить готовность общества к потенциальным биологическим угрозам—как природного происхождения, так и вспышкам, вызванным ИИ. Это включает в себя улучшение методов обнаружения, предотвращения и смягчения последствий.
- Безопасность моделей ИИ: Мы хотим, чтобы системы ИИ были безопасными по умолчанию. Это означает поддержку независимого тестирования и оценки, разработку новых и более строгих отраслевых стандартов, а также финансирование фундаментальных исследований, помогающих избегать проблем безопасности либо своевременно выявлять их и устранять.
Войцех Заремба, соучредитель OpenAI, присоединяется к фонду в качестве руководителя направления по устойчивости к ИИ для руководства этой работой.
Поддержка сообществ
Вскоре мы объявим о финальной волне грантов из первоначального фонда «People-First AI Fund», а также предоставим более подробную информацию о дальнейших шагах.
Благодаря этой работе, запущенной по рекомендации нашей некоммерческой комиссии, мы убедились, что общественные организации обладают уникальными возможностями помогать людям справляться с изменениями, вызванными ИИ. Эти группы, пользующиеся высоким доверием, находятся ближе всего к сообществам, которым они служат, и ведут важнейшую работу на местах.
Мы продолжим инвестировать в инициативы, поддерживающие сообщества, уделяя особое внимание тому, чтобы помочь людям понять ИИ, воспользоваться его возможностями и адаптироваться к изменениям, которые он приносит.
Формирование нашей команды
Помимо Войцеха и Джейкоба, мы формируем команду для масштабного продвижения нашей работы.
В середине апреля Анна Маканю присоединится к нам в качестве руководителя направления «ИИ для гражданского общества и филантропии», чтобы возглавить работу фонда по использованию ИИ для помощи некоммерческим организациям, НПО, филантропическим институтам и более широкой экосистеме гражданского общества в ускорении и масштабировании их влияния. Ранее Анна занимала должность вице-президента по глобальному влиянию в OpenAI. Мы с нетерпением ждем возможности поделиться подробностями об этой работе в ближайшие недели.
Роберт Кайден присоединяется к команде в качестве финансового директора. Ранее Роберт занимал руководящие должности в Deloitte, Twitter и Inspirato. Он поможет обеспечить работу фонда со строгой финансовой дисциплиной по мере нашего роста.
Джефф Арнольд присоединяется в качестве директора по операционной деятельности. Джефф был одним из первых сотрудников OpenAI. Он посвятил свою карьеру созданию и масштабированию компаний, в том числе занимая руководящие должности в Oracle и Dropbox. Он поможет выстроить операционные системы, необходимые для достижения целей фонда.
Совет директоров фонда также ведет поиск исполнительного директора. Мы продолжим пополнять команду в ближайшие месяцы.
Что будет дальше
Мы все еще находимся в самом начале того, что может сделать возможным ИИ.
Наша возможность—и ответственность—заключается в том, чтобы эти технологии приводили к реальному прогрессу для людей. Мы будем быстро учиться, тесно сотрудничать с партнерами и инвестировать в решения, способные масштабироваться и трансформироваться.
Наша цель — помочь еще большим людям решать сложнейшие задачи, лучше заботиться о тех, кого они любят, и строить полноценную жизнь, которая раньше казалась недостижимой.
Мы с воодушевлением ждем предстоящей работы и будем делиться подробностями в ближайшие месяцы.
Автор
1 Эта программа, ранее именовавшаяся «Здравоохранение и лечение заболеваний», была переименована в «Науки о жизни», чтобы отразить фокус фонда на продвижении биологических и медицинских исследований как основы для излечения болезней.
Полный текст статьи читайте на OpenAI
