Пол Кристиано вошел в Совет директоров OpenAI Foundation
Пол Кристиано также вознамет войти в Комитет по безопасности и защищенности Фонда.
Мы объявляем о назначении Пола Кристиано в Совет директоров OpenAI Foundation. Он будет наблюдателем без права голоса в Совете директоров OpenAI Group PBC.
Пол также войдет в состав Комитета по безопасности и защищенности (SSC) Совета директоров Фонда, работая бок о бок с его председателем Зико Колтером. SSC осуществляет управление практиками безопасности и защищенности во всей компании OpenAI, включая OpenAI Group PBC.
Пол обладает опытом работы в правительственных структурах в период двух администраций благодаря своей деятельности в Центре стандартов и инноваций в области искусственного интеллекта (CAISI) при Национальном институте стандартов и технологий (NIST), агентстве Министерства торговли США, где он работает старшим техническим советником1. За время работы в CAISI и его предшественнике, Институте безопасности ИИ США, Пол занимался оценкой передовых моделей ИИ, включая возможности, имеющие значение для национальной безопасности, а также разработкой подходов к снижению сопутствующих рисков в сфере безопасности и защищенности.
Пол также является основателем Центра исследований согласованости (Alignment Research Center, ARC), некоммерческой исследовательской организации, занимающейся проблемой согласования передовых систем ИИ с интересами человека. С 2017 по 2021 год Пол руководил исследованиями по согласованности в OpenAI и внес основополагающий вклад в работу над обучением с подкреплением на основе отзывов человека (RLHF). В новом качестве Пол привносит четкую и технически обоснованную перспективу в решения OpenAI по управлению. Наша миссия — гарантировать, что общий искусственный интеллект принесет пользу всему человечеству.
»Пол помог определить область согласования ИИ посредством работы, которая отличается строгостью и сосредоточена на самых сложных вопросах, возникающих в связи с появлением все более мощных систем. Его опыт работы в области безопасности передового ИИ и стандартов в правительстве, наряду с его техническими экспертными оценками, усилит надзор со стороны Совета директоров и работу Комитета по безопасности и защищенности по мере того, как OpenAI продолжает разрабатывать и внедрять передовой ИИ.»Брет Тейлор, председатель советов директоров OpenAI Foundation и OpenAI Group PBC
»Возможности ИИ развивались очень быстро за последний год, а согласованность остается сложной технической проблемой, из-за чего ответственность Комитета по безопасности и защищенности становится более важной и сложной, чем когда-либо. Я рад присоединиться к команде, чтобы помочь в этой работе.»Пол Кристиано
»Пол помог определить область согласования ИИ посредством работы, которая отличается строгостью и сосредоточена на самых сложных вопросах, возникающих в связи с появлением все более мощных систем. Его опыт работы в области безопасности передового ИИ и стандартов в правительстве, наряду с его техническими экспертными оценками, усилит надзор со стороны Совета директоров и работу Комитета по безопасности и защищенности по мере того, как OpenAI продолжает разрабатывать и внедрять передовой ИИ.»Брет Тейлор, председатель советов директоров OpenAI Foundation и OpenAI Group PBC
ИИ вступает в новую эру возможностей, что делает все более важным то, чтобы достижения в этих системах сопровождались надежными мерами безопасности, защищенности, согласованности и управления. На протяжении всей своей карьеры исследователя в области согласования ИИ Пол придерживается подхода, который серьезно относится к возможности того, что передовой ИИ может представлять катастрофические риски и что разработчики должны подготовиться до того, как системы достигнут более опасных уровней возможностей. Он выступает в роли независимого эксперта по вопросу о том, являются ли отраслевые меры предосторожности достаточными. Мы верим, что система управления Фонда станет сильнее благодаря людям, готовым бросить вызов преобладающим предположениям и помочь укрепить доказательную базу, средства защиты и подотчетность, лежащие в основе важнейших решений.
Назначение Пола опирается на структуру управления, созданную в результате рекапитализации OpenAI в октябре 2025 года, включая обязательства, принятые в связи с проверками, проводившимися в течение года генеральным прокурором Калифорнии и генеральным прокурором Делавэра. Их участие помогло укрепить систему управления.
Об OpenAI Foundation
OpenAI Foundation — это благотворительная организация, стремящаяся обеспечить то, чтобы искусственный интеллект приносил пользу всему человечеству. Будучи отдельной некоммерческой организацией, Фонд ведет собственную благотворительную деятельность, сохраняя при этом контроль и владеющий значительной долей в акционерном капитале OpenAI Group PBC. Фонд поддерживает инициативы, способствующие научным открытиям, укреплению гражданского общества и повышению устойчивости за счет ответственного использования ИИ. Посредством грантов, партнерств и других филантропических инициатив Фонд помогает ускорить работу, которая приносит долгосрочную общественную пользу и расширяет доступ к преобразующему потенциалу ИИ.
Фонд контролирует OpenAI Group PBC, причем Комитет по безопасности и защищенности является комитетом Совета директоров Фонда. Узнайте больше на сайте www.openaifoundation.org.
Автор
Сноски
- 1
В качестве старшего технического советника Пол возьмет самоотвод по всем вопросам, связанным с OpenAI, а также по всем оценкам моделей.
Полный текст статьи читайте на OpenAI
