Совет директоров OpenAI сформировал комитет по безопасности и защите
Этот новый комитет будет отвечать за подготовку рекомендаций по критически важным решениям в области безопасности и защиты для всех проектов OpenAI; рекомендации будут представлены в течение 90 дней.
Обновлено 18 июня 2024 г.
После своего назначения в Совет директоров OpenAI отставной генерал армии США Пол М. Накасоне вошел в состав Комитета по безопасности и защите.
Сегодня Совет директоров OpenAI сформировал Комитет по безопасности и защите, в который вошли директора Брет Тейлор (председатель), Адам Д«Анджело, Николь Селигман и Сэм Альтман (генеральный директор). Этот комитет будет отвечать за подготовку рекомендаций для всего Совета директоров по критически важным решениям в области безопасности и защиты для проектов и операций OpenAI.
Компания OpenAI недавно приступила к обучению своей новой передовой модели, и мы ожидаем, что создаваемые системы выведут нас на следующий уровень возможностей на пути к искусственному интеллекту общего назначения (AGI). Мы гордимся тем, что создаем и выпускаем модели, лидирующие в отрасли как по своим возможностям, такем и по безопасности, и приветствуем конструктивные дискуссии в этот важный момент.
Первой задачей Комитета по безопасности и защите станет оценка и дальнейшая разработка процессов и мер защиты OpenAI в течение следующих 90 дней. По истечении этого срока Комитет по безопасности и защите представит свои рекомендации полному составу Совета директоров. После рассмотрения Советом директоров компания OpenAI публично поделится информацией о принятых рекомендациях способом, соответствующим требованиям безопасности и защиты.
В состав комитета также войдут технические эксперты и эксперты по политике OpenAI: Александер Мадры (руководитель направления обеспечения готовности), Лилиан Венг (руководитель систем безопасности), Джон Шульман (руководитель направления науки об исконной совместимости/alignment), Мэтт Найт (руководитель отдела безопасности) и Якуб Пачоцки (главный научный сотрудник).
Кроме того, OpenAI привлечет к работе других экспертов по безопасности и техническим вопросам в качестве консультантов, включая бывших чиновников по кибербезопасности Роба Джойса, консультирующего OpenAI по вопросам безопасности, и Джона Карлина.
Авторы
Полный текст статьи читайте на OpenAI
