Зико Колтер вошел в совет директоров OpenAI08.08.2024 12:00

Мы усиливаем систему управления экспертами в области безопасности и соответствия ИИ. З также войдет в Комитет по безопасности и защите.

Hero > Zico Kolter Joins OpenAI«s Board of Directors > Media Asset» src=«https://images.ctfassets.net/kftzwdyauwt9/2NtYceWBll9u2cQFOlXEra/4d9c9c1de1bea33f71f8c7ba5d22c2e5/DALL_E_2024–08–27_20.39.png? w=3840&q=90&fm=webp» /></div></div></div></div></div></div></div></div></div></div> <div><div><div><p><span>Мы объявляем о назначении Зико Колтера в совет директоров OpenAI. Будучи профессором и директором Департамента машиннного обучения в Университете Карнеги-Меллона, Зико сосредоточен в своей работе преимущественно на безопасности ИИ, соответствии нормам и устойчивости алгоритмов машинного обучения. Его исследования и опыт охватывают новые архитектуры глубоких сетей, инновационные методологии понимания влияния данных на модели, а также автоматизированные методы оценки устойчивости моделей ИИ, что делает его бесценным техническим директором для нашего руководства.</span></p><p><span>Зико также войдет в <span>Комитет по безопасности и защите</span>⁠<span> совета директоров наряду с такими директорами, как Брет Тейлор, Адам Д«Анджело, Пол Накасоне, Николь Селигман и Сэм Альтман (генеральный директор), а также техническими экспертами OpenAI. Комитет отвечает за выработку рекомендаций по ключевым решениям в области безопасности и защиты для всех проектов OpenAI. </span></p><p><span>Приветствуя Зико в совете директоров, председатель совета Брет Тейлор отметил: «Зико привносит глубокое техническое понимание и перспективы в вопросах безопасности и устойчивости ИИ, что поможет нам гарантировать, что общий искусственный интеллект принесет пользу всему человечеству». </span></p><p><b><span>Зико Колтер </span></b><span>— профессор компьютерных наук и руководитель Департамента машинного обучения в Университете Карнеги-Меллона, где он играет ключевую роль на протяжении 12 лет. Зико получил степень доктора философии по компьютерным наукам в Стэнфордском университете в 2010 году, после чего прошел постдокторскую стажировку в Массачусетском технологическом институте с 2010 по 2012 год. За свою карьеру он внес значительный вклад в область машинного обучения, став автором многочисленных отмеченных наградами научных работ для таких престижных конференций, как NeurIPS, ICML и AISTATS.</span></p><p><span>Исследования Зико включают разработку первых методов создания моделей глубокого обучения с гарантированной устойчивостью. Он стал пионером в разработке техник встраивания жестких ограничений в модели ИИ с использованием классической оптимизации внутри слоев нейросетей. Совсем недавно, в 2023 году, его команда разработала инновационные методы автоматической оценки безопасности больших языковых моделей (LLM), продемонстрировав возможность обхода существующих средств защиты моделей с помощью методов автоматизированной оптимизации. Помимо академической деятельности, Зико на протяжении всей своей карьеры тесно сотрудничал с индустрией: ранее он работал главным специалистом по работе с данными в C3.ai, а в настоящее время занимает должность главного эксперта в Bosch и главного технического советника в Gray Swan — стартапе, специализирующемся на безопасности и защите ИИ.</span></p></div></div></div> <div><div><div><div><h2>Автор</h2><div>OpenAI</div></div></div></div></div> <p class=Полный текст статьи читайте на OpenAI