OpenAI предлагает десять грантов по $100 тыс. на «создание прототипов демократического процесса управления ИИ»
OpenAI запустила серию грантов по $100 000 для создателей прототипов демократического пути развития ИИ. Компания рассчитывает получить идеи о том, как должен развиваться ИИ, который будет приносить пользу всему человечеству.
Гранты смогут получить как физлица, так и организации. В OpenAI уточняют, что концепции, которые представят участники программы, не предназначены для принятия решений, но они могут стать основой для разработки инструментов регулирования ИИ.
«Этот грант представляет собой шаг к установлению демократических процессов для надзора за сверхразумом», — пишет OpenAI.
Под демократическим путём развития ИИ OpenAI понимает «широко репрезентативную группу людей, которые обмениваются мнениями и участвуют в обдуманных дискуссиях», что обеспечивает прозрачность принятия решений.
«Основная цель этого гранта — способствовать инновациям в процессах. Мы считаем, что решения о том, как ведёт себя ИИ, должны формироваться с учётом различных точек зрения, отражающих общественные интересы».
Подать заявку на участие в программе можно с 24 мая по 24 июня. Создатели десяти лучших проектов должны будут продемонстрировать концепцию с участием не менее 500 человек и опубликовать отчёт о своих выводах до 20 октября.
OpenAI также призвала создать международный регулирующий орган для ИИ (аналогичный регулятору для ядерной энергетики). Как заявили соучредители компании Сэм Альтман, Грег Брокман и Илья Суцкевер, при существующих темпах развития ИИ это необходимо.
«С развитием технологии мы понимаем, что люди взволнованы тем, как она может изменить наш образ жизни. Мы тоже взволнованы. Если эта технология пойдёт по неверному пути, она может пойти совсем не так», — заявил Альтман на слушаниях в Сенате США. Он добавил, что, по его мнению, индустрия ИИ может нанести «существенный вред миру».
Альтман считает, что подобный регулятор обязательно должен ввести определённые ограничения на развитие ИИ-систем и чат-ботов на их основе. Например, требовать немедленной блокировки моделей ИИ, которые способны «самовоспроизводиться и самоэксфильтрироваться в дикой природе».
