Представляем концепцию обеспечения безопасности детей
Программа для борьбы и предотвращения случаев сексуальной эксплуатации детей с использованием искусственного интеллекта
Сексуальная эксплуатация детей является одной из самых острых проблем цифровой эпохи. ИИ стремительно меняет как характер возникновения этих угроз в сфере технологий, так и возможности масштабного противодействия им.
В OpenAI мы разработали и продолжаем совершенствовать средства защиты для предотвращения неправомерного использования наших систем, а также тесно сотрудничаем с такими партнерами, как Национальный центр по розыску и защите эксплуатируемых детей (NCMEC) и правоохранительные органы, для улучшения процессов выявления и передачи информации о нарушениях. Эта работа помогла определить области, где отрасли необходимы более надежные и общие стандарты.
Сегодня мы представляем концептуальный документ (blueprint), который намечает практический путь укрепления механизмов защиты детей в США в эпоху искусственного интеллекта. Этот документ отражает и учитывает отзывы ряда ведущих организаций и экспертов в области детской безопасности, включая NCMEC, Альянс генеральных прокуроров и сопредседателей его рабочей группы по ИИ — генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна —, а также организацию Thorn, что гарантирует соответствие их приоритетам и способствует более эффективному сотрудничеству в целях предотвращения вреда детям.
Концепция сосредоточена на трех ключевых приоритетах: модернизации законодательства для борьбы с материалами о сексуальном насилии над детьми (CSAM), созданными или измененными с помощью ИИ; улучшении отчетности провайдеров и координации для поддержки более эффективных расследований;, а также внедрении мер безопасности на этапе проектирования непосредственно в системы ИИ для предотвращения и выявления злоупотреблений.
Ни одна отдельная мера не способна решить эту проблему в одиночку. Данный подход объединяет юридические, операционные и технические методы для более точного выявления рисков, ускорения реагирования и обеспечения ответственности, при этом гарантируя сохранение эффективности правоохранительных органов по мере развития технологий.
В совокупности эти шаги позволяют индустрии заниматься вопросами детской безопасности на более ранних этапах и с большей эффективностью. Пресекая попытки эксплуатации на более ранних стадиях, повышая качество сигналов, передаваемых в правоохранительные органы, и укрепляя ответственность во всей экосистеме, этот документ призван предотвращать ущерб до его нанесения и обеспечивать более быструю защиту детей при возникновении рисков.
«Будучи сопредседателями рабочей группы по ИИ Альянса генеральных прокуроров, мы приветствуем эту концепцию как значимый шаг на пути к гармонизации практик технологического сектора в области безопасности детей с реалиями правоприменения, с которыми наши офисы сталкиваются ежедневно. Нас особенно воодушевляет понимание в данном документе того факта, что эффективные средства защиты на базе генеративного ИИ требуют многоуровневой обороны — не единичного технического средства контроля, а сочетания методов обнаружения, механизмов отказа в обслуживании, контроля со стороны человека и непрерывной адаптации к возникающим паттернам злоупотреблений. Это отражает то, что мы видим на практике: угроза постоянно эволюционирует, и статические решения недостаточны. Создание правильной архитектуры предотвращения на ранних этапах — это самая эффективная инвестиция, которую индустрия может сделать в безопасность детей.
В конечном счете, сила любой добровольной концепции зависит от конкретности принятых обязательств и готовности индустрии нести за них ответственность. Мы с нетерпением ждем продолжения партнерства с OpenAI, NCMEC и нашими коллегами-генеральными прокурорами, чтобы эти рекомендации превратились в надежную защиту детей».
—Генеральные прокуроры штатов Джефф Джексон (Северная Каролина) и Дерек Браун (Юта), сопредседатели рабочей группы по ИИ Альянса генеральных прокуроров.
«Альянс генеральных прокуроров занимает лидирующие позиции в деле защиты молодежи в Интернете, объединяя генеральных прокуроров, лидеров индустрии, некоммерческие организации и глобальных партнеров для продвижения практичных, дальновидных решений в сфере ИИ и цифровой безопасности. Путем сотрудничества и инноваций Альянс устанавливает высокие стандарты того, как мы защищаем молодежь, ответственно внедряя при этом новейшие технологии. Мы приветствуем неизменную приверженность OpenAI принципам безопасности и взаимодействие с Альянсом и генеральными прокурорами при разработке столь ценной концепции обеспечения безопасности детей».
—Карен Уайт (Karen White), исполнительный директор Альянса генеральных прокуроров
«Генеративный искусственный интеллект ускоряет преступления, связанные с сексуальной эксплуатацией детей в Интернете, крайне тревожным образом: снижая барьеры, увеличивая масштабы и способствуя появлению новых форм причинения вреда. В то же время Национальный центр по розыску и защите эксплуатируемых детей (NCMEC) рад видеть, что такие компании, как OpenAI, задумываются о том, как эти инструменты можно проектировать более ответственно, закладывая средства защиты с самого начала. Ни одна отдельная организация, бизнес или сектор не могут справиться с этим в одиночку. Мы по-прежнему привержены работе с партнерами во всех отраслях, правительстве и сообществе по защите детей ради продвижения решений, которые снижают риски и лучше обеспечивают безопасность детей».
—Мишель ДеЛоун (Michelle DeLaune), президент и генеральный директор Национального центра по розыску и защите эксплуатируемых детей
Автор
Полный текст статьи читайте на OpenAI
