Пресечение вредоносного использования ИИ21.02.2025 06:30

Наша миссия — гарантировать, что искусственный интеллект общего назначения принесет пользу всему человечеству. Мы продвигаем эту миссию, внедряя наши инновации для создания инструментов на базе ИИ, которые помогают людям решать действительно сложные задачи.

Как мы изложили в нашем экономическом плане в январе, мы верим, что обеспечение максимальной пользы ИИ для людей означает регулирование ИИ с помощью здравых правил, направленных на защиту людей от реального вреда, и построение демократического ИИ. Это включает в себя предотвращение использования инструментов ИИ авторитарными режимами для накопления власти и контроля над своими гражданами, а также для угроз или принуждения других государств;, а также такую деятельность, как эксплуатация детей, тайные операции по влиянию (IO), мошенничество, спам и вредоносная киберактивность. Исследовательские возможности на базе ИИ, проистекающие из инноваций OpenAI, предоставляют ценные инструменты для защиты демократического ИИ от мер враждебных авторитарных режимов.

Прошел ровно год с тех пор, как OpenAI стала первой исследовательской лабораторией в области ИИ, опубликовавшей отчеты о мерах по пресечению нарушений в рамках поддержки более широких усилий правительств США и их союзников, отраслевых партнеров и других заинтересованных сторон по предотвращению злоупотреблений со стороны противников и других злоумышленников. В этом новейшем отчете описываются некоторые тенденции и особенности нашей работы на базе ИИ, а также приводятся тематические исследования, освещающие типы угроз, которые мы пресекли.