Протидействие вредоносному использованию ИИ: октябрь 2025 г.07.10.2025 03:00

Наша миссия — гарантировать, что искусственный интеллект общего назначения приносит пользу всему человечеству. Мы продвигаем эту миссию, внедряя инновации, которые помогают людям решать сложные задачи, а также создавая демократичный ИИ на основе здравых правил, защищающих людей от реального вреда.

С момента запуска наших публичных отчетов об угрозах в феврале 2024 года мы пресекли деятельность и сообщили о более чем 40 сетях, нарушивших наши правила использования. Сюда входит предотвращение использования ИИ авторитарными режимами для контроля над населением или принуждения других государств, а также такие злоупотребления, как мошенничество, вредоносная кибердеятельность и скрытые операции влияния.

В этом обновлении мы публикуем тематические исследования за прошедший квартал и рассказываем о том, как мы обнаруживаем и пресекаем вредоносное использование наших моделей. Мы по-прежнему наблюдаем, как злоумышленники добавляют ИИ к старым схемам, чтобы действовать быстрее, а не получают новые наступательные возможности от наших моделей. Когда какая-либо деятельность нарушает наши правила, мы блокируем учетные записи и, при необходимости, делимся аналитической информацией с партнерами. Наши публичные отчеты, соблюдение правил и сотрудничество с коллегами призваны повысить осведомленность об уязвимостях и злоупотреблениях, одновременно улучшая защиту обычных пользователей.

Автор