GPT‑2: Выпуск версии с 1,5 млрд параметров05.11.2019 08:00

В рамках завершающего релиза модели из серии GPT‑2⁠, выполняемого по этапному плану⁠, мы выпускаем самую крупную версию GPT‑2 (1,5 млрд параметров), а также код и веса модели⁠, чтобы упростить обнаружение текстов, сгенерированных моделями GPT‑2. Хотя с августа были выпущены более крупные языковые модели, мы продолжили реализацию нашего первоначального плана поэтапного выпуска, чтобы предоставить сообществу тестовый пример полноценного процесса поэтапного релиза. Мы надеемся, что этот пример окажется полезным для разработчиков будущих мощных моделей, и мы активно продолжаем диалог с AI-сообществом об ответственной публикации.

Хотя с августа были выпущены более крупные языковые модели, мы продолжили реализацию нашего первоначального плана поэтапного выпуска, чтобы предоставить сообществу тестовый пример полноценного процесса поэтапного релиза. Мы надеемся, что этот пример окажется полезным для разработчиков будущих мощных моделей, и мы активно продолжаем диалог с AI-сообществом об ответственной публикации.

Наши выводы

1. Люди считают тексты GPT‑2 убедительными. Наши парттяне из Корнеллского университета провели опрос среди людей, чтобы оценить уровень доверия к текстам GPT‑2 для моделей разного размера. Респонденты оценили модель с 1,5 млрд параметров на 6,91 балла из 10 по шкале «достоверности». Это незначительно выше показателей модели с 774 млн параметров (6,72) и существенно выше средней модели с 355 млн параметров (6,07). Эти результаты подталкивают нас к выпуску модели с 1,5 млрд параметров, поскольку прирост воспринимаемой людьми достоверности по сравнению с версией на 774 млн параметров кажется небольшим.

2. GPT‑2 может быть дообучена для злоупотреблений. Наши партнёры из Центра по изучению терроризма, экстремизма и противодействия терроризму (CTEC) при Институте международных исследований Миддлбери выяснили, что экстремистские группы могут использовать GPT‑2 в деструктивных целях, в частности дообучая модели на текстах четырех идеологических направлений: превосходства белой расы, марксизма, джихадистского исламизма и анархизма. CTEC продемонстрировали возможность создания моделей, способных генерировать синтетическую пропаганду для этих идеологий. Они также показали, что, несмотря на низкую точность обнаружения синтетических текстов, методы детектирования на основе машинного обучения могут дать экспертам разумные основания подозревать, что некий субъект генерирует синтетический текст.

3. Задача детектирования сложна. Мы полагаем, что основанное на содержимом обнаружение синтетического текста останется долгосрочной проблемой. Чтобы проверить, могут ли методы машинного обучения помочь уже сегодня, мы провели собственные исследования в области обнаружения и разработали модель-детектор⁠, которая обеспечивает точность распознавания около 95% для текстов, созданных моделью GPT‑2 с 1,5 млрд параметров.A Мы считаем, что эта точность недостаточна для автономного использования и должна дополняться методами на основе метаданных, экспертной оценкой людей и просвещением общественности для большей эффективности. Мы выпускаем эту модель для содействия исследованиям в области обнаружения синтетического текста, хотя это также позволяет злоумышленникам, имеющим к ней доступ, успешнее избегать обнаружения.

Хотя мы обнаружили, что точность детектирования сильно зависит от методов выборки, используемых при обучении и тестировании, мы также выяснили, что обнаружение становится более надежным при обучении на различных техниках выборки. Как видно на графике ниже, мы заметили, что результаты работы более крупных моделей сложнее классифицировать, но обучение на их выходах делает результаты детектирования более точными и устойчивыми. Мы ожидаем, что эта тенденция сохранится и по мере увеличения размера моделей задача детектирования станет еще более сложной.

4. Мы пока не обнаружили весомых доказательств злоупотреблений. Несмотря на определенные обсуждения вокруг потенциала GPT‑2 по усилению масштабных операций с низкой эффективностью (таких как спам и фишинг), мы не зафиксировали случаев написания вредоносного кода, документации или других примеров злоупотреблений. Мы полагаем, что риск злоупотребления генераторами синтетического текста возрастет, если их результаты станут более надежными и когерентными. Мы признаем, что не можем знать обо всех угрозах и что мотивированные злоумышленники могут воспроизводить языковые модели и без их официального выпуска.

5. Нам нужны стандарты для изучения предвзятости. Языковые модели подвержены предвзятости. Поиск способов изучать эти предвзятости, обсуждать их и бороться с ними — непростая задача для исследовательского сообщества в области ИИ. Мы подошли к проблеме предвзятости с двух сторон:

• Публикация карточки модели⁠B вместе с нашими моделями на GitHub, чтобы дать людям представление о проблемах, присущих таким языковым моделям, как GPT‑2.
• Проведение качественной внутренней оценки некоторых предвзятостей в GPT‑2: мы проверили GPT‑2 на наличие гендерных, расовых и религиозных предвзятостей, используя полученные данные для составления карточки модели. Эти проверки не являются исчерпывающими и указывают на необходимость сотрудничества при создании методологий анализа предвзятости.

Следующие шаги

Наш опыт работы с GPT‑2 за последние 9 месяцев дал нам ценное понимание трудностей и возможностей создания норм ответственной публикации в сфере ИИ. Мы продолжаем работу над этой темой, участвуя в проекте «Нормы ответственной публикации для машинного обучения» партнерства по ИИ (Partnership on AI) и обсуждая ее с нашими коллегами из исследовательского сообщества.

Если вы хотите разрабатывать крупномасштабные системы ИИ и размышляете об их последствиях, мы ищем сотрудников⁠.

1. A

   В частности, мы построили классификатор последовательностей на базе RoBERTaBASE (125 млн параметров) и RoBERTaLARGE (355 млн параметров) и дообучили его для классификации текстов, сгенерированных моделью GPT-2 на 1,5 млрд параметров, по сравнению с WebText — датасетом, который мы использовали для обучения модели GPT-2.

2. B

   Которую мы создали на основе работы »Карточки моделей для отчетности о моделях⁠» (Model Cards for Model Reporting), авторы: Митчелл и др.