Корпоративный искусственный интеллект (Enterprise AI): языковые модели для бизнеса
Всего за 9 месяцев после запуска ChatGPT был принят командами более чем в 80% компаний из списка Fortune 500. OpenAI основывает это утверждение на учетных записях пользователей ChatGPT, зарегистрированных на корпоративный адрес электронной почты.
Однако крупные компании, такие как Apple и Samsung, банки с Уолл-Стрит и другие предприятия, запрещают своим сотрудникам пользоваться ChatGPT на рабочих местах. Это объясняют тем, что нейросети задействуют полученную от них информацию для дальнейшего обучения. Другими словами, конфиденциальность бизнес-данных подвергается непреднамеренному риску. Чтобы развеять опасения бизнеса и не потерять крупных клиентов, LLM-компании предлагают корпоративные или Enterprise-пакеты.
ChatGPT Enterprise от OpenAI
Компания OpenAI запускает ChatGPT Enterprise — защищенную и более быструю версию ChatGPT, предназначенную для поддержки и улучшения всех аспектов работы в организациях. Безопасность и конфиденциальность корпоративного уровня подтверждается следующими моментами:
- промты клиентов и данные компании не будут использовать для обучения моделей OpenAI;
- шифрование данных в состоянии покоя (AES 256) и при передаче (TLS 1.2+);
- сертифицировано на соответствие требованиям SOC 2.
Другие преимущества ChatGPT Enterprise:
- с пользователей GPT-4 снимаются все ограничения на генерацию, что увеличивает скорость работы в два раза;
- контекстные окна с 32k маркерами (в 4 раза увеличен объем вводимых данных по сравнению со стандартным ChatGPT);
- тариф Enterprise поставляется вместе с консолью администратора, которая позволяет контролировать подключенных пользователей и быстро развертывать систему в корпоративном окружении;
- шаблоны чатов с возможностью совместного использования, что позволяет работникам сотрудничать и создавать общие рабочие процессы в компании.
ChatGPT Enterprise также включает в себя Advanced Data Analysis (новое название интерпретатора кода OpenAI) и дополнительные возможности настройки, например, создание защищенной передачи данных между корпоративными приложениями и ChatGPT. Кроме того, компания разрабатывает предложение ChatGPT Business с функцией самообслуживания для небольших команд.
Bing Chat Enterprise от Microsoft
В июле 2023 года компания Microsoft анонсировала чат-бот Bing Chat Enterprise, основой которого стала генеративная нейросеть. Он призван обеспечить более высокий уровень защиты информации для компаний, которые обеспокоены тем, что популярные сейчас генеративные алгоритмы не могут гарантировать конфиденциальность и безопасность данных.
В июле представили предварительную версию Bing Chat Enterprise на Bing.com и на боковой панели Edge. А с конца августа Microsoft развертывает Bing Chat Enterprise в предварительной версии Windows Copilot для соответствующих требованиям коммерческих клиентов.
Локальные языковые модели на базе LLaMa-2 от Meta*
В июле 2023 года Meta* и Microsoft представили Llama 2 — большую языковую модель с открытым кодом, которая конкурирует с ChatGPT от OpenAI и Bard от Google. На базе LLaMa-2-Chat можно строить свои локальные аналоги ChatGPT и не отсылать никаких данных в OpenAI. Модель выложили для коммерческого использования бесплатно. Запросить ссылку на скачивание можно тут.
Она будет распространяться через облачный сервис Azure и работать под управлением Windows. Размер контекста — 4к. Для ее обучения использовали на 40% больше данных по сравнению с первой версией LLaMA. Разработчики собрали более 1 млн человеческих аннотаций, а также применили контролируемую доводку и обучение с подкреплением с обратной связью (RLHF) для повышения безопасности и качества модели. LLaMa-2 на 70B параметров сравнима по качеству с GPT-3.5 и даже лучше ее на некоторых бенчмарках (например, математика).
В чем плюсы локальных языковых моделей на базе Llama 2:
- разрешено коммерческое использование, что очень выгодно стартапам;
- безопасность, так как никуда данные не отправляются, и все процессы происходят только на устройстве сотрудника;
- гибкость, так как можно дообучать модель и даже передать негативный промпт и снять с нее цензуру.
Таким образом, преимущества предложенных вариантов от OpenAI, Microsoft, Meta* в том, что бизнес-данные защищены, а утечки за пределы организации не допускаются. Пользователь может быть уверен, что данные чата не сохраняются, компании не имеют к ним доступа и не используют для обучения моделей.
*Meta признана в России экстремистской организацией и запрещена.
Полный текст статьи читайте на Компьютерра
