[Перевод] Улучшаем производительность Leo с помощью модели Mixtral

Начиная с версии 1.62 нашего браузера для десктопов, мы будем использовать модель Mixtral 8×7B как большую языковую модель по умолчанию для Leo, нашего соблюдающего пользовательскую конфиденциальность ИИ-ассистента. Mixtral 8×7B — это БЯМ с открытым исходным кодом, которая была представлена Mistral AI в декабре прошлого года и с тех пор нашла широкое применение благодаря своей скорости и производительности. Помимо этого, мы улучшили UX Leo: в частности, мы упростили онбординг, управление контекстом, форматирование запросов и ответов, и в целом улучшили интерфейс Leo.

A screenshot of Brave Leo being used to write a Python function

Brave Leo помогает в написании функции на Python

A screenshot of Brave Leo being used to translate an article into French

Brave Leo переводит статью на французский

Встречайте Mixtral 8×7B

Теперь Mixtral является основной БЯМ для бесплатной и Премиальной ($15 в месяц) версий Leo. По сравнению с Премиальной версией, бесплатная версия имеет бóльшие ограничения по количеству возможных запросов.

Mixtral 8×7B очень быстро завоевала популярность среди разработчиков. Согласно LMSYS Chatbot Arena, на данный момент её показатели превосходят ChatGPT 3.5, Claude Instant, Llama 2 и многие другие модели, а согласно оценкам BBQ, Mixtral также показывает хорошие результаты по снижению количества галлюцинаций и когнитивных искажений.

Помимо других своих преимуществ, Mixtral может:

  • Обрабатывать более объёмные контексты;

  • Взаимодействовать с пользователями на английском, французском, немецком, итальянском и испанском языках;

  • Писать код.

Мы уже используем Mixtral в недавно выпущенной модели Code LLM, которую мы применяем в Поиске Brave для запросов, связанных с программированием. Производительность и открытый исходный код Mixtral подтолкнули нас к её интеграции в Leo. Нашим ассистентом в его бесплатной и премиальной версиях уже пользуются десятки тысяч наших пользователей, и мы рассчитываем, что с внедрением Mixtral их число продолжит расти. 

Leo: больше моделей, больше выбора

В отличие от других ИИ-ассистентов, Leo предлагает пользователям Brave возможность выбора из различных моделей в зависимости от их целей и бюджета. Добавив Mixtral 8×7B в качестве основной БЯМ в бесплатной и премиальной версиях Leo, мы также предоставляем доступ к Claude Instant от Anthropic и Llama 2 13B от Meta.

Благодаря интеграции Mixtral пользователи Leo заметят значительное улучшение производительности и качества ответов от ассистента. Пользователи бесплатной версии Leo также смогут воспользоваться моделью Llama 2, если они исчерпают ограничения на запросы к Mixtral.

Параметры

Бесплатная версия Leo

Премиальная версия Leo

Модели

Mixtral 8×7B (жёсткие ограничения на запросы)

Claude Instant (жёсткие ограничения на запросы)

Llama 2 13B (менее жёсткие ограничения на запросы)

Mixtral 8×7B

Claude Instant

Llama 2 13B

Ограничения на запросы

Различные ограничения на запросы

Меньшие ограничения на запросы

Качество диалогов

Очень высокое, зависит от модели (обновлено и улучшено в релизе 1.62)

Очень высокое

Конфиденциальность

Все взаимодействия передаются анонимно через обратный прокси и не сохраняются

Все взаимодействия передаются анонимно через обратный прокси и не сохраняются

Цена подписки

Бесплатно

$15 в месяц

Конфиденциальность всегда на первом месте

Пользовательская конфиденциальность играет центральную роль в Leo. Взаимодействия с Leo конфиденциальны, анонимны и безопасны. Leo не записывает историю чатов, не использует их для обучения моделей, и вам не нужно создавать отдельный аккаунт, чтобы получить доступ к Leo. Механизмы защиты нашего ИИ-ассистента включают в себя:

  • Обратный прокси. Все запросы проксируются через сервер анонимизации, так что запрос и адрес пользователя не могут быть слинкованы. Brave не может соотнести пользовательские запросы с их IP-адресами.

  • Моментальное удаление ответов. Диалоги с Leo не хранятся на серверах Brave. Ответы Leo удаляются сразу же после их генерации и не используются для тренировки моделей. Мы не сохраняем уникальные идентификаторы, которые можно было бы использовать для трекинга пользователей (например, IP-адреса). Никакие личные данные не сохраняются ИИ-моделью или сторонними поставщиками моделей.

  • Не нужно создавать отдельный аккаунт. Дополнительная аутентификация для доступа к Leo не требуется.

  • Нелинкуемая подписка. Если вы подписались на Премиальную версию Leo, вы получите нелинкуемые токены для валидации вашей подписки. Это означает, что Brave не сможет сопоставить детали вашей покупки с тем, как вы используете продукт. Тем самым мы гарантируем, что ваши действия остаются полностью конфиденциальными и видимыми только вам. Почта, с помощью который вы создаёте аккаунт, не может быть соотнесена с вашим повседневным использованием Leo.

Уже готовы попробовать Brave Leo?

Начать пользоваться Brave Leo проще простого: он уже встроен в браузер, так что вам не понадобятся никакие дополнительные приложения или расширения. Leo легко доступен прямо из адресной строки браузера или с помощью чат-интерфейса на боковой панели рядом с любой веб-страницей. Leo готов помочь вам с самыми разнообразными задачами в контексте страницы, которую вы сейчас посещаете: например, он может резюмировать страницы и видео в реальном времени. Leo также может отвечать на вопросы о контенте, создавать новый контент, переводить, анализировать и переписывать страницы. Leo готов помочь вам прямо в браузере независимо от того, какую задачу вы решаете, от создания контента до написания кода. Чтобы обратиться к Leo, пользователям браузера Brave на десктопах достаточно просто задать свой вопрос в адресной строке и выбрать «Задать вопрос Leo»‎, или же нажать на значок Leo на боковой панели Brave. В скором времени Leo будет доступен также и на мобильных устройствах Android и iOS: узнайте больше о Brave Leo и ознакомьтесь с дорожной картой проекта!

A screenshot of Brave Leo being used to plan vegan dinners

A screenshot of Brave Leo being used to plan vegan dinners

A screenshot of Brave Leo being used to write a kid-friendly valentine's day song

A screenshot of Brave Leo being used to write a kid-friendly valentine’s day song

© Habrahabr.ru