[Перевод] Улучшаем производительность Leo с помощью модели Mixtral
Начиная с версии 1.62 нашего браузера для десктопов, мы будем использовать модель Mixtral 8×7B как большую языковую модель по умолчанию для Leo, нашего соблюдающего пользовательскую конфиденциальность ИИ-ассистента. Mixtral 8×7B — это БЯМ с открытым исходным кодом, которая была представлена Mistral AI в декабре прошлого года и с тех пор нашла широкое применение благодаря своей скорости и производительности. Помимо этого, мы улучшили UX Leo: в частности, мы упростили онбординг, управление контекстом, форматирование запросов и ответов, и в целом улучшили интерфейс Leo.
Brave Leo помогает в написании функции на Python
Brave Leo переводит статью на французский
Встречайте Mixtral 8×7B
Теперь Mixtral является основной БЯМ для бесплатной и Премиальной ($15 в месяц) версий Leo. По сравнению с Премиальной версией, бесплатная версия имеет бóльшие ограничения по количеству возможных запросов.
Mixtral 8×7B очень быстро завоевала популярность среди разработчиков. Согласно LMSYS Chatbot Arena, на данный момент её показатели превосходят ChatGPT 3.5, Claude Instant, Llama 2 и многие другие модели, а согласно оценкам BBQ, Mixtral также показывает хорошие результаты по снижению количества галлюцинаций и когнитивных искажений.
Помимо других своих преимуществ, Mixtral может:
Обрабатывать более объёмные контексты;
Взаимодействовать с пользователями на английском, французском, немецком, итальянском и испанском языках;
Писать код.
Мы уже используем Mixtral в недавно выпущенной модели Code LLM, которую мы применяем в Поиске Brave для запросов, связанных с программированием. Производительность и открытый исходный код Mixtral подтолкнули нас к её интеграции в Leo. Нашим ассистентом в его бесплатной и премиальной версиях уже пользуются десятки тысяч наших пользователей, и мы рассчитываем, что с внедрением Mixtral их число продолжит расти.
Leo: больше моделей, больше выбора
В отличие от других ИИ-ассистентов, Leo предлагает пользователям Brave возможность выбора из различных моделей в зависимости от их целей и бюджета. Добавив Mixtral 8×7B в качестве основной БЯМ в бесплатной и премиальной версиях Leo, мы также предоставляем доступ к Claude Instant от Anthropic и Llama 2 13B от Meta.
Благодаря интеграции Mixtral пользователи Leo заметят значительное улучшение производительности и качества ответов от ассистента. Пользователи бесплатной версии Leo также смогут воспользоваться моделью Llama 2, если они исчерпают ограничения на запросы к Mixtral.
Параметры | Бесплатная версия Leo | Премиальная версия Leo |
Модели | Mixtral 8×7B (жёсткие ограничения на запросы) Claude Instant (жёсткие ограничения на запросы) Llama 2 13B (менее жёсткие ограничения на запросы) | Mixtral 8×7B Claude Instant Llama 2 13B |
Ограничения на запросы | Различные ограничения на запросы | Меньшие ограничения на запросы |
Качество диалогов | Очень высокое, зависит от модели (обновлено и улучшено в релизе 1.62) | Очень высокое |
Конфиденциальность | Все взаимодействия передаются анонимно через обратный прокси и не сохраняются | Все взаимодействия передаются анонимно через обратный прокси и не сохраняются |
Цена подписки | Бесплатно | $15 в месяц |
Конфиденциальность всегда на первом месте
Пользовательская конфиденциальность играет центральную роль в Leo. Взаимодействия с Leo конфиденциальны, анонимны и безопасны. Leo не записывает историю чатов, не использует их для обучения моделей, и вам не нужно создавать отдельный аккаунт, чтобы получить доступ к Leo. Механизмы защиты нашего ИИ-ассистента включают в себя:
Обратный прокси. Все запросы проксируются через сервер анонимизации, так что запрос и адрес пользователя не могут быть слинкованы. Brave не может соотнести пользовательские запросы с их IP-адресами.
Моментальное удаление ответов. Диалоги с Leo не хранятся на серверах Brave. Ответы Leo удаляются сразу же после их генерации и не используются для тренировки моделей. Мы не сохраняем уникальные идентификаторы, которые можно было бы использовать для трекинга пользователей (например, IP-адреса). Никакие личные данные не сохраняются ИИ-моделью или сторонними поставщиками моделей.
Не нужно создавать отдельный аккаунт. Дополнительная аутентификация для доступа к Leo не требуется.
Нелинкуемая подписка. Если вы подписались на Премиальную версию Leo, вы получите нелинкуемые токены для валидации вашей подписки. Это означает, что Brave не сможет сопоставить детали вашей покупки с тем, как вы используете продукт. Тем самым мы гарантируем, что ваши действия остаются полностью конфиденциальными и видимыми только вам. Почта, с помощью который вы создаёте аккаунт, не может быть соотнесена с вашим повседневным использованием Leo.
Уже готовы попробовать Brave Leo?
Начать пользоваться Brave Leo проще простого: он уже встроен в браузер, так что вам не понадобятся никакие дополнительные приложения или расширения. Leo легко доступен прямо из адресной строки браузера или с помощью чат-интерфейса на боковой панели рядом с любой веб-страницей. Leo готов помочь вам с самыми разнообразными задачами в контексте страницы, которую вы сейчас посещаете: например, он может резюмировать страницы и видео в реальном времени. Leo также может отвечать на вопросы о контенте, создавать новый контент, переводить, анализировать и переписывать страницы. Leo готов помочь вам прямо в браузере независимо от того, какую задачу вы решаете, от создания контента до написания кода. Чтобы обратиться к Leo, пользователям браузера Brave на десктопах достаточно просто задать свой вопрос в адресной строке и выбрать «Задать вопрос Leo», или же нажать на значок Leo на боковой панели Brave. В скором времени Leo будет доступен также и на мобильных устройствах Android и iOS: узнайте больше о Brave Leo и ознакомьтесь с дорожной картой проекта!
A screenshot of Brave Leo being used to plan vegan dinners
A screenshot of Brave Leo being used to write a kid-friendly valentine’s day song