Как стать автором
Обновить
0
Brave
Browse privately. Search privately. Ditch Big Tech

Улучшаем производительность Leo с помощью модели Mixtral

Уровень сложностиПростой
Время на прочтение4 мин
Количество просмотров805
Автор оригинала: Brave

Начиная с версии 1.62 нашего браузера для десктопов, мы будем использовать модель Mixtral 8x7B как большую языковую модель по умолчанию для Leo, нашего соблюдающего пользовательскую конфиденциальность ИИ-ассистента. Mixtral 8x7B — это БЯМ с открытым исходным кодом, которая была представлена Mistral AI в декабре прошлого года и с тех пор нашла широкое применение благодаря своей скорости и производительности. Помимо этого, мы улучшили UX Leo: в частности, мы упростили онбординг, управление контекстом, форматирование запросов и ответов, и в целом улучшили интерфейс Leo.

A screenshot of Brave Leo being used to write a Python function
Brave Leo помогает в написании функции на Python
A screenshot of Brave Leo being used to translate an article into French
Brave Leo переводит статью на французский

Встречайте Mixtral 8x7B

Теперь Mixtral является основной БЯМ для бесплатной и Премиальной ($15 в месяц) версий Leo. По сравнению с Премиальной версией, бесплатная версия имеет бóльшие ограничения по количеству возможных запросов.

Mixtral 8x7B очень быстро завоевала популярность среди разработчиков. Согласно LMSYS Chatbot Arena, на данный момент её показатели превосходят ChatGPT 3.5, Claude Instant, Llama 2 и многие другие модели, а согласно оценкам BBQ, Mixtral также показывает хорошие результаты по снижению количества галлюцинаций и когнитивных искажений.

Помимо других своих преимуществ, Mixtral может:

  • Обрабатывать более объёмные контексты;

  • Взаимодействовать с пользователями на английском, французском, немецком, итальянском и испанском языках;

  • Писать код.

Мы уже используем Mixtral в недавно выпущенной модели Code LLM, которую мы применяем в Поиске Brave для запросов, связанных с программированием. Производительность и открытый исходный код Mixtral подтолкнули нас к её интеграции в Leo. Нашим ассистентом в его бесплатной и премиальной версиях уже пользуются десятки тысяч наших пользователей, и мы рассчитываем, что с внедрением Mixtral их число продолжит расти. 

Leo: больше моделей, больше выбора

В отличие от других ИИ-ассистентов, Leo предлагает пользователям Brave возможность выбора из различных моделей в зависимости от их целей и бюджета. Добавив Mixtral 8x7B в качестве основной БЯМ в бесплатной и премиальной версиях Leo, мы также предоставляем доступ к Claude Instant от Anthropic и Llama 2 13B от Meta.

Благодаря интеграции Mixtral пользователи Leo заметят значительное улучшение производительности и качества ответов от ассистента. Пользователи бесплатной версии Leo также смогут воспользоваться моделью Llama 2, если они исчерпают ограничения на запросы к Mixtral.

Параметры

Бесплатная версия Leo

Премиальная версия Leo

Модели

Mixtral 8x7B (жёсткие ограничения на запросы)

Claude Instant (жёсткие ограничения на запросы)

Llama 2 13B (менее жёсткие ограничения на запросы)

Mixtral 8x7B

Claude Instant

Llama 2 13B

Ограничения на запросы

Различные ограничения на запросы

Меньшие ограничения на запросы

Качество диалогов

Очень высокое, зависит от модели (обновлено и улучшено в релизе 1.62)

Очень высокое

Конфиденциальность

Все взаимодействия передаются анонимно через обратный прокси и не сохраняются

Все взаимодействия передаются анонимно через обратный прокси и не сохраняются

Цена подписки

Бесплатно

$15 в месяц

Конфиденциальность всегда на первом месте

Пользовательская конфиденциальность играет центральную роль в Leo. Взаимодействия с Leo конфиденциальны, анонимны и безопасны. Leo не записывает историю чатов, не использует их для обучения моделей, и вам не нужно создавать отдельный аккаунт, чтобы получить доступ к Leo. Механизмы защиты нашего ИИ-ассистента включают в себя:

  • Обратный прокси. Все запросы проксируются через сервер анонимизации, так что запрос и адрес пользователя не могут быть слинкованы. Brave не может соотнести пользовательские запросы с их IP-адресами.

  • Моментальное удаление ответов. Диалоги с Leo не хранятся на серверах Brave. Ответы Leo удаляются сразу же после их генерации и не используются для тренировки моделей. Мы не сохраняем уникальные идентификаторы, которые можно было бы использовать для трекинга пользователей (например, IP-адреса). Никакие личные данные не сохраняются ИИ-моделью или сторонними поставщиками моделей.

  • Не нужно создавать отдельный аккаунт. Дополнительная аутентификация для доступа к Leo не требуется.

  • Нелинкуемая подписка. Если вы подписались на Премиальную версию Leo, вы получите нелинкуемые токены для валидации вашей подписки. Это означает, что Brave не сможет сопоставить детали вашей покупки с тем, как вы используете продукт. Тем самым мы гарантируем, что ваши действия остаются полностью конфиденциальными и видимыми только вам. Почта, с помощью который вы создаёте аккаунт, не может быть соотнесена с вашим повседневным использованием Leo.

Уже готовы попробовать Brave Leo?

Начать пользоваться Brave Leo проще простого: он уже встроен в браузер, так что вам не понадобятся никакие дополнительные приложения или расширения. Leo легко доступен прямо из адресной строки браузера или с помощью чат-интерфейса на боковой панели рядом с любой веб-страницей. Leo готов помочь вам с самыми разнообразными задачами в контексте страницы, которую вы сейчас посещаете: например, он может резюмировать страницы и видео в реальном времени. Leo также может отвечать на вопросы о контенте, создавать новый контент, переводить, анализировать и переписывать страницы. Leo готов помочь вам прямо в браузере независимо от того, какую задачу вы решаете, от создания контента до написания кода. Чтобы обратиться к Leo, пользователям браузера Brave на десктопах достаточно просто задать свой вопрос в адресной строке и выбрать «Задать вопрос Leo»‎, или же нажать на значок Leo на боковой панели Brave. В скором времени Leo будет доступен также и на мобильных устройствах Android и iOS: узнайте больше о Brave Leo и ознакомьтесь с дорожной картой проекта!

A screenshot of Brave Leo being used to plan vegan dinners
A screenshot of Brave Leo being used to plan vegan dinners
A screenshot of Brave Leo being used to write a kid-friendly valentine's day song
A screenshot of Brave Leo being used to write a kid-friendly valentine's day song

Теги:
Хабы:
Всего голосов 4: ↑4 и ↓0+4
Комментарии1

Публикации

Информация

Сайт
brave.com
Дата регистрации
Дата основания
Численность
101–200 человек
Местоположение
США

Истории