Это хороший комментарий. На самом деле модели-тюны под русский в общении допускают огромное количество стилистических и грамматических ошибок, а также ошибаются в согласовании частей речи. Также наследуют «ценности» модели-донора с запретом говорить на определенные темы, которые не нарушают законы РФ и наоборот. Еще с точки зрения стоимости инференса на русском остаются нюансы из-за плохого сжатия языка в токенизаторе.
И то есть с одной стороны, модели наследуют знания из качественного опенсорса, отсюда и высокие метрики т-лайт и т-про, а с другой с стороны с ошибками ведут диалог. Мы думаем над созданием бенчмарка, который смог бы отследить такие нюансы
Как через API, так и через Studio отключение фильтра безопасности доступно для юр.лиц. Чтобы появилась возможность его отключить, сделайте запрос в поддержку
1. Пользоваться GigaChat можно абсолютно бесплатно и без ограничений в рамках нашей веб-версии, телеграм-бота или бота-vk. Тут всё честно :)
Если же вы хотите пообщаться с GigaChat через API - предусмотрен freemium-режим, в рамках которого доступен welcome-бонус - 1млн бесплатных токенов (950тыс к модели Lite и 50тыс к модели Pro).
P.S. Прямо сейчас есть уникальная возможность попробовать Max за токены Pro. Успевайте :)
2. Авторизация по SberID требуется, если вы хотите использовать API как физ.лицо. Авторизация по почте доступна, если вы готовы подключить GigaChat API как юр.лицо или ИП.
Но обратную связь услышали, подумаем над расширением доступных способов авторизации.
тут уже важны тонкости работы с RL и Alignment
Наш реквест уже приняли в llama.cpp. Так что еще пару недель - и да!
Добрый день!
Это хороший комментарий. На самом деле модели-тюны под русский в общении допускают огромное количество стилистических и грамматических ошибок, а также ошибаются в согласовании частей речи. Также наследуют «ценности» модели-донора с запретом говорить на определенные темы, которые не нарушают законы РФ и наоборот. Еще с точки зрения стоимости инференса на русском остаются нюансы из-за плохого сжатия языка в токенизаторе.
И то есть с одной стороны, модели наследуют знания из качественного опенсорса, отсюда и высокие метрики т-лайт и т-про, а с другой с стороны с ошибками ведут диалог. Мы думаем над созданием бенчмарка, который смог бы отследить такие нюансы
Здравствуйте! Спасибо, исправились!
Вся актуальная линейка GigaChat поддерживает контекст в 32 тысячи токенов. А про расширение контекста - следите за новостями.
Эти проценты - усреднение бенчмарков, на вашей задаче Max может показать себя значительно лучше Pro модели
Здравствуйте! Да, они будут в статье про Vision
Добрый день!
Как через API, так и через Studio отключение фильтра безопасности доступно для юр.лиц. Чтобы появилась возможность его отключить, сделайте запрос в поддержку
Добрый день!
Да, это хороший комментарий. Мы работаем над тем, чтобы пользователи в чате могли узнать, с какой моделью разговаривают
Здравствуйте!
1. Пользоваться GigaChat можно абсолютно бесплатно и без ограничений в рамках нашей веб-версии, телеграм-бота или бота-vk. Тут всё честно :)
Если же вы хотите пообщаться с GigaChat через API - предусмотрен freemium-режим, в рамках которого доступен welcome-бонус - 1млн бесплатных токенов (950тыс к модели Lite и 50тыс к модели Pro).
P.S. Прямо сейчас есть уникальная возможность попробовать Max за токены Pro. Успевайте :)
2. Авторизация по SberID требуется, если вы хотите использовать API как физ.лицо. Авторизация по почте доступна, если вы готовы подключить GigaChat API как юр.лицо или ИП.
Но обратную связь услышали, подумаем над расширением доступных способов авторизации.
Спасибо за вопрос! Мы подробно расскажем об обучении Pretrain-моделей и апгрейдах архитектуры в следующей статье, уже готовим ее
Про первое не будем раскрывать все карты, а про второе нам было интересно сравнить GigaChat MAX с лидерами отрасли, среди которых есть и опенсорс
это пока затравка на будущее, будет лучше;)
Ага. Не черипики шлем:)