Gigachat Max при работе через API начинает глючить, если ему отправить текст на 25к+ токенов - зацикливает фразы или выдает вообще рандомные данные из своего датасета.
GPT-4o mini тоже не самая лучшая модель, хотя получше чем Gigachat.
Если модели нужны для личного пользования - используйте бесплатный доступ к Gemini.
Я все продолжаю есть кактус. Основной вопрос: подскажите, ваша модель Max уже считается официально выпущенной или это просто публичный альфа-тест? В том числе за деньги юрлиц.
Модель открыли для юрлиц через API примерно 20 ноября. Казалось бы это супер, если бы не опыт использования. Если отправляемый в модель текст больше 20-25тыс токенов - она в ответ выдает зацикленный бредовый набор фраз. Отправлял всю информацию в ТП 22 ноября. Спустя недельку мне сказали, что передали разработчикам. После этого тишина. Причем поведение модели так и не изменилось.
Нигде не увидел информацию о размере контекста у новой модели. Она такая же, как сейчас у Pro - 32k? Если так, то для коммерческой модели, которая предлагается бизнесу это мало.
Я так понимаю, что новая модель у вас считается примерно на 25% лучше Pro? Не знаю, что у вас в синтетических тестах показывается, но я уже потратил довольно много времени на то, чтобы заставить Pro делать адекватные отчеты после совещаний. Казалось бы простая задача, но увы... Не всегда модель следует заложенным в промпте инструкциям. Более того даже несколько подряд запущенных генераций одного и того же текста при низкой температуре могут выдать как неплохие ответы, так и просто мусор. Такое впечатление, что не обойтись без отдельного агента, который будет оценивать несколько отчетов и выбирать наиболее подходящий, что в разы увеличивает стоимость генерации.
Здравствуйте.
Когда заработает токенайзер в новых моделях?
Использование tokens_count выдает ошибку.
Будет ли электронная версия?
Такое впечатление, что "статью" писал Gigachat.
Gigachat Max при работе через API начинает глючить, если ему отправить текст на 25к+ токенов - зацикливает фразы или выдает вообще рандомные данные из своего датасета.
GPT-4o mini тоже не самая лучшая модель, хотя получше чем Gigachat.
Если модели нужны для личного пользования - используйте бесплатный доступ к Gemini.
Здравствуйте.
Я все продолжаю есть кактус.
Основной вопрос: подскажите, ваша модель Max уже считается официально выпущенной или это просто публичный альфа-тест? В том числе за деньги юрлиц.
Модель открыли для юрлиц через API примерно 20 ноября. Казалось бы это супер, если бы не опыт использования.
Если отправляемый в модель текст больше 20-25тыс токенов - она в ответ выдает зацикленный бредовый набор фраз.
Отправлял всю информацию в ТП 22 ноября. Спустя недельку мне сказали, что передали разработчикам.
После этого тишина. Причем поведение модели так и не изменилось.
Здравствуйте.
Нигде не увидел информацию о размере контекста у новой модели. Она такая же, как сейчас у Pro - 32k? Если так, то для коммерческой модели, которая предлагается бизнесу это мало.
Я так понимаю, что новая модель у вас считается примерно на 25% лучше Pro? Не знаю, что у вас в синтетических тестах показывается, но я уже потратил довольно много времени на то, чтобы заставить Pro делать адекватные отчеты после совещаний. Казалось бы простая задача, но увы... Не всегда модель следует заложенным в промпте инструкциям. Более того даже несколько подряд запущенных генераций одного и того же текста при низкой температуре могут выдать как неплохие ответы, так и просто мусор.
Такое впечатление, что не обойтись без отдельного агента, который будет оценивать несколько отчетов и выбирать наиболее подходящий, что в разы увеличивает стоимость генерации.