Comments 2
Отличный, качественный материал, спасибо за статью!
Могу только добавить по поводу температуры, что иногда указывают temperature=0, но нулевой температуры не существует, вместо нее используется очень маленькое значение типа 0,00001. Почему так сделано видно из приведенной в статье формуле (на 0 делить нельзя).
Предполагаю (и надеюсь), что в следующей статье будете разбирать reasoning_effort и thinking_budget.
Sign up to leave a comment.
Независимые как понятия, зависимые как операции: параметры семплирования в LLM‑инференсе