tripolskypetr Mar 21 at 19:56

Cohere Command — революция, которую мы пропустили

Easy

3 min

14K

TypeScript*JavaScript*Python*Artificial IntelligenceMachine learning*

Tutorial

+14

Comments 12

sergeym69 Mar 22 at 01:31

Qwen2.5-7B и Llama-3.1-8B с простыми функциями хорошо работают, если же надо более сложные вещи, типа сгенерить SQL запрос без ошибок и вызвать функцию, то нужно уже что-то типа Qwen2.5-14B

Это для квантизизованных Q4 моделей

tripolskypetr Mar 22 at 15:42

Эти модели плохо работают для русского языка. Подробнее в статье

https://habr.com/ru/articles/892468/

sergeym69 Mar 26 at 01:36

Вы слишком многого хотите от 8b моделей да еще и квантизованных. Ollama по умолчанию грузит квантизованные q4 модели - а они более тупые чем полная 8B модель и дает больше ошибок . Та же Qwen2.5-14B довольно хорошо отвечает на русском и понимает вопросы даже квантизованная, а модель на 32B будет еще лучше работать.

c0ntr0ller Mar 22 at 18:19

Извините, а ошибки прямо в первом абзаце - это демонстрация того, что статья написана человеком?

tripolskypetr Mar 22 at 18:29

Это бейт на коммент, говорят, для алгоритмов хорошо

Jeisooo Mar 24 at 09:29

За такое обычно подсвечниками бьют:)

tripolskypetr Mar 24 at 11:53

Мышка не сможет прийти и нагадить, если её не пригласил алгоритм...

Idakopas Mar 22 at 20:36

Мне еще в десятых годах пришло письмо "от гугловского рекрутера", в тексте тоже была ошибка - сразу подумалось, что ее поставили, чтоб заставить автоспам выглядеть "написанным от руки".

tripolskypetr Mar 22 at 22:25

Уже тогда адресат спама считал себя чем-то особенным…

Ratenti Mar 22 at 22:44

Что такое инструменты?

tripolskypetr Mar 22 at 22:51

https://platform.openai.com/docs/guides/function-calling

true_yury Mar 25 at 21:14

В статье написано про то, что задача использовать "RTX 3060 с 12ГБ", а модель 19ГБ и на скриншоте видеокарта RTX 3090 c 24ГБ на борту....