How to become an author

guinmoon Oct 10 2023 at 18:30

LLaMA 2, RWKV, Santacoder и другие LLM на iOS

Medium

11 min

9.1K

Development for iOS * Development for MacOS * Machine learning * Artificial Intelligence

+21

Comments 5

PLG Oct 11 2023 at 14:26

inference (я так и не решил как лучше перевести это слово

Часто используют либо англицизм "инференс", либо "генерация".

guinmoon Oct 11 2023 at 14:28

О! Точно, "генерация", хоть это и не перевод но по смыслу подходит, спасибо.

UFO landed and left these words here

guinmoon Oct 20 2023 at 09:56

Ответил ниже

guinmoon Oct 20 2023 at 09:54

Нужно скачать одну из моделей предложенных там. На мои запросы в браузере отвечает корректно, того что вы описываете не встречал. Можете попробовать скачать эту модель по прямой ссылке https://huggingface.co/guinmoon/LLMFarm_Models/resolve/main/orca-mini-3b-q4_1.gguf

Sign up to leave a comment.