А у меня русский не понимает ((( Запускаю main --color -i --interactive-first -r "### Human:" --temp 0 -c 2048 -n -1 -t 9 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-13b-4bit.bin
Столько инфы, разных моделей, подскажите пожалуйста, какая сейчас самая качественная модель для анализа и суммирования текстов, которую я могу запустить на компе с 64Gb памяти и видяхой RTX 3080 10Gb? Чтобы можно было загрузить пару страниц текста, а она выводы сделала. Или дообучить как-то?
А у меня русский не понимает (((
Запускаю main --color -i --interactive-first -r "### Human:" --temp 0 -c 2048 -n -1 -t 9 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-13b-4bit.bin
Столько инфы, разных моделей, подскажите пожалуйста, какая сейчас самая качественная модель для анализа и суммирования текстов, которую я могу запустить на компе с 64Gb памяти и видяхой RTX 3080 10Gb? Чтобы можно было загрузить пару страниц текста, а она выводы сделала. Или дообучить как-то?