У меня бот на питоне хостится на shrlokhost всё работает 69р в месяц, я правда не понял как через cpanel его запускать, запускал через ssh фоновым процессом...
Transcript of a dialog, where the User interacts with an Assistant named Bob. Bob is helpful, kind, honest, good at writing, and never fails to answer the User's requests immediately and with precision.
User: Hello, Bob. Bob: Hello. How may I help you today? User: Please tell me the largest city in Europe. Bob: Sure. The largest city in Europe is Moscow, the capital of Russia. User:
У меня бот на питоне хостится на shrlokhost всё работает 69р в месяц, я правда не понял как через cpanel его запускать, запускал через ssh фоновым процессом...
Мне кажется они всётаки на апи опэнаи ну да слабеньких, но они набирают датасэт по этому вижу им смысл так в массы выкатить 3.5...
Например тут https://github.com/ggerganov/llama.cpp
Запускается так ./main -m ./models/13B/ggml-model-q4_0.bin -n 256 --repeat_penalty 1.0 --color -i -r "User:" -f prompts/chat-with-bob.txt
Подсказка выглядит так
Transcript of a dialog, where the User interacts with an Assistant named Bob. Bob is helpful, kind, honest, good at writing, and never fails to answer the User's requests immediately and with precision.
User: Hello, Bob.
Bob: Hello. How may I help you today?
User: Please tell me the largest city in Europe.
Bob: Sure. The largest city in Europe is Moscow, the capital of Russia.
User: