Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 5
Можно ли использовать локально развёрнутые языковые модели, на своём сервере?
тут есть тред обсуждения с рецептами https://github.com/jerryjliu/llama_index/issues/928
Вполне. llama.cpp бодро работает на CPU.
Я печатаю на любой клавиатуре слепым методом 500 символов в минуту. Да вот только фигня какая-то получается. Готов обучать всякие ChatGPT.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Обучаем с помощью LlamaIndex и OpenAI GPT-3 отвечать по вашей базе знаний