Кажется, Пушкин оказался слишком сложным для DeepSeek )) .... Попросил привести стихотворение, а в ответ получил совершенно новое произведение, которого Пушкин явно не писал.
Да, LM Studio тоже можно использовать. Я в итоге пошел через Ollama, потому что мне хотелось разобраться именно с этим вариантом и заодно понять, что происходит под капотом хотя бы на базовом уровне. Но для человека, который просто хочет скачать модель и начать с ней общаться, GUI действительно также удобно.
Да, тут есть важный момент: я в статье специально не пытался выяснять, какая модель сегодня самая актуальная. Полгода назад я просто взял DeepSeek R1 8B как первую модель, которую решил попробовать, и задача была скорее "запустить локальный AI на своем ноутбуке", чем собрать оптимальный локальный стек.
А вот про то, что именно лежит под конкретным тегом в Ollama и насколько этому стоит доверять, уже интересная тема для отдельного разбора.
Спасибо! Именно такой и была задумка: не пытаться за одну статью объять весь локальный AI, а показать самый первый шаг человеку, который до этого вообще не запускал локальные модели. А дальше комментарии уже отлично дополняют, куда копать ))
Осталось найти деньги на хороший пк =)
Да, LM Studio тоже можно использовать. Я в итоге пошел через Ollama, потому что мне хотелось разобраться именно с этим вариантом и заодно понять, что происходит под капотом хотя бы на базовом уровне. Но для человека, который просто хочет скачать модель и начать с ней общаться, GUI действительно также удобно.
Да, тут есть важный момент: я в статье специально не пытался выяснять, какая модель сегодня самая актуальная. Полгода назад я просто взял DeepSeek R1 8B как первую модель, которую решил попробовать, и задача была скорее "запустить локальный AI на своем ноутбуке", чем собрать оптимальный локальный стек.
А вот про то, что именно лежит под конкретным тегом в Ollama и насколько этому стоит доверять, уже интересная тема для отдельного разбора.
Спасибо! Именно такой и была задумка: не пытаться за одну статью объять весь локальный AI, а показать самый первый шаг человеку, который до этого вообще не запускал локальные модели. А дальше комментарии уже отлично дополняют, куда копать ))