vaddone 24 авг в 16:48

Разворачиваем локально ИИ при помощи клиента Microsoft.Extensions.AI и Ollama

Простой

5 мин

4.9K

.NET * C# * Искусственный интеллект

Туториал

Комментарии 15

Ascar 24 авг в 19:05

Диспозить client в "фасаде" не нужно.

ZetaTetra 24 авг в 21:31

Почему?

Ascar 24 авг в 21:58

using уже указан для него
общепринятый дизайн

ZetaTetra 25 авг в 10:41

Код да, странный, но это PoC, его как угодно можно написать, главное чтобы работал.

А вот тут как раз странно, ибо писать такой детальный пример, а снизу писать что он больше не работает... Почему-бы сразу не использовать OllamaApiClient вместо OllamaChatClient и новый пакет?

vaddone 25 авг в 05:55

Спасибо за внимательность. Да, using можно было не писать. Поправил.

Ascar 28 авг в 20:35

Вы сделали всё наоборот.

Ikobolok 24 авг в 19:28

А почему Ollama ? Я тоже делал, только без Microsoft.Extensions.AI. Подключался по API.
Мне не хватало удобного перемещения по вопрос-ответ, и сделал простенькую форму и кнопки вверх-вниз для быстрого перемещения по чату. Но получается что это обертка над оберткой. И попробовал использовать LLamaSharp, что оказалось очень удобным.
Кстати в Ollama можно легко грузить модельки с huggingface.co

konopes 25 авг в 06:26

Правильно ли я понял, что возможности модели ограничены лишь способностями разработчика? Т.е. я могу научить модель работать с информацией, находящейся в файлах word и excel, например? Количество токенов на входе и выходе будет зависеть только от железа или не только или вообще не от железа? Заранее благодарю за ответы.