Обновить

Комментарии 5

(скрин из утреннего митинга)

Я кажется почему-то понимаю Французский...

вот, что хабр животворящий делает!

Смотрел на локальные библиотеки для перевода, но чего-то вменяемого не нашел.

Пару месяцев назад Гугл выпустил несколько моделей специально для перевода:

https://huggingface.co/google/models?search=translate

Да, спасибо, видел. Но легко и без боли локально под .net открытые модели пока запускаются "не очень". Пробовал и порт llama.cpp (llamasharp) и foundry local - сырые оба. Получается лучше поставить оригинальную llama.cpp "рядом" и запустить модель на ней, общаясь с ней через OpenAI API

Конечно через OpenAI API.

Потому что клиента я запущу на одном компьютере, а GPU у меня может быть на другом.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации