Разумеется, языковые модели эффективнее работают на GPU. Однако эта модель - одна из немногих, которая способна стабильно работать и выдавать результат (пусть и с меньшей скоростью) даже на CPU.
Локальная модель в Венде слишком ограниченна, чтобы ее выковыривать. Другими словами - не нужна никому. Да и запилить свое приложение немного легче ИМХО.
Разумеется, языковые модели эффективнее работают на GPU. Однако эта модель - одна из немногих, которая способна стабильно работать и выдавать результат (пусть и с меньшей скоростью) даже на CPU.
Можно. Мы используем Qwen3 1.7B - модель открытая и доступна отдельно.
В эпоху ИИ естественный интеллект начинает цениться все больше и больше. А его отсутствие в работе ощущается заметнее любых технологий.
Локальная модель в Венде слишком ограниченна, чтобы ее выковыривать. Другими словами - не нужна никому. Да и запилить свое приложение немного легче ИМХО.
В золотую лихорадку зарабатывают продавцы лопат.