Запускаем privateGPT локально на WSL c поддержкой GPU Nvidia

[Aniro]

Запуск на Windows Subsystem для Linux (WSL) с поддержкой GPU может значительно улучшить его производительность.

Есть какйо-то бенчмарк? Хотелось бы узнать какой выйгрыш ждать по равнению с обычной CUDA под винду и стоит ли оно того, особенно в свете нижеследующих рисков:

Если что-то пошло не так, откройте окно и выбросьте компьютер.

[Vaitek]

Я так понимаю, приватный гпт этот текст и написал?

[savostin]

Надо ж ему как-то размножаться...

[fire64]

Новая разновидность вируса GPT, сам регистрируется на всех сайтах и пишет посты о том, как его установить и запустить))

[Moog_Prodigy]

Все эти инстансы в облаке - это путь в тупик. Простой, понятный путь. Не надо туда никому)

[fire64]

А системные требования у него какие?

[Einherjar]

А зачем в этой цепочке WSL? Windows тоже умеет ускорение GPU использовать, и питон для виндовс вроде как есть. А если проект требующий такое количество всякого bloatware все равно оказался не кроссплатформенным, то выкинуть в окно надо не компьютер, а автора проекта