Настройка Linux для обучения моделей с GPU

[MountainGoat]

Marine learning? Неужели так трудно потратить минуту, чтобы исправить ошибки в нагенерированном изображении? Заставляет думать, что в приведённых командах такой же уровень точности, DUDA вместо CUDA и т. д.

А по тексту — для половины фреймворков CUDA отдельно ставить не нужно, у них всё своё. Не помешает, но и использоваться не будет. А если очень старый CUDA поставить, то может и помешать.

[Dynasaur]

любопытно, я вот ставил ultalytics и cuda одновременно, не подумав. Вроде, в инструкции по ultralytics не написано, что надо ставить CUDA, я думал это само собой разумеется, а теперь не уверен :-)

[dmitry78]

"я не большой, любитель настраивать " в школу, срочно! (я б с gentoo поиграл, но необходимости нет

[Dynasaur]

почему питон надо 3.11?

$ nvidia-smi
Fri Sep 27 23:47:22 2024       
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 560.35.03              Driver Version: 560.35.03      CUDA Version: 12.6     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1080        Off |   00000000:06:00.0  On |                  N/A |
| 41%   68C    P2            221W /  230W |    5901MiB /   8192MiB |     99%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

[ainoob]

Это не обязательно, просто в моем проекте используется питон 3.11. По умолчанию в Ubuntu был установлен питон 3.12.

[avshkol]

Отлично, ждём примеров того, что и за какое время можно файнтюнить на 24 ГБ.

[man4j]

при наличие 256 г озу можно файнтюнить до 72b включительно. ну, у меня как минимум больше не получалось )

[avshkol]

Оценивали, насколько использование ОЗУ удлиняет время файнтюнинга? И приводит ли это к снижению нагрева видеокарты (по идее, должно - ведь пока часть грузится в ОЗУ и обратно, она простаивает?)

[dmitry78]

если долгоо пилить ubuntu получится arch, если копать арч-линух - получится ваниль, может проще в другую сторону (lfs это совсем экстрим) в генте можно компилять ядро под железо, ну и питоны от 2.х до сегодняшних, правда nvidia блобы а не сырцы от ati,.. .

Хуан примеряет новую косуху для не умеющих юзать ресурсы