Как развернуть виртуальную среду модели машинного обучения на любой машине?

[erley]

Посмотрите на kubeflow, сейчас довольно часто одного gpu недостаточно (по памяти/кол-ву ядер), к тому же такое дорогое оборудование можно будет делить с кем-то ещё без рукопашного docker.
К тому же там есть workflows и ещё много чего интересного.

[Anton_Kazantsev]

Очень интересная статья, понятно всё)

[The-Founder-1]

Спасибо!)

[firehacker]

Вместо тысячи слов

Впечатление от прочитанного:

[VBDUnit]

Ну так можно про многое сказать, всё таки современное ПО часто изобилует абстракциями.

[The-Founder-1]

:D

[Dynasaur]

Каковы ограничения описанного подхода? Можно модель в контейнере перенести с машины х86+NVIDIA+CUDA на Raspberry Pi+Corall ?

[The-Founder-1]

В статье идёт речь про GPU, а ваш вопрос про TPU акселератор.

Чтобы ответить на ваш вопрос, можно вот что попробовать сделать:

1. Надо определить потребляемые ресурсы вашего контейнера.

2. Попробовать запустить. У нас опыта нет, чтобы протестить, но YOLO тянет (есть разборы).

Если не запустится, надо будет собирать контейнер на самой Raspberry Pi+Corall, также пока непонятно, какая у вас модель... Она просто ведь может не потянуть по характеристикам железа.

[Archi_Pro]

на гпу нужно тренить модель, потом готовую модель квантизовать и использовать в Raspberry Pi+Corall например что бы по месту что то распознавать объекты

[Archi_Pro]

нет конечно нельзя в коралле нет никакой куды
С машины на машину тож будет не просто переносить, если нужных драйверов к примеру нет которые требуются для работы собранного докер образа

[Dynasaur]

Важное замечание. У каждой карты свой драйвер, то есть переносимость контейнера ограниченная