Комментарии 4
Какой экономический эффект был получен? Можете прикинуть, сколько человеко-часов потрачено на "выпуск ML-сервиса в прод"? Сроки окупаемости этой работы?
Точные цифры не надо, интересует порядок чисел.
Через VK , точно не нужен DevOps как человек, это все на стороне vk, не нужен разработчик поддерживающий историю работы контейнеров ,архитектуры и т.д., делает ВК. Есть data scientist которой сделал модель и он ее сразу опубликовал и перевел в прод. Ваша архитектура как отправляла запрос так и отправляет.
Подскажите, какие могут требоваться дополнительные инстансы для предикт модели? Она же должна брать данные из какой-то базы, делать предикт и выдавать ответ. Понятно , что разворачивать питон, ставить airflow или иной инструмент на удаленном сервере, настраивать все это сложнее.
Добрый день, в этом и есть счастье, что не нужно. VK cloud предоставляет готовое решение. Вы где то посчитали модель/модели объединили/переписали в класс как выше.
Эту записали в MLflow , а от туда опубликовали в прод MLflow production.
Дальше она доступна по api .
data={"inputs":[0.045341, 0.050680]}
Это ваш запрос , первое значение в модели это средний чек, второе значение это влажность.
И выполнили дальше по коду в ответ вы получаете предсказание вашей модели.
ни базы, ни ранчера, ни арйфлоу вам не нужно. Пользователь может даже "по играть" вашей моделью , а что если ...влажность 100%. Вся ваша суть водится построить модель и опубликовать ну и передать ссылку и логин пароль. Дальше как они хотят через форму , через бд, через другие скрипты шлют данные как хотите.
Как выпустить ML-сервис в прод малыми силами: кейс работы в облаке