Пишем простой ML веб-сервис на FastAPI

[nstrek]

Есть такая штука cog https://github.com/replicate/cog

Это что-то типа надстройки над докером заточенная под легкий деплой моделей. Там даже очереди из коробки идут

[Nastaa]

Спасибо, сама не пользовалась, но выглядит действительно удобным инструментом для автоматизации деплоя моделей!

С другой стороны, изучение и понимание процесса создания приложений самому имеет ряд преимуществ. Например, существует много проектов, для которых не подходят автоматические инструменты. Где-то это дает больше гибкости и контроля за кодом. В целом, написание собственного приложения дает понимание, как работают разные инструменты.

[nstrek]

Я согласен