Clearml Serving точно хорош для простых моделей и небольших пайплайнов. Но если в пайплайне много DL моделей и после каждой есть пре/пост процессинг, то из-за сложности обертки clearml над моделью будет непросто это все обернуть без костылей. На момент использования clearml serving, у них были проблемы со сборкой компоуза, конфликты зависимостей и т.д. Возможно сейчас лучше. Для меня подошел BentoML, но еще есть Seldon Core, AWS SageMaker и другие. Можно поискать по "MLOps model serving"
Clearml Serving точно хорош для простых моделей и небольших пайплайнов. Но если в пайплайне много DL моделей и после каждой есть пре/пост процессинг, то из-за сложности обертки clearml над моделью будет непросто это все обернуть без костылей. На момент использования clearml serving, у них были проблемы со сборкой компоуза, конфликты зависимостей и т.д. Возможно сейчас лучше. Для меня подошел BentoML, но еще есть Seldon Core, AWS SageMaker и другие. Можно поискать по "MLOps model serving"