Интересно то, что в итоге мы упираемся не столько в размер модели, сколько в экономику всей системы. И еще зацепил момент с роутингом: вроде бы SLM должна экономить ресурсы, но добавляет отдельный сервис, мониторинг и поддержку. А есть какие-то реальные кейсы, где после всех этих накладных расходов переход на SLM действительно дал заметную экономию?
Интересно то, что в итоге мы упираемся не столько в размер модели, сколько в экономику всей системы. И еще зацепил момент с роутингом: вроде бы SLM должна экономить ресурсы, но добавляет отдельный сервис, мониторинг и поддержку. А есть какие-то реальные кейсы, где после всех этих накладных расходов переход на SLM действительно дал заметную экономию?
Ставлю на опыт вайбкодера)