От десятка подписок к единому шлюзу LiteLLM: что пошло не по плану

каждый аккаунт Anthropic лучше пихать в раздельные CLIProxyAPI и потом уже добавлять в общий CLIProxyAPI, такая схема пока что работает без блокировок. Используем стабильную версию при обновлении. Модели добавляются отдельным скриптом. Новую модель сначала проверяем на текущей версии, если нужна поддержка новой схемы запросов, обновляем LiteLLM до включения модели.