Comments 4
В результате масштабирования через пул IP-адресов удалось распараллелить
обращения к Whois-сервисам и повысить производительность системы по
latency.
Если вы добавили прокси-сервер для доступа к third-party сервису, т.е. ещё одно звено в цепи запросов, то итоговый latency должен увеличиться, а не уменьшиться.
да, вы правы, а мы были невнимательны: latency увеличивается (но увеличение по bandwith кратно перекрывает увеличение latency)
спасибо за внимательность!
Только для кейсов когда клиент запрашивает данные о небольшом количестве IP. При большом количестве запросов дополнительный прокси сервер обыгрывает задержки от самого себя
Видимо специфика бизнеса у автора такая, что пользователям как раз интересно смотреть данные нескольких IP за раз, иначе действительно стало бы только хуже
Кейс 2 меня просто убил. Убил не решением проблемы, а тем, что об этом нужно было думать в первую очередь. Туча запросов и все стояло в линейном кэше. Задуматься сразу о параллельных потоках и пулах прокси-серверов что помешало? Тем более, что заранее было известно о массовости таких запросов.
Как мы увеличили скорость обработки сервисных сообщений в 10 раз и еще 3 кейса про масштабирование проектов