Как найти причину латенси в пайплайне обработки HTTP запроса за 5 минут: разбираем шаг за шагом

[x1shn1k]

Довольно подробно описали всё.

Часто сталкивались с тем что какое-то промежуточное звено не поддерживает keep-alive.

Раз были дополнительные задержки из-за TCP_NODELAY.

Про разницу в роутинге между тарифами Cloudflare думаю многие и так знают - иногда можно значительно сократить время риквеста перейдя на тариф повыше(с Pro на Business, например). Узнать поможет ли значительно переход на более высокий тариф можно посмотрев на аналитику в клаудфлеер по странам. Если например юзеры из Сингапура коннектятся к датацентру клаудфлеер в Лондоне - скорей всего что-то не так в роутинге и можно пробовать переходить на другой тариф.

Если приложение не поддерживает сжатие http респонсов, можно их сжимать на стороне nginx прокси(nginx_proxy_gzipped_response).

Или на той же проксе удалять ненужные http заголовки, чтобы меньше трафика проксировалось на приложение (актуально если между проксей и приложением есть какой-то хоп, где вы платите деньги за трафик)