Как мы построили Network Load Balancer в MWS Cloud Platform

@AlexB2012 прав - отправка RST одно из стандартных решений для таких ситуаций - наш балансер пока такое не делает, но скоро научится

так же важно уметь различать - рил перестал отвечать из-за того что упал или это плавное выведение рила из трафика - в первом случае мы скорее всего захотим отправить RST, во втором дадим существующим TCP flow поработать некоторое время(настраиваемый timeout), и только потом оборвем.