抑制backend server陷入雪崩：nginx_concurrent_limit_module
jopen
9年前
在实际生产过程中，可能每台backend server的配置不同，导致存在不同的系能瓶颈，一旦请求并发数超过阈值，会造成雪崩效应，使服务器连阈值内的请求量都处理不了。
如果使用简单的weigth权重控制，并不能解决这种困境。如果请求峰值超过了系统所能承载的并发，仍然会造成雪崩效应。
为了解决以上的情形，开发了此补丁，当系统瓶颈主要在backend server时，该补丁能很好的抑制backend server陷入雪崩效应的发生。
可以根据压测结果，配置每一台backend server的并发数concurrent。当backend server正在处理的请求超过concurrent值后，upstream就不再会选给该backend server转发新的请求。