宝塔服务器面板,一键全能部署及管理,送你10850元礼包,点我领取

无论是Nginx、百度开源BFE还是其他4层/7层流量代理,套接字连接数上限都存在问题。

此最大连接数问题意味着七层流量代理连接到后端服务,而不是七层流量代理连接到客户端。

为了使客户端与服务端建立连接,客户端必须占用系统分配的端口号。 对于Linux系统,最大可用端口号为65535。

在第7层通信代理和后端服务之间的通信中,第7层通信代理属于客户端,因此第7层通信代理和后端服务之间的连接数有限。

对于长连接,连接数的理论上限为65535。 但是,由于某些系统进程占用一些端口号(如22个端口),因此上限将小于65535。

这种不可修复的缺陷只能在“低配置的多个实例”中增加连接数上限。

对于长连接,存在连接数上限问题,但对于短连接,是否存在此问题?

短链接是指在创建连接后启动一次,等待响应后立即关闭的连接。 但是,由于TCP协议中存在四次挥手的过程,因此连接关闭并不会立即释放端口。 此过程有一个时间窗口,在Linux上,默认大小为120秒。 在这样长时间的窗口中,如果请求数达到546QPS以上,则端口容易变得不可用。

要理解这个问题,首先需要了解TCP协议的四次挥手的过程。

1、客户端向服务端发送标识FIN=1的数据包,告诉服务端客户端不再发送会话数据。 此时,客户端的状态为FIN_WAIT_1。

2、服务端收到FIN请求后,向客户端发送ACK回复数据包,客户端收到ACK后,状态为FIN_WAIT_2,服务端状态为CLOSE_WAIT;

3、服务端向客户端发送指示FIN=1的分组,告知服务端不再发送会话数据。 发送成功后,服务端状态为LAST_ACK;

4、客户端收到FIN请求后向服务端发送ACK应答数据包,然后客户端状态为TIME_WAIT,服务端收到ACK后状态为CLOSED,客户端等待2MSL后关闭

挥手4次的过程中,客户端的TIME_WAIT状态持续2MSL才变为CLOSED。

最大消息传递期限(MSL )或消息的最大生存时间是任何消息在网络上生存的最长时间,并且如果超过该时间,则丢弃该消息。 因此,在2MSL期间,连接占用的端口将处于空闲状态,无法使用。 在Linux系统上,MSL的默认值为60秒,2MSL为120秒。

为什么TIME_WAIT要维持2MSL的时间呢?

第1、4次挥手是客户端向服务端发送ACK,发送完成后客户端直接关闭连接。 如果服务器端由于网络抖动而未收到ACK,则服务器端不会关闭连接。 在2MSL的等待时间内,如果服务器没有收到响应,服务器将继续发送FIN请求。

如果不等待2、2MSL,客户端关闭连接后端口可能会被重用。 在此端口上再次建立与服务器的连接时,前后两个连接四元(src IP端口,dec IP端口)相同,服务器将认为是上一个连接,数据包会发生干扰。