个人网站免费域名注册,企业营销型网站案例,免费建设手机网站,榆林网站建设vs09121. SO_REUSEPORT 可以解决epoll的惊群问题
但是#xff0c;现在的 TCP Server#xff0c;一般都是 多进程多路IO复用(epoll) 的并发模型#xff0c;比如我们常用的 nginx 。如果使用 epoll 去监听 accept socket fd 的读事件#xff0c;当有新连接建立时#xff0c;所有进…1. SO_REUSEPORT 可以解决epoll的惊群问题
但是现在的 TCP Server一般都是 多进程多路IO复用(epoll) 的并发模型比如我们常用的 nginx 。如果使用 epoll 去监听 accept socket fd 的读事件当有新连接建立时所有进程都会被触发。因为由于 fork 文件描述符继承的缘故所有进程中的 accept socket fd 是相同的。惊群效应依然存在。nginx 也必然存在这个问题nginx 为了解决问题并且保证各个 worker 之前 accept 连接数的均衡费了很大的力气。
有了 SO_REUSEPORT 解决 多进程多路IO复用(epoll) 并发模型 accept 惊群问题就简单、高效很多。我们不需要通过 fork 的形式让多进程监听同一个端口。只需要在各个进程中 独自的 监听指定的端口当然在监听前我们需要为监听 socket 指定 SO_REUSEPORT 否则会报错啦。由于没有采用 fork 的形式各个进程中的 accept socket fd 不一样加之有新连接建立时内核只会唤醒一个进程来 accept并且保证唤醒的 均衡性因此使用 epoll 监听读事件就不会触发所有啦。也有牛人为 nginx 提了 patch 使用 SO_REUSEPORT 来杜绝 accept 惊群并且还能够保证 worker 之间的均衡性哦。泽民博客 | Jekyll theme
2. Accept 就是bio。对poll/epoll/select都是是用来实现多路复用的都不是bio
3. linux 惊群问题
关注这块逻辑
epoll_create()在Fork之前还是之后有神马区别呢
Fork之前epoll_create的话所有进程共享一个epoll红黑数。
如果我们只需要处理accept事件的话貌似世界一片美好了。但是epoll并不是只处理accept事件accept后续的读写事件都需要处理还有定时或者信号事件。
当连接到来时我们需要选择一个进程来accept这个时候任何一个accept都是可以的。当连接建立以后后续的读写事件却与进程有了关联。一个请求与a进程建立连接后后续的读写也应该由a进程来做。
当读写事件发生时应该通知哪个进程呢Epoll并不知道因此事件有可能错误通知另一个进程这是不对的。实验中观察到了这种现象
4. epoll和惊群
比较下EPOLLEXCLUSIVE 和 SO_REUSEPORT
EPOLLEXCLUSIVE 和 SO_REUSEPORT 都是在内核层面将连接分到多个worker解决了epoll下的惊群SO_REUSEPORT 会更均衡一些EPOLLEXCLUSIVE在压力不大的时候会导致连接总是在少数几个worker上但这个不会产生任何不利影响。 SO_REUSEPORT在最坏的情况下会导致一个worker即使Hang了OS也依然会派连接过去这是非常致命的所以4.5内核引入了 EPOLLEXCLUSIVE总是给闲置等待队列的第一个worker派连接 探索惊群 ⑤ - nginx - NGX_EXCLUSIVE_EVENT
Nginx 是如何解决惊群效应的 | LinkinStars Blog
nginx默认在linux支持的情况下支持EPOLLEXCLUSIVE能力。也支持手动修改配置支持SO_REUSEPORT能力
