flash网站模板修改,视频网站开发平台,网站开发团队成员,软件技术开发合同范本本文目录 一、事件处理模式1.1 Reactor模式1.2 Proactor模式1.3 同步IO模拟Proactor模式 二、线程池 一、事件处理模式
服务器程序通常需要处理三类事件#xff1a;I/O事件、信号、定时事件。
对应的有两种高效的事件处理模式#xff1a;Reactor和Proactor#xff0c;同步… 本文目录 一、事件处理模式1.1 Reactor模式1.2 Proactor模式1.3 同步IO模拟Proactor模式 二、线程池 一、事件处理模式
服务器程序通常需要处理三类事件I/O事件、信号、定时事件。
对应的有两种高效的事件处理模式Reactor和Proactor同步I/O通常用于Reacotr模式异步I/O模型用于实现Proactor模式。
1.1 Reactor模式
要求主线程I/O处理单元只负责监听文件描述符上是否有事发生有的话就立即将该事件通知工作线程逻辑单元将socket可读可写事件放入请求队列交给工作线程处理。除此之外主线程不做任何其他实质性的工作。读写数据、接受新的连接、处理客户端请求均在工作线程中完成。
使用同步I/O以epoll_wait为例子实现的Reactor工作流程如下
1、主线程往 epoll内核事件表中注册socket上的读就绪事件。 2、主线程调用epoll_wait等待socket上有数据可读。 3、当socket上有数据可读时候epoll_wait通知主线程主线程将socket可读事件放入请求队列中。 4、睡眠在请求队列上的某个工作线程被唤醒从socket读取数据并处理客户的请求然后往 epoll内核事件表中注册该socket上的写就绪事件。 5、主线程调用epoll_wait等待socket可写。 6、当socket可写时epoll_wait通知主线程主线程将socket可写事件放入请求队列。 7、睡眠在请求队列上的某个工作线程被唤醒往socket上写入服务器处理客户请求的结果。 1.2 Proactor模式
Proactor 模式将所有 I/O 操作都交给主线程和内核来处理(进行读、写)工作线程仅仅负责业务逻辑。使用异步 I/O 模型(以 aio_read 和 aio_write 为例)实现的 Proactor 模式的工作流程如下
1.主线程调用 aio_read 函数向内核注册 socket 上的读完成事件并告诉内核用户读缓冲区的位置以及读操作完成时如何通知应用程序(这里以信号为例)。 2.主线程继续处理其他逻辑。 3.当 socket 上的数据被读入用户缓冲区后内核将向应用程序发送一个信号以通知应用程序数据已经可用。 4.应用程序预先定义好的信号处理函数选择一个工作线程来处理客户请求。工作线程处理完客户请求后调用 aio_write 函数向内核注册 socket 上的写完成事件并告诉内核用户写缓冲区的位置以及写操作完成时如何通知应用程序。 5.主线程继续处理其他逻辑。 6.当用户缓冲区的数据被写入 socket 之后内核将向应用程序发送一个信号以通知应用程序数据已经发送完毕。 7.应用程序预先定义好的信号处理函数选择一个工作线程来做善后处理比如决定是否关闭 socket。 1.3 同步IO模拟Proactor模式
使用同步 I/0 方式模拟出 Proactor 模式。原理是:主线程执行数据读写操作读写完成之后主线程向工作线程通知这一完成事件”。那么从工作线程的角度来看它们就直接获得了数据读写的结果接下来要做的只是对读写的结果进行逻辑处理。
使用同步 I/0 模型(以 epoll _wait为例)模拟出的 Proactor 模式的工作流程如下: 1.主线程往 epoll 内核事件表中注册 socket 上的读就绪事件。 2. 主线程调用 epoll _wait 等待 socket 上有数据可读。 3.当 socket 上有数据可读时epoll wait 通知主线程。主线程从 socket 循环读取数据直到没有更多数据可读然后将读取到的数据封装成一个请求对象并插入请求队列。 4.睡眠在请求队列上的某个工作线程被唤醒它获得请求对象并处理客户请求然后往 epoll 内核事件表中注册 socket 上的写就绪事件。 5.主线程调用 epoll wait 等待 socket 可写, 6.当 socket 可写时epoll_wait 通知主线程。主线程往 socket 上写入服务器处理客户请求的结果。 二、线程池
线程池是由服务器预先创建的一组子线程线程池中的线程数量应该和 CPU 数量差不多。线程池中的所有子线程都运行着相同的代码。当有新的任务到来时主线程将通过某种方式选择线程池中的某一个子线程来为之服务。相比与动态的创建子线程选择一个已经存在的子线程的代价显然要小得多。至于主线程选择哪个子线程来为新任务服务则有多种方式
1、主线程使用某种算法来主动选择子线程。最简单、最常用的算法是随机算法和 Round Robin(轮流选取)算法但更优秀、更智能的算法将使任务在各个工作线程中更均匀地分配从而减轻服务器的整体压力。
2、主线程和所有子线程通过一个共享的工作队列来同步子线程都睡眠在该工作队列上。当有新的任务到来时主线程将任务添加到工作队列中。这将唤醒正在等待任务的子线程不过只有一个子线程将获得新任务的“接管权它可以从工作队列中取出任务并执行之而其他子线程将继续睡眠在工作队列上。 线程池中的线程数量最直接的限制因素是中央处理器(CPU)的处理器(processors/cores)的数量N:如果你的CPU是4-cores的对于CPU密集型的任务(如视频剪辑等消耗CPU计算资源的任务)来说那线程池中的线程数量最好也设置为4(或者1防止其他因素造成的线程阻塞);对于IO密集型的任务一般要多于CPU的核数因为线程间竞争的不是CPU的计算资源而是IOIO的处理般较慢多于cores数的线程将为CPU争取更多的任务不至在线程处理10的过程造成CPU空闲导致资源浪费。