（四）Windows网络模型之完成端口模型详解

Windows网络模型之完成端口模型

---

完成端口模型是重叠IO模型的升级优化版，解决了重叠IO模型的不足，是Windows下效率最好的网络模型。

---

重叠IO模型有什么不足？

• 对于事件通知：需要程序员进行循环询问，当并发量较高时，延迟增高，并且做了许多无用功；此外每次调用WSASend()、WSARecv()等函数投递给OS处理，其实都是在另开一根线程，这将不可变避免导致线程量增多，不好管理且效率下降。
• 对于完成例程：此时程序员只需等待服务器socket的事件即可；但是仍会存在大量的线程，相比事件通知模型还多出了执行回调函数(完成例程中的例程)所需要创建的线程，因此在并发量很大时，线程数目会急剧增加，导致效率下降。

这就引申出了一个新问题：为什么线程数增加的时候，效率会降低呢？

• 首先并不是线程数越多，CPU的利用效率就会越高
• 因为线程切换时需要保存当前线程上下文、恢复目标线程上下文。如果线程过多，会让CPU忙于切换和调度，浪费过多的时间在线程切换上，由此降低了效率。因此程序的线程数目不能太多，理论上和CPU核心数目差不多或稍微多一点即可。

说句拓展：有时会说线程数增加时，会提高程序的执行速度？为啥？

• 这是因为当增加当前程序的线程数时，会获得更多的CPU时间片，其挤压了其他程序或进程的CPU时间片。虽然当前程序执行速度可能会得到一定的提升，但是却牺牲了其他程序的执行效率且增加了CPU调度和线程切换的资源用量，本质上还是降低了计算机整体的执行效率，是一种"自私"的做法！

---

完成端口模型是如何解决线程过多问题的？

完成端口模型 是基于重叠IO模型的改进，该模型依然使用了重叠结构Overlapped、AcceptEx()、WSARecv()、WSASend()等异步函数。此外还使用了完成端口变量—需由CreateIoCompletionPort()创建。

该模型模仿消息队列，由OS维护一个通知队列，当上述的异步函数完成后就会产生通知，OS将通知放进通知队列中；程序员根据计算机的性能合理创建一定数目的线程，读取通知队列的头部通知，并进行分类处理。

---

完成端口模型的使用逻辑

1. 开启网络库

2. 创建服务器socket

3. 绑定本地IP与port

4. 创建完成端口，只需要一个完成端口，需要将每一个socket(服务器socket和客户端通信socket)都绑定到同一个完成端口上。

   // 功能1：创建完成端口
   HANDLE CreateIoCompletionPort(
     [in]           HANDLE    FileHandle,				// 填写INVALID_HANDLE_VALUE
     [in, optional] HANDLE    ExistingCompletionPort,	// 填写NULL
     [in]           ULONG_PTR CompletionKey,			// 忽略，填0即可
     [in]           DWORD     NumberOfConcurrentThreads// 最重要的参数：并发线程数目，填0表示默认
   );
   // 如：
   HANDLE hPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, 0, 0, 0);
   
   
   // 功能2：绑定socket到完成端口上
   HANDLE CreateIoCompletionPort(
     [in]           HANDLE    FileHandle,				// 需要绑定的socket的句柄
     [in, optional] HANDLE    ExistingCompletionPort,	// 完成端口的句柄
     [in]           ULONG_PTR CompletionKey,			// 传进去一个参数，它会在GetQueuedCompletionStatus()时传出，因此可以借助该参数标记以及识别socket
     [in]           DWORD     NumberOfConcurrentThreads// 忽略，填0即可
   );
   // 如：
   HANDLE hRes = CreateIoCompletionPort((HANDLE)sockListen, hPort, sockListen, 0);
   1
   2
   3
   4
   5
   6
   7
   8
   9
   10
   11
   12
   13
   14
   15
   16
   17
   18
   19
   20

5. 绑定服务器socket与完成端口

6. 启动服务器监听

7. 然后创建合理数目的线程，在每个线程中使用GetQueuedCompletionStatus()函数，获取通知队列中的通知，然后根据传出参数进行分类，并处理。保证线程循环执行，不断读取通知队列中的通知并处理。

   BOOL GetQueuedCompletionStatus(
     [in]  HANDLE       CompletionPort,			// 完成端口句柄，只有与完成端口绑定的socket上发生的事件才可以被监测到
           LPDWORD      lpNumberOfBytesTransferred,// 接收或发送的字节数
     [out] PULONG_PTR   lpCompletionKey,			// 传出了在绑定socket与完成端口时，传入的一个参数3，可以用于标记socket
     [out] LPOVERLAPPED *lpOverlapped,				// 传出了与socket绑定在一起的重叠结构，注意重叠结构是在调用异步函数时传入的
     [in]  DWORD        dwMilliseconds				// 超时时间
   );
   
   // 返回值： true 执行成功  false 执行失败
   1
   2
   3
   4
   5
   6
   7
   8
   9

8. 对于线程处理函数，主要工作就是循环调用GetQueuedCompletionStatus()处理通知队列的通知

   • 对于建立连接的请求要及时对新的客户端socket绑定重叠结构以及完成端口，然后投递。
   • 对于收发数据的请求，要及时处理数据，并继续投递数据收发任务

---

如何回答：讲讲你理解的完成端口模型？

完成端口模型是重叠IO模型的升级版，它解决了重叠IO模型中线程过多导致效率下降的问题。

在完成端口模型中，我们新创建一个完成端口变量，并将所有的socket(包括服务器socket和客户端通信socket)都绑定到完成端口上。然后使用AcceptEx()、WSARecv()、WSASend()函数异步投递相应的任务，等任务完成后操作系统将完成通知放进通知队列中。

之后程序员创建合理数目的线程，在线程函数中取出通知队列的头部，然后分析并分类处理。

该模型所有函数执行部分都是异步的，而且不存在线程滥用问题，因此效率非常高！

---

完成端口模型的流程图

---