【2020Python修炼记】python并发编程（八）IO模型（python io模型）

【2020Python修炼记】python并发编程（八）IO模型（python io模型）

本文讨论的背景是Linux环境下的network IO

一、 IO模型介绍

回顾：同步/异步  阻塞/非阻塞

1、IO分类

同步（synchronous） IO

异步（asynchronous） IO

阻塞（blocking） IO

非阻塞（non-blocking）IO

2、IO模型

五种IO Model：

* blocking IO、 * nonblocking IO、* IO multiplexing 、* signal driven IO  、* asynchronous IO

（由于signal driven IO（信号驱动IO）在实际中并不常用，所以主要介绍其余四种 IO Model）

3、IO发生时涉及的对象和步骤

对于一个network IO (这里我们以read举例)，它会涉及到两个系统对象——

一个是 调用这个IO的process (or thread)，另一个就是 系统内核(kernel)。

当一个read操作发生时，该操作会经历两个阶段：

#1）等待数据准备 (Waiting for the data to be ready)

#2）将数据从内核拷贝到进程中(Copying the data from the kernel to the process)

记住这两点很重要，因为这些IO模型的区别就是在两个阶段上各有不同的情况。

4、补充

#1、输入操作：read、readv、recv、recvfrom、recvmsg共5个函数，如果会阻塞状态，则会经历wait data和copy data两个阶段，如果设置为非阻塞则在wait 不到data时抛出异常 

#2、输出操作：write、writev、send、sendto、sendmsg共5个函数，在发送缓冲区满了会阻塞在原地，如果设置为非阻塞，则会抛出异常 

#3、接收外来链接：accept，与输入操作类似 

#4、发起外出链接：connect，与输出操作类似

二、 阻塞IO(blocking IO)

1、图解

在linux中，默认情况下所有的socket都是blocking，一个典型的读操作流程大概是这样：

分析版——

2、过程描述：

kernel（内核 / 操作系统）：

当用户进程调用了recvfrom这个系统调用，kernel就开始了IO的第一个阶段：准备数据。

对于network io来说，很多时候数据在一开始还没有到达（比如，还没有收到一个完整的UDP包），这个时候kernel就要等待足够的数据到来。 

用户进程：

而在用户进程这边，整个进程会被阻塞。当kernel一直等到数据准备好了，它就会将数据从kernel中拷贝到用户内存，然后kernel返回结果，用户进程才解除block的状态，重新运行起来。

3、特点：

blocking IO的特点：在IO执行的两个阶段（等待数据和拷贝数据两个阶段）都被block了

4、补充：

所谓阻塞型接口是指系统调用（一般是IO接口）不返回调用结果并让当前线程一直阻塞，只有当该系统调用获得结果或者超时出错时才返回。

实际上，除非特别指定，几乎所有的IO接口 ( 包括socket接口 ) 都是阻塞型的。

如何解决调用阻塞问题——

在服务器端使用多线程 / 多进程（让每个连接都拥有独立的线程（或进程），这样任何一个连接的阻塞都不会影响其他的连接）

或者 使用 线程池 / 连接池（“线程池”旨在减少创建和销毁线程的频率，其维持一定合理数量的线程，并让空闲的线程重新承担新的执行任务。“连接池”维持连接的缓存池，尽量重用已有的连接、减少创建和关闭连接的频率。这两种技术都可以很好的降低系统开销，都被广泛应用很多大型系统，如websphere、tomcat和各种数据库等。）

上述两种手段，都没有很好地解决阻塞问题，该阻塞等待的还是如此——因此，尝试使用 非阻塞IO

三、 非阻塞IO(non-blocking IO)

1、图解

Linux下，可以通过设置socket使其变为non-blocking。当对一个non-blocking socket执行读操作时，流程是这个样子：

2、过程描述

# 当用户进程发出read操作时，如果kernel中的数据还没有准备好，那么它并不会block用户进程，而是立刻返回一个error。

从用户进程角度讲 ，它发起一个read操作后，并不需要等待，而是马上就得到了一个结果。

用户进程判断结果是一个error时，它就知道数据还没有准备好，于是用户就可以在本次到下次再发起read询问的时间间隔内做其他事情，或者直接再次发送read操作。

一旦kernel中的数据准备好了，并且又再次收到了用户进程的system call，那么它马上就将数据拷贝到了用户内存（这一阶段仍然是阻塞的），然后返回。

#  也就是说非阻塞的recvform系统调用调用之后，进程并没有被阻塞，内核马上返回给进程，如果数据还没准备好，此时会返回一个error。进程在返回之后，可以干点别的事情，然后再发起recvform系统调用。

重复上面的过程，循环往复的进行recvform系统调用。这个过程通常被称之为轮询。轮询检查内核数据，直到数据准备好，再拷贝数据到进程，进行数据处理。

需要注意，拷贝数据整个过程，进程仍然是属于阻塞的状态。

3、特点

在非阻塞式IO中，用户进程其实是需要不断的主动询问kernel数据准备好了没有。

非阻塞的recvform系统调用调用之后，进程并没有被阻塞，内核马上返回给进程，如果数据还没准备好，此时会返回一个error。进程在返回之后，可以干点别的事情，然后再发起recvform系统调用。

4、补充——实际应用中，非阻塞IO模型 绝不被推荐。

优点：

能够在等待任务完成的时间里干其他活了（包括提交其他任务，也就是 “后台” 可以有多个任务在“”同时“”执行）。

缺点：

#1. 循环调用recv()将大幅度推高CPU占用率；这也是我们在代码中会设置 time.sleep( )的原因,

      否则在低配主机下极容易出现卡机情况

#2. 任务完成的响应延迟增大了，因为每过一段时间才去轮询一次read操作，而任务可能在两次轮询之间的任意时间完成。

      这会导致整体数据吞吐量的降低。

四、 多路复用IO(IO multiplexing)——又名：事件驱动IO(event driven IO)

IO multiplexing，即 使用 select/epoll，其好处就在于单个process就可以同时处理多个网络连接的IO。

它的基本原理就是select/epoll 这个function会不断的轮询所负责的所有socket，当某个socket有数据到达了，就通知用户进程。

它的流程如图：

2、过程描述：

# 当用户进程调用了select，那么整个进程会被block，而同时，kernel会“监视”所有select负责的socket，

当任何一个socket中的数据准备好了，select就会返回。

这个时候用户进程再调用read操作，将数据从kernel拷贝到用户进程。

# 这个图和blocking IO的图其实并没有太大的不同，事实上还更差一些。

因为这里需要使用两个系统调用(select和recvfrom)，而blocking IO只调用了一个系统调用(recvfrom)。

但是，用select的优势在于它可以同时处理多个connection。

3、强调--特点：

（1） 如果处理的连接数不是很高的话，使用select/epoll 的web server不一定比使用multi-threading + blocking IO的web server性能更好，可能延迟还更大。select/epoll的优势并不是对于单个连接能处理得更快，而是在于能处理更多的连接。

（2）在多路复用模型中，对于每一个socket，一般都设置成为non-blocking，但是，如上图所示，整个用户的process其实是一直被block的。只不过process是被select这个函数block，而不是被socket IO给block。

结论: select的优势在于可以处理多个连接，不适用于单个连接

五 、异步IO(Asynchronous I/O)

Linux下的asynchronous IO其实用得不多，从内核2.6版本才开始引入。先看一下它的流程：

用户进程发起read操作之后，立刻就可以开始去做其它的事。

而另一方面，从kernel的角度，当它受到一个asynchronous read之后，首先它会立刻返回，所以不会对用户进程产生任何block。

然后，kernel会等待数据准备完成，然后将数据拷贝到用户内存，

当这一切都完成之后，kernel会给用户进程发送一个signal，告诉它read操作完成了

六、 IO模型比较分析

1、blocking 和 non-blocking的区别

调用blocking IO会一直block住对应的进程直到操作完成，而non-blocking IO在kernel还在准备数据的情况下会立刻返回。

2、synchronous IO （同步）和 asynchronous IO（异步）的区别

两者的定义：

 A synchronous I/O operation causes the requesting process to be blocked until that I/O operationcompletes;

An asynchronous I/O operation does not cause the requesting process to be blocked

两者的区别就在于synchronous IO做”IO operation”的时候会将process阻塞。

按照这个定义，四个IO模型可以分为两大类，

之前所述的 blocking IO，non-blocking IO，IO multiplexing都属于 synchronous IO这一类，

而 asynchronous IO 为另一类 。

各个IO Model的比较如图所示：

七、 selectors模块（暂略）

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。