文章目录
  1. 1. 一.概念理解
  2. 2. 二. UNIX网络IO模型
  3. 3. 三.select、poll、epoll概述
  4. 4. 四.参考文献

在研究nio和netty时,对它们的底层实现不是很了解,因此查阅了相关的资料,总结了在操作系统层面的IO通信模型。本文主要是基于unix环境来介绍,毕竟平常的服务器很少用windows的环境当服务器。要想深入的学习网络编程还得看看《unix网络编程》这本大名鼎鼎的书(包括卷一和卷二两本)。

一.概念理解

1.阻塞与非阻塞

阻塞调用是指调用结果返回之前,当前线程会被挂起(线程进入非可执行状态,在这个状态下,cpu不会给线程分配时间片,即线程暂停运行)。函数只有在得到结果之后才会返回。
非阻塞和阻塞的概念相对应,指在不能立刻得到结果之前,该函数不会阻塞当前线程,而会立刻返回。

2.同步与异步

所谓同步,就是在发出一个功能调用时,在没有得到结果之前,该调用就不返回。

异步的概念和同步相对。当一个异步过程调用发出后,调用者不能立刻得到结果。实际处理这个调用的部件在完成后,通过状态、通知和回调来通知调用者。
例如 ajax请求(异步): 请求通过事件触发->服务器处理(这是浏览器仍然可以作其他事情)->处理完毕。

一个IO操作其实分成了两个步骤:发起IO请求(是否阻塞等待数据,来区分阻塞与非阻塞IO)和实际的IO操作(将数据从内核空间拷贝到用户空间,是否阻塞用来区分同步还是异步)。

阻塞IO和非阻塞IO的区别在于第一步,发起IO请求是否会被阻塞,如果阻塞直到完成那么就是传统的阻塞IO,如果不阻塞,那么就是非阻塞IO。

同步IO和异步IO的区别就在于第二个步骤是否阻塞,如果实际的IO读写阻塞请求进程,那么就是同步IO,因此下文将要介绍的IO模型中阻塞IO、非阻塞IO、IO复用、信号驱动IO都是同步IO,如果不阻塞,而是操作系统帮你做完IO操作再将结果返回给你,那么就是异步IO,IO模型中的异步IO就是异步的。

二. UNIX网络IO模型

Linux的内核将所有外部设备都可以看做一个文件来操作,那么我们对与外部设备的操作都可以看做对文件进行操作。我们对一个文件的读写,都通过调用内核提供的系统调用;内核给我们返回一个file descriptor(fd,文件描述符)。而对一个socket的读写也会有相应的描述符,称为socketfd(socket描述符),描述符就是一个数字,指向内核中一个结构体(文件路径,数据区等一些属性)。

1.阻塞I/O(blocking I/O)

以socket为例,在进程空间中调用recvfrom,其系统调用直到数据报到达且被拷贝到应用进程的缓冲区中或者发生错误才返回,期间一直在等待。
阻塞IO模型

2.非阻塞I/O (nonblocking I/O)

recvfrom从应用层到内核的时候,如果该缓冲区没有数据的话,就直接返回一个EWOULDBLOCK错误,一般都对非阻塞IO模型进行轮询检查这个状态,看内核是不是有数据到来。
非阻塞IO模型
3. I/O复用(select 和poll) (I/O multiplexing)

Linux提供select/poll,进程通过将一个或多个fd传递给select或poll系统调用,阻塞在select;这样select/poll可以帮我们侦测许多fd是否就绪。但是select/poll是顺序扫描fd是否就绪,而且支持的fd数量有限。linux还提供了一个epoll系统调用,epoll是基于事件驱动方式,而不是顺序扫描,当有fd就绪时,立即回调函数rollback。
IO复用模型

4.信号驱动I/O (signal driven I/O (SIGIO))

首先我们允许套接口进行信号驱动I/O,并安装一个信号处理函数,进程继续运行并不阻塞。当数据准备好时,进程会收到一个SIGIO信号,可以在信号处理函数中调用I/O操作函数处理数据。
信号驱动式IO模型

5.异步I/O (asynchronous I/O (the POSIX aio_functions))

告知内核启动某个操作,并让内核在整个操作完成后(包括将数据从内核拷贝到用户自己的缓冲区)通知我们。这种模型与信号驱动模型的主要区别是:信号驱动IO是由内核通知我们何时尅启动一个IO操作,异步IO模型则是由内核通知我们IO操作何时完成。
异步IO模型

五种IO模型的比较:
五种IO模型的比较

三.select、poll、epoll概述

1.select

select本质上是通过设置或者检查存放fd标志位的数据结构来进行下一步处理。这样所带来的缺点是:

  • 单个进程可监视的fd数量被限制,即能监听端口的大小有限。一般来说这个数目和系统内存关系很大,具体数目可以cat /proc/sys/fs/file-max察看。32位机默认是1024个。64位机默认是2048。
  • 对socket进行扫描时是线性扫描,即采用轮询的方法,效率较低。当套接字比较多的时候,每次select()都要通过遍历FD_SETSIZE个Socket来完成调度,不管哪个Socket是活跃的,都遍历一遍,这会浪费很多CPU时间。如果能给套接字注册某个回调函数,当他们活跃时,自动完成相关操作,那就避免了轮询,这正是epoll与kqueue做的。
  • 需要维护一个用来存放大量fd的数据结构,这样会使得用户空间和内核空间在传递该结构时复制开销大。

2.poll

poll本质上和select没有区别,它将用户传入的数组拷贝到内核空间,然后查询每个fd对应的设备状态,如果设备就绪则在设备等待队列中加入一项并继续遍历,如果遍历完所有fd后没有发现就绪设备,则挂起当前进程,直到设备就绪或者主动超时,被唤醒后它又要再次遍历fd。这个过程经历了多次无谓的遍历。
它没有最大连接数的限制,原因是它是基于链表来存储的,但是同样有一个缺点:

  • 大量的fd的数组被整体复制于用户态和内核地址空间之间,而不管这样的复制是不是有意义。
  • poll还有一个特点是“水平触发”,如果报告了fd后,没有被处理,那么下次poll时会再次报告该fd。

3.epoll

epoll支持水平触发和边缘触发,最大的特点在于边缘触发,它只告诉进程哪些fd刚刚变为就需态,并且只会通知一次。还有一个特点是,epoll使用“事件”的就绪通知方式,通过epoll_ctl注册fd,一旦该fd就绪,内核就会采用类似callback的回调机制来激活该fd,epoll_wait便可以收到通知。

epoll的优点:

  • 没有最大并发连接的限制,能打开的FD的上限远大于1024(1G的内存上能监听约10万个端口);
  • 效率提升,不是轮询的方式,不会随着FD数目的增加效率下降。只有活跃可用的FD才会调用callback函数;即epoll最大的优点就在于它只管你“活跃”的连接,而跟连接总数无关,因此在实际的网络环境中,epoll的效率就会远远高于select和poll。
  • 内存拷贝,利用mmap()文件映射内存加速与内核空间的消息传递;即epoll使用mmap减少复制开销。

注:本文所用的图片皆来自《unix网络编程卷1:套接字联网API》一书。

四.参考文献

  1. Unix网络编程卷1:套接字联网API(第3版)
  2. Java IO: BIO, NIO, AIO http://halo9pan.info/2014/08/java-io/
  3. socket阻塞与非阻塞,同步与异步 http://blog.csdn.net/hguisu/article/details/7453390
  4. 使用异步I/O大大提高应用程序的性能 http://www.ibm.com/developerworks/cn/linux/l-async/
文章目录
  1. 1. 一.概念理解
  2. 2. 二. UNIX网络IO模型
  3. 3. 三.select、poll、epoll概述
  4. 4. 四.参考文献