深入I/O学习记录-02java NIO工作机制

为什么需要NIO

标准IO 也就是 阻塞I/O（后面统一称为I/O），不管是网络I/O还是磁盘I/O数据写(outputStream)或者读(inputStream)都会存在阻塞，一旦出现了阻塞，线程将失去cpu的使用权。在网络I/O中可以用一个客户端在服务端就对应一个线程，出现阻塞只会阻塞一个线程而不影响其他的线程。或者使用线程池技术来减少开销。

但对于连接生存期比较长的协议来说，线程池的大小仍然限制了系统可以同时处理的客户端数量。例如一个在客户端之间传递消息的即时消息服务器IM。客户端必须不停地连接服务器以接收即时消息，因此线程池的大小限制了系统可以同时服务的客户端总数。如果增加线程池的大小，将带来更多的线程处理开销，而不能提升系统的性能，因为在大部分的时间里客户端是处于空闲状态的，并没有数据传输。这就需要大量的线程保持长连接。

还有更加困难的

1 ： 程序无法控制哪些线程的优先级更高，最多只能“建议”，但是操作系统不一定真的就对这个线程的优先级设置的更高去执行

2 ： 每个客户端的请求在服务端可能存在资源竞争，这些客户端在不同的线程中，这就需要使用锁机制或者其他互斥机制对依次访问状态进行严格的同步。否则，由于不同线程上的程序段交错执行，他们之间会改掉其他线程说做的修改。

这些都说明需要新的一种方式来处理I/O .

NIO的工作机制

概述

标准的IO基于字节流和字符流进行操作的，而NIO是基于通道（Channel）和缓冲区（Buffer）进行操作，数据总是从通道读取到缓冲区中，或者从缓冲区写入到通道中。

Java NIO可以让你非阻塞的使用IO，例如：当线程从通道读取数据到缓冲区时，线程还是可以进行其他事情。当数据被写入到缓冲区时，线程可以继续处理它。从缓冲区写入通道也类似。

Java NIO引入了选择器(Selectors)的概念，选择器用于监听多个通道的事件（比如：连接打开，数据到达）。因此，单个的线程可以监听多个数据通道。

Channel(通道)

Channel和IO中的Stream(流)有些类似。但是又有一些不同

既可以从Channel中读取数据，又可以写数据到Channel。但流的读写通常是单向的。
Channel可以异步地读写
Channel中的数据总是要先读到一个Buffer，或者总是要从一个Buffer中写入

NIO中的Channel的主要实现有：

FileChannel
DatagramChannel(能通过UDP读写网络中的数据)
SocketChannel(能通过TCP读写网络中的数据)
ServerSocketChannel(可以监听新进来的TCP连接，像Web服务器那样。对每一个新进来的连接都会创建一个SocketChannel)
这些通道涵盖了UDP 和 TCP 网络IO，以及文件IO

Buffer(缓冲区)

Java NIO中的Buffer用于和NIO通道进行交互。数据是从通道读入缓冲区，从缓冲区写入到通道中的。

缓冲区本质上是一块可以写入数据，然后可以从中读取数据的内存。这块内存被包装成NIO Buffer对象，并提供了一组方法，用来方便的访问该块内存

Buffer的基本用法

使用Buffer读写数据一般遵循以下四个步骤：

1 写入数据到Buffer
2 调用flip()方法
3 从Buffer中读取数据
4 调用clear()方法或者compact()方法

当向buffer写入数据时，buffer会记录下写了多少数据。一旦要读取数据，需要通过flip()方法将Buffer从写模式切换到读模式。在读模式下，可以读取之前写入到buffer的所有数据。

一旦读完了所有的数据，就需要清空缓冲区，让它可以再次被写入。有两种方式能清空缓冲区：调用clear()或compact()方法。clear()方法会清空整个缓冲区。compact()方法只会清除已经读过的数据。任何未读的数据都被移到缓冲区的起始处，新写入的数据将放到缓冲区未读数据的后面。

使用Buffer的例子

RandomAccessFile aFile = new RandomAccessFile("data/nio-data.txt", "rw");
FileChannel inChannel = aFile.getChannel();

//create buffer with capacity of 48 bytes
ByteBuffer buf = ByteBuffer.allocate(48);

int bytesRead = inChannel.read(buf); //read into buffer.
while (bytesRead != -1) {

buf.flip();  //make buffer ready for read

while(buf.hasRemaining()){
System.out.print((char) buf.get()); // read 1 byte at a time
}

buf.clear(); //make buffer ready for writing
bytesRead = inChannel.read(buf);
}
aFile.close();

Buffer的capacity,position和limit

缓冲区本质上是一块可以写入数据，然后可以从中读取数据的内存。这块内存被包装成NIO Buffer对象，并提供了一组方法，用来方便的访问该块内存。

理解Buffer的工作原理，需要熟悉它的三个属性

capacity
position
limit

position和limit的含义取决于Buffer处在读模式还是写模式。不管Buffer处在什么模式，capacity的含义总是一样的

capacity

作为一个内存块，Buffer有一个固定的大小值，也叫“capacity”.你只能往里写capacity个byte、long，char等类型。一旦Buffer满了，需要将其清空（通过读数据或者清除数据）才能继续写数据往里写数据。

position

当你写数据到Buffer中时，position表示当前的位置。初始的position值为0.当一个byte、long等数据写到Buffer后， position会向前移动到下一个可插入数据的Buffer单元。position最大可为capacity – 1.

当读取数据时，也是从某个特定位置读。当将Buffer从写模式切换到读模式，position会被重置为0. 当从Buffer的position处读取数据时，position向前移动到下一个可读的位置。

limit

在写模式下，Buffer的limit表示你最多能往Buffer里写多少数据。 写模式下，limit等于Buffer的capacity。

当切换Buffer到读模式时， limit表示你最多能读到多少数据。因此，当切换Buffer到读模式时，limit会被设置成写模式下的position值。换句话说，你能读到之前写入的所有数据（limit被设置成已写数据的数量，这个值在写模式下就是position）

Java NIO里关键的Buffer实现：

ByteBuffer
ShortBuffer
IntBuffer
LongBuffer
FloatBuffer
DoubleBuffer
CharBuffer
这些Buffer覆盖了你能通过IO发送的基本数据类型：byte, short, int, long, float, double 和 char。
当然还有MappedByteBuffer,HeapByteBuffer,DirectByteBuffer 这里先不作说明

Buffer的分配

要想获得一个Buffer对象首先要进行分配。 每一个Buffer类都有一个allocate方法。

ByteBuffer buf = ByteBuffer.allocate(48);//分配一个48个字节的ByteBuffer
CharBuffer buf = CharBuffer.allocate(1024);//分配一个1024个字节的CharBuffer

向Buffer中写数据两种方式：

1 从Channel写到Buffer (inChannel.read(buf); //read into buffer)
2 通过Buffer的put()方法 （buf.put(...)）

从Buffer中读取数据两种方式：

1 从Buffer读取到Channel (channel.write(buf)//read from buffer into channel)
2 使用get()方法从Buffer中读取数据 （buf.get()）

flip()方法

flip方法将Buffer从写模式切换到读模式。调用flip()方法会将position设回0，并将limit设置成之前position的值。

换句话说，position现在用于标记读的位置，limit表示之前写进了多少个byte、char...现在能读取多少个byte、char...。

clear()方法与compact()方法

一旦读完Buffer中的数据，需要让Buffer准备好再次被写入。可以通过clear()或compact()方法来完成。

如果调用的是clear()方法，position将被设回0，limit被设置成 capacity的值。换句话说，Buffer 被清空了。Buffer中的数据并未清除，只是这些标记告诉我们可以从哪里开始往Buffer里写数据。

如果Buffer中有一些未读的数据，调用clear()方法，数据将“被遗忘”，意味着不再有任何标记会告诉你哪些数据被读过，哪些还没有。

如果Buffer中仍有未读的数据，且后续还需要这些数据，但是此时想要先写些数据，那么使用compact()方法。

compact()方法将所有未读的数据拷贝到Buffer起始处。然后将position设到最后一个未读元素正后面。limit属性依然像clear()方法一样，设置成capacity。现在Buffer准备好写数据了，但是不会覆盖未读的数据。

rewind()方法

将position设回0，所以你可以重读Buffer中的所有数据。limit保持不变，仍然表示能从Buffer中读取多少个元素

mark()与reset()方法

通过调用Buffer.mark()方法，可以标记Buffer中的一个特定position。之后可以通过调用Buffer.reset()方法恢复到这个position

equals()与compareTo()方法

可以使用equals()和compareTo()方法两个Buffer。

equals()

equals只是比较Buffer的一部分，不是每一个在它里面的元素都比较。实际上，它只比较Buffer中的剩余元素(剩余元素是从 position到limit之间的元素)

当满足下列条件时，表示两个Buffer相等：

有相同的类型（byte、char、int等）。
Buffer中剩余的byte、char等的个数相等。
Buffer中所有剩余的byte、char等都相同。

compareTo()

compareTo()方法比较两个Buffer的剩余元素

如果满足下列条件，则认为一个Buffer“小于”另一个Buffer：

第一个不相等的元素小于另一个Buffer中对应的元素 。
所有元素都相等，但第一个Buffer比另一个先耗尽(第一个Buffer的元素个数比另一个少)。

Selector(选择器)

Selector允许单线程处理多个 Channel。如果你的应用打开了多个连接（通道），但每个连接的流量都很低，使用Selector就会很方便。例如，在一个聊天服务器中。
这是在一个单线程中使用一个Selector处理3个Channel的图示：

要使用Selector，得向Selector注册Channel，然后调用它的select()方法。这个方法会一直阻塞到某个注册的通道有事件就绪。一旦这个方法返回，线程就可以处理这些事件，事件的例子有如新连接进来，数据接收等。

Selector的创建

Selector selector = Selector.open()

向Selector注册通道

为了将Channel和Selector配合使用，必须将channel注册到selector上。通过SelectableChannel.register()方法来实现，如下：

ServerSocketChannel channel= ServerSocketChannel.open();//开启一个管道(channel)
Selector selector = Selector.open();//开启一个选择器(selector )
channel.configureBlocking(false);//设置channel非阻塞模式
SelectionKey key = channel.register(selector,Selectionkey.OP_READ);//向Selector注册通道

与Selector一起使用时，Channel必须处于非阻塞模式下。这意味着不能将FileChannel与Selector一起使用，因为FileChannel不能切换到非阻塞模式。而套接字通道都可以。

注意register()方法的第二个参数。这是一个“interest集合”，意思是在通过Selector监听Channel时对什么事件感兴趣。可以监听四种不同类型的事件：

Connect
Accept
Read
Write

通道触发了一个事件意思是该事件已经就绪。所以，某个channel成功连接到另一个服务器称为“连接就绪”。一个server socket channel准备好接收新进入的连接称为“接收就绪”。一个有数据可读的通道可以说是“读就绪”。等待写数据的通道可以说是“写就绪”。

这四种事件用SelectionKey的四个常量来表示：

SelectionKey.OP_CONNECT
SelectionKey.OP_ACCEPT
SelectionKey.OP_READ
SelectionKey.OP_WRITE

如果你对不止一种事件感兴趣，那么可以用“位或”操作符将常量连接起来，如下

int interestSet = SelectionKey.OP_READ | SelectionKey.OP_WRITE;

SelectionKey

在上一小节中，当向Selector注册Channel时，register()方法会返回一个SelectionKey对象。这个对象包含了一些你感兴趣的属性：

interest集合
ready集合
Channel
Selector
附加的对象（可选）

interest集合

interest集合是你所选择的感兴趣的事件集合。可以通过SelectionKey读写interest集合，像这样：

int interestSet = selectionKey.interestOps();

boolean isInterestedInAccept  = (interestSet & SelectionKey.OP_ACCEPT) == SelectionKey.OP_ACCEPT；
boolean isInterestedInConnect = interestSet & SelectionKey.OP_CONNECT;
boolean isInterestedInRead    = interestSet & SelectionKey.OP_READ;
boolean isInterestedInWrite   = interestSet & SelectionKey.OP_WRITE;

用“位与”操作interest 集合和给定的SelectionKey常量，可以确定某个确定的事件是否在interest 集合中

ready集合

ready 集合通道已经准备就绪的操作的集合。在通过Selector(选择器)选择channel(通道)之后，你会首先访问这个ready set,可以这样访问ready集合：

selectionKey.readyOps();

可以用像检测interest集合那样的方法，来检测channel中什么事件或操作已经就绪。但是，也可以使用以下四个方法，它们都会返回一个布尔类型：

selectionKey.isAcceptable();
selectionKey.isConnectable();
selectionKey.isReadable();
selectionKey.isWritable();

Channel + Selector

从SelectionKey访问Channel和Selector很简单。如下：

Channel  channel  = selectionKey.channel();
Selector selector = selectionKey.selector();

附加的对象

可以将一个对象或者更多信息附着到SelectionKey上，这样就能方便的识别某个给定的通道。例如，可以附加 与通道一起使用的Buffer，或是包含聚集数据的某个对象。使用方法如下：

selectionKey.attach(theObject);//附加对象
Object attachedObj = selectionKey.attachment();//获取附加的对象

还可以在用register()方法向Selector注册Channel的时候附加对象。如：

SelectionKey key = channel.register(selector, SelectionKey.OP_READ, theObject);

通过Selector选择通道

一旦向Selector注册了一或多个通道，就可以调用几个重载的select()方法。这些方法返回你所感兴趣的事件（如连接、接受、读或写）已经准备就绪的那些通道。换句话说，如果你对“读就绪”的通道感兴趣，select()方法会返回读事件已经就绪的那些通道。

下面是select()方法：

int select()
int select(long timeout)
int selectNow()

select()阻塞到至少有一个通道在你注册的事件上就绪了。

select(long timeout)和select()一样，除了最长会阻塞timeout毫秒(参数)。

selectNow()不会阻塞，不管什么通道就绪都立刻返回（译者注：此方法执行非阻塞的选择操作。如果自从前一次选择操作后，没有通道变成可选择的，则此方法直接返回零。）。

select()方法返回的int值表示有多少通道已经就绪。亦即，自上次调用select()方法后有多少通道变成就绪状态。如果调用select()方法，因为有一个通道变成就绪状态，返回了1，若再次调用select()方法，如果另一个通道就绪了，它会再次返回1。如果对第一个就绪的channel没有做任何操作，现在就有两个就绪的通道，但在每次select()方法调用之间，只有一个通道就绪了。

一旦调用了select()方法，并且返回值表明有一个或更多个通道就绪了，然后可以通过调用selector的selectedKeys()方法，访问“已选择键集（selected key set）”中的就绪通道。如下所示：

Set selectedKeys = selector.selectedKeys();

当向Selector注册Channel时，Channel.register()方法会返回一个SelectionKey 对象。这个对象代表了注册到该Selector的通道。可以通过SelectionKey的selectedKeySet()方法访问这些对象。

可以遍历这个已选择的键集合来访问就绪的通道。如下：

Set selectedKeys = selector.selectedKeys();Iterator keyIterator = selectedKeys.iterator();
while(keyIterator.hasNext()) {
SelectionKey key = keyIterator.next();
if(key.isAcceptable()) {
// a connection was accepted by a ServerSocketChannel.
} else if (key.isConnectable()) {
// a connection was established with a remote server.
} else if (key.isReadable()) {
// a channel is ready for reading
} else if (key.isWritable()) {
// a channel is ready for writing
}
keyIterator.remove();
}

这个循环遍历已选择键集中的每个键，并检测各个键所对应的通道的就绪事件。

注意每次迭代末尾的keyIterator.remove()调用。Selector不会自己从已选择键集中移除SelectionKey实例。必须在处理完通道时自己移除。下次该通道变成就绪时，Selector会再次将其放入已选择键集中。

SelectionKey.channel()方法返回的通道需要转型成你要处理的类型，如ServerSocketChannel或SocketChannel等。

wakeUp()

某个线程调用select()方法后阻塞了，即使没有通道已经就绪，也有办法让其从select()方法返回。只要让其它线程在第一个线程调用select()方法的那个对象上调用Selector.wakeup()方法即可。阻塞在select()方法上的线程会立马返回。

如果有其它线程调用了wakeup()方法，但当前没有线程阻塞在select()方法上，下个调用select()方法的线程会立即“醒来（wake up）”。

close()

用完Selector后调用其close()方法会关闭该Selector，且使注册到该Selector上的所有SelectionKey实例无效。通道本身并不会关闭。

完整的示例

完整的示例，打开一个Selector，注册一个通道注册到这个Selector上,然后持续监控这个Selector的四种事件（接受，连接，读，写）是否就绪。

Selector selector = Selector.open();
ServerSocketChannel channel = ServerSocketChannel.open();
channel.configureBlocking(false);//设置为非阻塞模式
channel.register(selector, SelectionKey.OP_READ);//注册监听事件
while(true) {
int readyChannels = selector.select();
if(readyChannels == 0) {
continue;
}
Set<SelectionKey> selectedKeys = selector.selectedKeys();//获取所有的key集合
Iterator<SelectionKey> keysIte = selectedKeys.iterator();
while(keysIte.hasNext()) {
SelectionKey key = keysIte.next();
if(key.isAcceptable()) {
// a connection was accepted by a ServerSocketChannel.
} else if (key.isConnectable()) {
// a connection was established with a remote server.
} else if (key.isReadable()) {
// a channel is ready for reading
} else if (key.isWritable()) {
// a channel is ready for writing
}
keysIte.remove();
}
}

NIO的工作实例

FileChannel

Java NIO中的FileChannel是一个连接到文件的通道。可以通过文件通道读写文件。

FileChannel无法设置为非阻塞模式，它总是运行在阻塞模式下。

@Test
public void fileChannel() throws IOException {
RandomAccessFile aFile = new RandomAccessFile("io.txt", "rw");
FileChannel fileChannel = aFile.getChannel();//打开FileChannel，还可以通过fileoutputStream，fileinputStream打开一个FileChannel
ByteBuffer buf = ByteBuffer.allocate(1024);//分配一个Buffer。从FileChannel中读取的数据将被读到Buffer中。

int bytesRead = fileChannel.read(buf);//调用FileChannel.read()方法。该方法将数据从FileChannel读取到Buffer中。read()方法返回的int值表示了有多少字节被读到了Buffer中。如果返回-1，表示到了文件末尾
System.out.println(bytesRead);

while (bytesRead != -1) {
buf.flip();
while (buf.hasRemaining()) {
System.out.print((char) buf.get());
}
buf.compact();
bytesRead = fileChannel.read(buf);
}
aFile.close();
//注意 buf.flip() 的调用，首先读取数据到Buffer，然后反转Buffer,接着再从Buffer中读取数据
}

SocketChannel和ServerSocketChannel

标准I/O是阻塞的，NIO中

服务端

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SelectionKey;
import java.nio.channels.Selector;
import java.nio.channels.ServerSocketChannel;
import java.nio.channels.SocketChannel;
import java.util.Iterator;

public class Server1 {

public static void main(String[] args) {
selector();
}

public static void handleAccept(SelectionKey key) throws IOException {
ServerSocketChannel ssChannel = (ServerSocketChannel) key.channel();
SocketChannel sc = ssChannel.accept();
sc.configureBlocking(false);
int opt = SelectionKey.OP_READ + SelectionKey.OP_WRITE;
sc.register(key.selector(), opt);//注册读写模式监听
}

public static void handleRead(SelectionKey key) throws IOException {
SocketChannel sc = (SocketChannel) key.channel();
ByteBuffer buffer = ByteBuffer.allocate(24);
int bytesRead = sc.read(buffer);//读取buff中的内容
while (bytesRead > 0) {//buff中有内容
System.out.println("server recv : " + new String(buffer.array()));
buffer.compact();//清除读取完毕的数据
bytesRead = sc.read(buffer);//读取buff中的内容，如果值不为-1 说明还有数据进行读取,否则读取完毕设置 -1 跳出循环
}
}

public static void handleWrite(SelectionKey key) throws IOException {
ByteBuffer buffer = ByteBuffer.allocate(12);
SocketChannel sc = (SocketChannel) key.channel();
buffer.put("okok".getBytes());
buffer.flip();
while (buffer.hasRemaining()) {
sc.write(buffer);
}
buffer.compact();
}

public static void selector() {
Selector selector = null;
ServerSocketChannel ssc = null;
try {
selector = Selector.open();
ssc = ServerSocketChannel.open();
ssc.socket().bind(new InetSocketAddress(8080));
ssc.configureBlocking(false);
ssc.register(selector, SelectionKey.OP_ACCEPT);

while (true) {
if (selector.select(3000) == 0) {
System.out.println("等待连接=====");
continue;
}
Iterator<SelectionKey> iter = selector.selectedKeys()
.iterator();
while (iter.hasNext()) {
SelectionKey key = iter.next();
iter.remove();
if (key.isAcceptable()) {
handleAccept(key);
}
if (key.isReadable()) {
handleRead(key);
}
if (key.isWritable() && key.isValid()) {
handleWrite(key);
}
if (key.isConnectable()) {
System.out.println("isConnectable = true");
}
}
}

} catch (IOException e) {
e.printStackTrace();
} finally {
try {
if (selector != null) {
selector.close();
}
if (ssc != null) {
ssc.close();
}
} catch (IOException e) {
e.printStackTrace();
}
}
}
}

客户端

package com.jx.spring.jms;

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SocketChannel;
import java.util.concurrent.TimeUnit;

public class Client1 implements Runnable{

private SocketChannel socketChannel;

public Client1(){
try {
socketChannel = SocketChannel.open();//打开一个SocketChannel
socketChannel.configureBlocking(false);//设置SocketChannel为非阻塞模式
socketChannel.connect(new InetSocketAddress("127.0.0.1", 8080));//SocketChannel绑定连接ip与端口
} catch (IOException e) {
e.printStackTrace();
}
}

@Override
public void run() {
try {
if (socketChannel.finishConnect()) {//如果完成连接
int i = 1;
while (true) {
TimeUnit.SECONDS.sleep(2);
doWrite(i);
doReader();
i++;
if(i == 10){
break;
}
}
}
socketChannel.close();
System.out.println("client excu end!");
} catch (IOException e) {
e.printStackTrace();
} catch (InterruptedException e) {
e.printStackTrace();
}
}

public static void main(String[] args) {
new Thread(new Client1()).start();
}

private void doReader() {
try {
ByteBuffer buffer = ByteBuffer.allocate(24);//定义一个分配1024字节的byteBuffer
int bytesRead = socketChannel.read(buffer);
while(bytesRead > 0){
System.out.println("client recv : " + new String(buffer.array()));
buffer.compact();//清除读取完毕的数据
bytesRead = socketChannel.read(buffer);
}
} catch (IOException e) {
e.printStackTrace();
}
}

private void doWrite(int i) {
try {
ByteBuffer buffer = ByteBuffer.allocate(1024);//定义一个分配1024字节的byteBuffer
buffer.clear();
buffer.put(String.valueOf(i).getBytes());
buffer.flip();
while (buffer.hasRemaining()) {
System.out.println("client  wirte i : " + i);
socketChannel.write(buffer);
}
buffer.compact();
} catch (IOException e) {
e.printStackTrace();
}
}
}

总结

IO

面向流
阻塞IO

NIO

面向缓冲
非阻塞IO
选择器

场景使用

NIO ：

在NIO一个线程可以对应一个selector，而一个selector可以轮询多个Channel，而每个Channel对应了一个Socket。这样就达到了一个线程处理多个Socket

当selector调用select()时，会查看是否有客户端准备好了数据。当没有数据被准备好时，select()会阻塞。平时都说NIO是非阻塞的，但是如果没有数据被准备好还是会有阻塞现象。

当有数据被准备好时，调用完select()后，会返回一个SelectionKey，SelectionKey表示在某个selector上的某个Channel的数据已经被准备好了。

只有在数据准备好时，这个Channel才会被选择.

如果需要管理同时打开的成千上万个连接，这些连接每次只是发送少量的数据，例如聊天服务器，实现NIO的服务器可能是一个优势

标准I/O

如果你有少量的连接使用非常高的带宽，一次发送大量的数据，也许典型的IO服务器实现可能非常契合