javaNio的实现及代码
2017-03-19 00:00
155 查看
摘要: NIO是同步非阻塞的,数据首先通过操作系统级别缓存到buffer中,然后再行读取和写入的操作。首先创建chanel,将chanel注册到selector中,数据缓存到buffer,轮询,触发事件就进行读写操作。
需要注意的是:buffer在进行读操作的时候flip操作。limit在读操作的时候是position的大小,写操作的时候是capacity
要求写出io和nio的区别,从io的缺点以及nio的优点,减少了连接数量、抽象出来通道,以及技术实现,如NIO采用的buffer,Channel、selector多路复用器等技术要详细的说明。
以上是面试的时候需要回答的几个方面
Java NIO原理图文分析及代码实现
前言:
IO和NIO的区别(权威的详细的区别详见http://ifeve.com/java-nio-vs-io/)
内核空间、用户空间、计算机体系结构、计算机组成原理、……确实有点儿深奥。
我的新书《代码之谜》会有专门的章节讲解相关知识,现在写个简短的科普文:
就速度来说
第一种方式:我从硬盘读取数据,然后程序一直等,
数据读完后,继续操作。这种方式是最简单的,叫阻塞IO。
第二种方式:我从硬盘读取数据,然后程序继续向下执行,等数据读取完后,通知当前程序(对硬件来说叫中断,对程序来说叫回调),然后此程序可以立即处理数据,也可以执行完当前操作在读取数据。
在以前的 Java IO 中,都是阻塞式 IO,NIO 引入了非阻塞式 IO。
还有一种就是同步 IO 和异步 IO。经常说的一个术语就是“异步非阻塞”,好象异步和非阻塞是同一回事,这大概是一个误区吧。
至于 Java NIO 的 Selector,在旧的 Java IO 系统中,是基于 Stream 的,即“流”,流式 IO。
当程序从硬盘往内存读取数据的时候,操作系统使用了 2 个“小伎俩”来提高性能,那就是预读,如果我读取了第一扇区的第三磁道的内容,那么你很有可能也会使用第二磁道和第四磁道的内容,所以操作系统会把附近磁道的内容提前读取出来,放在内存中,
即缓存。
(PS:以上过程简化了)
通过上面可以看到,操作系统是按块 Block从硬盘拿数据,就如同一个大脸盆,一下子就放入了一盆水。但是,当 Java 使用的时候,旧的 IO 确实基于 流 Stream的,也就是虽然操作系统给我了一脸盆水,但是我得用吸管慢慢喝。
于是,NIO 横空出世。
最近在分析hadoop的RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现hadoop的RPC机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和java NIO。为了能够正确地分析hadoop的RPC源码,我觉得很有必要先研究一下java NIO的原理和具体实现。
这篇博客我主要从两个方向来分析java NIO
目录:
一.java NIO 和阻塞I/O的区别
1. 阻塞I/O通信模型
2. java NIO原理及通信模型
二.java NIO服务端和客户端代码实现
具体分析:
一.java NIO 和阻塞I/O的区别
1. 阻塞I/O通信模型
假如现在你对阻塞I/O已有了一定了解,我们知道阻塞I/O在调用InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞I/O的通信模型示意图如下:
如果你细细分析,一定会发现阻塞I/O存在一些缺点。根据阻塞I/O通信模型,我总结了它的两点缺点:
1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些CPU时间
2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。
在这种情况下非阻塞式I/O就有了它的应用前景。
2. java NIO原理及通信模型
Java NIO是在jdk1.4开始使用的,它既可以说成“新I/O”,也可以说成非阻塞式I/O。下面是java NIO的工作原理:
1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。
2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。
3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。
阅读过一些资料之后,下面贴出我理解的java NIO的工作原理图:
(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)
Java NIO的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:
服务端和客户端各自维护一个管理通道的对象,我们称之为selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的selector上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞I/O这时会调用read()方法阻塞地读取数据,而NIO的服务端会在selector中添加一个读事件。服务端的处理线程会轮询地访问selector,如果访问selector时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的java NIO的通信模型示意图:
服务端
客户端
main方法
需要注意的是:buffer在进行读操作的时候flip操作。limit在读操作的时候是position的大小,写操作的时候是capacity
要求写出io和nio的区别,从io的缺点以及nio的优点,减少了连接数量、抽象出来通道,以及技术实现,如NIO采用的buffer,Channel、selector多路复用器等技术要详细的说明。
以上是面试的时候需要回答的几个方面
Java NIO原理图文分析及代码实现
前言:
IO和NIO的区别(权威的详细的区别详见http://ifeve.com/java-nio-vs-io/)
内核空间、用户空间、计算机体系结构、计算机组成原理、……确实有点儿深奥。
我的新书《代码之谜》会有专门的章节讲解相关知识,现在写个简短的科普文:
就速度来说
CPU > 内存 > 硬盘
I- 就是从硬盘到内存
O- 就是从内存到硬盘
第一种方式:我从硬盘读取数据,然后程序一直等,
数据读完后,继续操作。这种方式是最简单的,叫阻塞IO。
第二种方式:我从硬盘读取数据,然后程序继续向下执行,等数据读取完后,通知当前程序(对硬件来说叫中断,对程序来说叫回调),然后此程序可以立即处理数据,也可以执行完当前操作在读取数据。
在以前的 Java IO 中,都是阻塞式 IO,NIO 引入了非阻塞式 IO。
还有一种就是同步 IO 和异步 IO。经常说的一个术语就是“异步非阻塞”,好象异步和非阻塞是同一回事,这大概是一个误区吧。
至于 Java NIO 的 Selector,在旧的 Java IO 系统中,是基于 Stream 的,即“流”,流式 IO。
当程序从硬盘往内存读取数据的时候,操作系统使用了 2 个“小伎俩”来提高性能,那就是预读,如果我读取了第一扇区的第三磁道的内容,那么你很有可能也会使用第二磁道和第四磁道的内容,所以操作系统会把附近磁道的内容提前读取出来,放在内存中,
即缓存。
(PS:以上过程简化了)
通过上面可以看到,操作系统是按块 Block从硬盘拿数据,就如同一个大脸盆,一下子就放入了一盆水。但是,当 Java 使用的时候,旧的 IO 确实基于 流 Stream的,也就是虽然操作系统给我了一脸盆水,但是我得用吸管慢慢喝。
于是,NIO 横空出世。
最近在分析hadoop的RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现hadoop的RPC机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和java NIO。为了能够正确地分析hadoop的RPC源码,我觉得很有必要先研究一下java NIO的原理和具体实现。
这篇博客我主要从两个方向来分析java NIO
目录:
一.java NIO 和阻塞I/O的区别
1. 阻塞I/O通信模型
2. java NIO原理及通信模型
二.java NIO服务端和客户端代码实现
具体分析:
一.java NIO 和阻塞I/O的区别
1. 阻塞I/O通信模型
假如现在你对阻塞I/O已有了一定了解,我们知道阻塞I/O在调用InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞I/O的通信模型示意图如下:
如果你细细分析,一定会发现阻塞I/O存在一些缺点。根据阻塞I/O通信模型,我总结了它的两点缺点:
1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些CPU时间
2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。
在这种情况下非阻塞式I/O就有了它的应用前景。
2. java NIO原理及通信模型
Java NIO是在jdk1.4开始使用的,它既可以说成“新I/O”,也可以说成非阻塞式I/O。下面是java NIO的工作原理:
1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。
2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。
3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。
阅读过一些资料之后,下面贴出我理解的java NIO的工作原理图:
(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)
Java NIO的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:
事件名 | 对应值 |
服务端接收客户端连接事件 | SelectionKey.OP_ACCEPT(16) |
客户端连接服务端事件 | SelectionKey.OP_CONNECT(8) |
读事件 | SelectionKey.OP_READ(1) |
写事件 | SelectionKey.OP_WRITE(4) |
服务端
package com.ast.nio; import java.io.IOException; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.channels.SelectionKey; import java.nio.channels.Selector; import java.nio.channels.ServerSocketChannel; import java.nio.channels.SocketChannel; import java.util.Iterator; /** * nio服务端 * * @author root * */ public class Service implements Runnable { // 通道管理器 private Selector selector; /** * 获得一个ServerSocket通道,并对该通道做一些初始化的操作 * * @param port * 绑定的端口号 * @throws IOException */ public void initServer(int port) throws IOException { // 获得一个serverSorcket通道 ServerSocketChannel serverSocketChannel = ServerSocketChannel.open(); // 设置通道为非阻塞 serverSocketChannel.configureBlocking(false); // 将该通道对应的serverSocket绑定到port端口 serverSocketChannel.socket().bind(new InetSocketAddress(port)); // 获得一个通道管理器 this.selector = Selector.open(); // 将该通道管理器和该通道绑定,并为该通道注册selecttionKey.OP_ACCEPT事件,注册该事件后 // 当改时间到达时,selector.select()会返回,如果事件没有到达,selector.select()会一直阻塞 serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT); } /** * 采用轮询的方式监听selecttor上是否有需要处理的事件,如果有则进行处理 * * @throws IOException */ public void listen() throws IOException { System.out.println("服务端启动成功"); // 轮询访问selector while (true) { // 当注册的事件到达时,方法返回,否则该方法会一直阻塞 // 该处有疑问,此处所说的事件是否是刚才注册的事件,还是说所有的这个selector上只要有事件就会触发呢?如何校验呢? selector.select(); // 获得selector中选中项的迭代器,选中的项为注册的事件 Iterator ite = this.selector.selectedKeys().iterator(); while (ite.hasNext()) { SelectionKey key = (SelectionKey) ite.next(); // 删除已经选的key,以防止重复处理 ite.remove(); // 客户端请求连接事件 if (key.isAcceptable()) { ServerSocketChannel server = (ServerSocketChannel) key .channel(); // 获得和客户端连接的通道 SocketChannel channel = server.accept(); // 设置成非阻塞 channel.configureBlocking(false); // 在这里给客户端发送信息 channel.write(ByteBuffer.wrap(new String("新建立一个连接成功") .getBytes())); // 在和客户端连接成功后,为了可以接收到客户端的信息,需要给通道设置°的权限 channel.register(selector, SelectionKey.OP_READ); } // 获得了可读的事件 if (key.isReadable()) { read(key); } } } } /** * 处理读取客户端发来的信息的事件 * * @param key * @throws IOException */ public void read(SelectionKey key) throws IOException { // 服务器可读取消息:得到事件发生的socket通道 SocketChannel channel = (SocketChannel) key.channel(); ByteBuffer buffer = ByteBuffer.allocate(10); channel.read(buffer); buffer.flip(); byte[] data = buffer.array(); buffer.clear(); String msg = new String(data).trim(); System.out.println("服务器端收到的信息:" + msg); ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes()); channel.write(outBuffer);// 将信息回送到客户端 } /** * 启动服务端测试 * * @param args * @throws IOException */ public static void main(String[] args) throws IOException { Service service = new Service(); // 初始化通道,并指定其端口 service.initServer(8000); service.listen(); } @Override public void run() { try { Service service = new Service(); // 初始化通道,并指定其端口 service.initServer(8000); service.listen(); } catch (Exception e) { } } } |
package com.ast.nio; import java.io.IOException; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.channels.FileChannel; import java.nio.channels.SelectionKey; import java.nio.channels.Selector; import java.nio.channels.SocketChannel; import java.util.Iterator; /** * 客户端 * * @author root * */ public class Client implements Runnable{ // 通道管理器 private Selector selector; private String threadName ; public Client(String threadName){ this.threadName = threadName; } private void listen() throws IOException { //轮询访问selector while(true){ selector.select(); //获得selector中选中的项的迭代器 Iterator ite = this.selector.selectedKeys().iterator(); while (ite.hasNext()) { SelectionKey key = (SelectionKey) ite.next(); ite.remove(); //删除已选的key防止重复触发事件 /*在第一次的时候发起请求,如果存在持续的发送事件,则只会连接一次*/ if (key.isConnectable()) { SocketChannel channel = (SocketChannel) key.channel(); //如果连接已经准备就绪,则完成连接 if (channel.isConnectionPending()) { channel.finishConnect(); } //设置成为非阻塞 channel.configureBlocking(false); //在这里可以给服务端发送信息 channel.write(ByteBuffer.wrap(new String(this.threadName+"_天下无贼").getBytes())); //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限 channel.register(selector, SelectionKey.OP_READ); } if (key.isReadable()) { read(key); } } } } /** * 处理读取客户端发来的信息的事件 * * @param key * @throws IOException */ public void read(SelectionKey key) throws IOException { //服务器可读取消息:得到事件发生的socket通道 SocketChannel channel = (SocketChannel) key.channel(); ByteBuffer buffer = ByteBuffer.allocate(100); channel.read(buffer); buffer.flip(); byte[] data = buffer.array(); buffer.clear(); String msg = new String(data).trim(); FileChannel fileChannel = new System.err.println(this.threadName+"__客户端收到的信息:"+msg); // ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes()); // channel.write(outBuffer);//将信息回送到客户端 } /** * 获得一个socket通道,并对该通道做一些初始化的操作 * * @param ip连接的服务器的IP * @param port * 连接服务器的端口号 * @throws IOException */ private void initClient(String ip, int port) throws IOException { // 获得一个socket通道 SocketChannel channel = SocketChannel.open(); // 设置通道为非阻塞 channel.configureBlocking(false); // 获得一个通道管理器 this.selector = Selector.open(); // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen方法中调用channel。finishConnect();才能实现连接 channel.connect(new InetSocketAddress(ip,port)); //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件 channel.register(selector, SelectionKey.OP_CONNECT); } @Override public void run() { try { initClient("localhost", 8000); listen(); } catch (IOException e) { } } } |
package com.ast.nio; public class Main { public static void main(String[] args) { Service service = new Service(); new Thread(service).start(); for (int i = 0; i < 1; i++) { new Thread(new Client(i + "")).start(); } } } |
相关文章推荐
- BCB中用Sender实现代码重用(纠正篇)
- VB 实现大文件的分割与恢复,引用 ADODB.Stream 提供一个过程代码
- 代码提示信息的实现
- 同时实现script和.net代码的执行,并保证顺序
- XSLT实现XML无极限树(精简版)[一]代码少,传输好!
- 实现对文件自动打包下载后并删除的代码
- 在VC++通过汇编实现获取代码运行时间
- 枚举数组中所有可能排列的代码实现 [2004年7月8日 1:57 ]
- SNMP协议实现存在多个漏洞的攻击代码
- 高级返回库函数exploit代码实现
- 投票系统原代码(JSP实现)
- 内容分页简单实现代码及祥解(C#)
- 《Asp.Net Forums2.0深入分析》之 Asp.Net Forums是如何实现代码分离和换皮肤的
- 使用PHP4中的 IntegratedTemplate类实现HTML和PHP代码分离
- Singleton模式的C++实现研究(示例代码)
- BCB中用Sender参数实现代码重用
- 实现窗体自动隐藏(c代码)
- 自己写代码实现分页导航
- 实现窗体隐藏代码实例(C代码)
- 使用PHP4中的 IntegratedTemplate类实现HTML和PHP代码分离