[转]Java NIO原理图文分析及代码实现

本文转自:http://weixiaolu.iteye.com/blog/1479656

前言:
最近在分析hadoop的RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm)机制时,发现hadoop的RPC机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774)和java NIO。为了能够正确地分析hadoop的RPC源码,我觉得很有必要先研究一下java NIO的原理和具体实现。
这篇博客我主要从两个方向来分析java NIO
目录: 一.java NIO 和阻塞I/O的区别      1. 阻塞I/O通信模型      2. java NIO原理及通信模型 二.java NIO服务端和客户端代码实现

具体分析:
一.java NIO 和阻塞I/O的区别
1. 阻塞I/O通信模型
假如现在你对阻塞I/O已有了一定了解,我们知道阻塞I/O在调用InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞I/O的通信模型示意图如下:

 

 

如果你细细分析,一定会发现阻塞I/O存在一些缺点。根据阻塞I/O通信模型,我总结了它的两点缺点: 1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些CPU时间
2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。
在这种情况下非阻塞式I/O就有了它的应用前景。
2.
java NIO原理及通信模型
Java NIO是在jdk1.4开始使用的,它既可以说成“新I/O”,也可以说成非阻塞式I/O。下面是java NIO的工作原理:
1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。 2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。 3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。
阅读过一些资料之后,下面贴出我理解的java NIO的工作原理图:

 

 

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)
Java NIO的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

 

事件名 对应值
服务端接收客户端连接事件 SelectionKey.OP_ACCEPT(16)
客户端连接服务端事件 SelectionKey.OP_CONNECT(8)
读事件 SelectionKey.OP_READ(1)
写事件 SelectionKey.OP_WRITE(4)

 

   
   
   
   
   

服务端和客户端各自维护一个管理通道的对象,我们称之为selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的selector上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞I/O这时会调用read()方法阻塞地读取数据,而NIO的服务端会在selector中添加一个读事件。服务端的处理线程会轮询地访问selector,如果访问selector时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的java NIO的通信模型示意图:

 

 

二.java NIO服务端和客户端代码实现
为了更好地理解java NIO,下面贴出服务端和客户端的简单代码实现。
服务端:

 

Java代码 复制代码 收藏代码
  1. package cn.nio; 
  2.  
  3. import java.io.IOException; 
  4. import java.net.InetSocketAddress; 
  5. import java.nio.ByteBuffer; 
  6. import java.nio.channels.SelectionKey; 
  7. import java.nio.channels.Selector; 
  8. import java.nio.channels.ServerSocketChannel; 
  9. import java.nio.channels.SocketChannel; 
  10. import java.util.Iterator; 
  11.  
  12. /**
  13. * NIO服务端
  14. * @author 小路
  15. */ 
  16. publicclass NIOServer { 
  17.     //通道管理器 
  18.     private Selector selector; 
  19.  
  20.     /**
  21.      * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
  22.      * @param port  绑定的端口号
  23.      * @throws IOException
  24.      */ 
  25.     publicvoid initServer(int port) throws IOException { 
  26.         // 获得一个ServerSocket通道 
  27.         ServerSocketChannel serverChannel = ServerSocketChannel.open(); 
  28.         // 设置通道为非阻塞 
  29.         serverChannel.configureBlocking(false); 
  30.         // 将该通道对应的ServerSocket绑定到port端口 
  31.         serverChannel.socket().bind(new InetSocketAddress(port)); 
  32.         // 获得一个通道管理器 
  33.         this.selector = Selector.open(); 
  34.         //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后, 
  35.         //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。 
  36.         serverChannel.register(selector, SelectionKey.OP_ACCEPT); 
  37.     } 
  38.  
  39.     /**
  40.      * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  41.      * @throws IOException
  42.      */ 
  43.     @SuppressWarnings("unchecked"
  44.     publicvoid listen() throws IOException { 
  45.         System.out.println("服务端启动成功!"); 
  46.         // 轮询访问selector 
  47.         while (true) { 
  48.             //当注册的事件到达时,方法返回;否则,该方法会一直阻塞 
  49.             selector.select(); 
  50.             // 获得selector中选中的项的迭代器,选中的项为注册的事件 
  51.             Iterator ite = this.selector.selectedKeys().iterator(); 
  52.             while (ite.hasNext()) { 
  53.                 SelectionKey key = (SelectionKey) ite.next(); 
  54.                 // 删除已选的key,以防重复处理 
  55.                 ite.remove(); 
  56.                 // 客户端请求连接事件 
  57.                 if (key.isAcceptable()) { 
  58.                     ServerSocketChannel server = (ServerSocketChannel) key 
  59.                             .channel(); 
  60.                     // 获得和客户端连接的通道 
  61.                     SocketChannel channel = server.accept(); 
  62.                     // 设置成非阻塞 
  63.                     channel.configureBlocking(false); 
  64.  
  65.                     //在这里可以给客户端发送信息哦 
  66.                     channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes())); 
  67.                     //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。 
  68.                     channel.register(this.selector, SelectionKey.OP_READ); 
  69.                      
  70.                     // 获得了可读的事件 
  71.                 } elseif (key.isReadable()) { 
  72.                         read(key); 
  73.                 } 
  74.  
  75.             } 
  76.  
  77.         } 
  78.     } 
  79.     /**
  80.      * 处理读取客户端发来的信息 的事件
  81.      * @param key
  82.      * @throws IOException
  83.      */ 
  84.     publicvoid read(SelectionKey key) throws IOException{ 
  85.         // 服务器可读取消息:得到事件发生的Socket通道 
  86.         SocketChannel channel = (SocketChannel) key.channel(); 
  87.         // 创建读取的缓冲区 
  88.         ByteBuffer buffer = ByteBuffer.allocate(10); 
  89.         channel.read(buffer); 
  90.         byte[] data = buffer.array(); 
  91.         String msg = new String(data).trim(); 
  92.         System.out.println("服务端收到信息:"+msg); 
  93.         ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes()); 
  94.         channel.write(outBuffer);// 将消息回送给客户端 
  95.     } 
  96.      
  97.     /**
  98.      * 启动服务端测试
  99.      * @throws IOException
  100.      */ 
  101.     publicstaticvoid main(String[] args) throws IOException { 
  102.         NIOServer server = new NIOServer(); 
  103.         server.initServer(8000); 
  104.         server.listen(); 
  105.     } 
  106.  
package cn.nio;

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SelectionKey;
import java.nio.channels.Selector;
import java.nio.channels.ServerSocketChannel;
import java.nio.channels.SocketChannel;
import java.util.Iterator;

/**
 * NIO服务端
 * @author 小路
 */
public class NIOServer {
	//通道管理器
	private Selector selector;

	/**
	 * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
	 * @param port  绑定的端口号
	 * @throws IOException
	 */
	public void initServer(int port) throws IOException {
		// 获得一个ServerSocket通道
		ServerSocketChannel serverChannel = ServerSocketChannel.open();
		// 设置通道为非阻塞
		serverChannel.configureBlocking(false);
		// 将该通道对应的ServerSocket绑定到port端口
		serverChannel.socket().bind(new InetSocketAddress(port));
		// 获得一个通道管理器
		this.selector = Selector.open();
		//将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,
		//当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。
		serverChannel.register(selector, SelectionKey.OP_ACCEPT);
	}

	/**
	 * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
	 * @throws IOException
	 */
	@SuppressWarnings("unchecked")
	public void listen() throws IOException {
		System.out.println("服务端启动成功!");
		// 轮询访问selector
		while (true) {
			//当注册的事件到达时,方法返回;否则,该方法会一直阻塞
			selector.select();
			// 获得selector中选中的项的迭代器,选中的项为注册的事件
			Iterator ite = this.selector.selectedKeys().iterator();
			while (ite.hasNext()) {
				SelectionKey key = (SelectionKey) ite.next();
				// 删除已选的key,以防重复处理
				ite.remove();
				// 客户端请求连接事件
				if (key.isAcceptable()) {
					ServerSocketChannel server = (ServerSocketChannel) key
							.channel();
					// 获得和客户端连接的通道
					SocketChannel channel = server.accept();
					// 设置成非阻塞
					channel.configureBlocking(false);

					//在这里可以给客户端发送信息哦
					channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
					//在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。
					channel.register(this.selector, SelectionKey.OP_READ);
					
					// 获得了可读的事件
				} else if (key.isReadable()) {
						read(key);
				}

			}

		}
	}
	/**
	 * 处理读取客户端发来的信息 的事件
	 * @param key
	 * @throws IOException 
	 */
	public void read(SelectionKey key) throws IOException{
		// 服务器可读取消息:得到事件发生的Socket通道
		SocketChannel channel = (SocketChannel) key.channel();
		// 创建读取的缓冲区
		ByteBuffer buffer = ByteBuffer.allocate(10);
		channel.read(buffer);
		byte[] data = buffer.array();
		String msg = new String(data).trim();
		System.out.println("服务端收到信息:"+msg);
		ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
		channel.write(outBuffer);// 将消息回送给客户端
	}
	
	/**
	 * 启动服务端测试
	 * @throws IOException 
	 */
	public static void main(String[] args) throws IOException {
		NIOServer server = new NIOServer();
		server.initServer(8000);
		server.listen();
	}

}

 

客户端:

 

 

Java代码 复制代码 收藏代码
  1. package cn.nio; 
  2.  
  3. import java.io.IOException; 
  4. import java.net.InetSocketAddress; 
  5. import java.nio.ByteBuffer; 
  6. import java.nio.channels.SelectionKey; 
  7. import java.nio.channels.Selector; 
  8. import java.nio.channels.SocketChannel; 
  9. import java.util.Iterator; 
  10.  
  11. /**
  12. * NIO客户端
  13. * @author 小路
  14. */ 
  15. publicclass NIOClient { 
  16.     //通道管理器 
  17.     private Selector selector; 
  18.  
  19.     /**
  20.      * 获得一个Socket通道,并对该通道做一些初始化的工作
  21.      * @param ip 连接的服务器的ip
  22.      * @param port  连接的服务器的端口号        
  23.      * @throws IOException
  24.      */ 
  25.     publicvoid initClient(String ip,int port) throws IOException { 
  26.         // 获得一个Socket通道 
  27.         SocketChannel channel = SocketChannel.open(); 
  28.         // 设置通道为非阻塞 
  29.         channel.configureBlocking(false); 
  30.         // 获得一个通道管理器 
  31.         this.selector = Selector.open(); 
  32.          
  33.         // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调 
  34.         //用channel.finishConnect();才能完成连接 
  35.         channel.connect(new InetSocketAddress(ip,port)); 
  36.         //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。 
  37.         channel.register(selector, SelectionKey.OP_CONNECT); 
  38.     } 
  39.  
  40.     /**
  41.      * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  42.      * @throws IOException
  43.      */ 
  44.     @SuppressWarnings("unchecked"
  45.     publicvoid listen() throws IOException { 
  46.         // 轮询访问selector 
  47.         while (true) { 
  48.             // 选择一组可以进行I/O操作的事件,放在selector中,客户端的该方法不会阻塞, 
  49.             //这里和服务端的方法不一样,查看api注释可以知道,当至少一个通道被选中时, 
  50.             //selector的wakeup方法被调用,方法返回,而对于客户端来说,通道一直是被选中的 
  51.             selector.select(); 
  52.             // 获得selector中选中的项的迭代器 
  53.             Iterator ite = this.selector.selectedKeys().iterator(); 
  54.             while (ite.hasNext()) { 
  55.                 SelectionKey key = (SelectionKey) ite.next(); 
  56.                 // 删除已选的key,以防重复处理 
  57.                 ite.remove(); 
  58.                 // 连接事件发生 
  59.                 if (key.isConnectable()) { 
  60.                     SocketChannel channel = (SocketChannel) key 
  61.                             .channel(); 
  62.                     // 如果正在连接,则完成连接 
  63.                     if(channel.isConnectionPending()){ 
  64.                         channel.finishConnect(); 
  65.                          
  66.                     } 
  67.                     // 设置成非阻塞 
  68.                     channel.configureBlocking(false); 
  69.  
  70.                     //在这里可以给服务端发送信息哦 
  71.                     channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes())); 
  72.                     //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。 
  73.                     channel.register(this.selector, SelectionKey.OP_READ); 
  74.                      
  75.                     // 获得了可读的事件 
  76.                 } elseif (key.isReadable()) { 
  77.                         read(key); 
  78.                 } 
  79.  
  80.             } 
  81.  
  82.         } 
  83.     } 
  84.     /**
  85.      * 处理读取服务端发来的信息 的事件
  86.      * @param key
  87.      * @throws IOException
  88.      */ 
  89.     publicvoid read(SelectionKey key) throws IOException{ 
  90.         //和服务端的read方法一样 
  91.     } 
  92.      
  93.      
  94.     /**
  95.      * 启动客户端测试
  96.      * @throws IOException
  97.      */ 
  98.     publicstaticvoid main(String[] args) throws IOException { 
  99.         NIOClient client = new NIOClient(); 
  100.         client.initClient("localhost",8000); 
  101.         client.listen(); 
  102.     } 
  103.  
package cn.nio;

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SelectionKey;
import java.nio.channels.Selector;
import java.nio.channels.SocketChannel;
import java.util.Iterator;

/**
 * NIO客户端
 * @author 小路
 */
public class NIOClient {
	//通道管理器
	private Selector selector;

	/**
	 * 获得一个Socket通道,并对该通道做一些初始化的工作
	 * @param ip 连接的服务器的ip
	 * @param port  连接的服务器的端口号         
	 * @throws IOException
	 */
	public void initClient(String ip,int port) throws IOException {
		// 获得一个Socket通道
		SocketChannel channel = SocketChannel.open();
		// 设置通道为非阻塞
		channel.configureBlocking(false);
		// 获得一个通道管理器
		this.selector = Selector.open();
		
		// 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调
		//用channel.finishConnect();才能完成连接
		channel.connect(new InetSocketAddress(ip,port));
		//将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。
		channel.register(selector, SelectionKey.OP_CONNECT);
	}

	/**
	 * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
	 * @throws IOException
	 */
	@SuppressWarnings("unchecked")
	public void listen() throws IOException {
		// 轮询访问selector
		while (true) {
			// 选择一组可以进行I/O操作的事件,放在selector中,客户端的该方法不会阻塞,
			//这里和服务端的方法不一样,查看api注释可以知道,当至少一个通道被选中时,
			//selector的wakeup方法被调用,方法返回,而对于客户端来说,通道一直是被选中的
			selector.select();
			// 获得selector中选中的项的迭代器
			Iterator ite = this.selector.selectedKeys().iterator();
			while (ite.hasNext()) {
				SelectionKey key = (SelectionKey) ite.next();
				// 删除已选的key,以防重复处理
				ite.remove();
				// 连接事件发生
				if (key.isConnectable()) {
					SocketChannel channel = (SocketChannel) key
							.channel();
					// 如果正在连接,则完成连接
					if(channel.isConnectionPending()){
						channel.finishConnect();
						
					}
					// 设置成非阻塞
					channel.configureBlocking(false);

					//在这里可以给服务端发送信息哦
					channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
					//在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。
					channel.register(this.selector, SelectionKey.OP_READ);
					
					// 获得了可读的事件
				} else if (key.isReadable()) {
						read(key);
				}

			}

		}
	}
	/**
	 * 处理读取服务端发来的信息 的事件
	 * @param key
	 * @throws IOException 
	 */
	public void read(SelectionKey key) throws IOException{
		//和服务端的read方法一样
	}
	
	
	/**
	 * 启动客户端测试
	 * @throws IOException 
	 */
	public static void main(String[] args) throws IOException {
		NIOClient client = new NIOClient();
		client.initClient("localhost",8000);
		client.listen();
	}

}

 

小结:
终于把动态代理和java NIO分析完了,呵呵,下面就要分析hadoop的RPC机制源码了,博客地址:http://weixiaolu.iteye.com/blog/1504898。不过如果对java NIO的理解存在异议的,欢迎一起讨论。

 

 

 

如需转载,请注明出处:http://weixiaolu.iteye.com/blog/1479656

posted on 2013-03-19 08:57  freeliver54  阅读(471)  评论(0编辑  收藏  举报

导航