Netty学习五:Buffers

1. Netty中的缓冲

在Netty中并没有使用Java自带的ByteBuffer,而是自己实现提供了一个缓存区来用于标识一个字节序列,并帮助用户操作原始字节或者自定义的POJO。

Java NIO的ByteBuffer问题

  • 长度固定,不能动态扩展和收缩
  • 只有一个标识位置的指针,读写时要手动调用相关方法
  • API功能有限,需要自己实现更高级的功能

如上图,channel与对端的I/O读写都要操作Buffers。当有读操作时,把数据从内核区读取到用户区,当有写操作时,把数据从用户区写到内核区。

2. ByteBuf

ByteBuf是Netty的实现的最基本的数据缓冲,它包括Heap Buffer和Direct Buffer。

ByteBuf实现了高级的功能和API,是Java NIO ByteBuffer更高级的封装和实现。

2.1 ByteBuf结构

如上图是ByteBuf的结构,其中:

  • readerIndex:读指针,最开始时等于0
  • writerIndex:写指针,最开始时等于0
  • capacity:代表这块内存区域的大小

2.2 写入数据

当写入N个数据后,writerIndex向后移动,但要保证writerIndex<capacity,这时可读数据为writerIndex,可写数据长度为capacity-writerIndex

2.3 读取数据

每读一个数据,readerIndex向后移动,但readerIndex<=writerIndex,可读数据writerIndex-readerIndex这时readerIndex-0则是可丢弃的数据段

2.4 动态扩展

如果数据继续写入缓冲区,而缓存区的writable区间已经被判断空间不足,那就有两个方法可以解决:
  • 动态扩展缓冲区,由ByteBuf实现

    重新创建一个新的ByteBuffer,并将之前的ByteBuffer复制到新创建的ByteBuffer中,最后释放老的ByteBuffer

  • 重用discard 区域,需要调用discardReadBytes方法

2.5 Heap Buffer

Heap Buffer:堆内存字节缓存区,特点是内存的分配和回收速度快,但在I/O读写时需要额外一次内存复制,将堆内存对应的缓冲区复制到内核Channel中。

2.6 Direct Buffer

Direct Buffer:直接内存字节缓存区,直接从Socket Channel中读写数据,少了一次内存复制,但内存的分配和回收速度慢一些。

2.7 Composite Buffer

Composite Buffer:复合缓冲区,我们可以创建多个不同的ByteBuf,然后提供一个这些ByteBuf 组合的视图。复合缓冲区就像一个列表,我们可以动态的添加和删除其中的ByteBuf

2.8 引用计数

ByteBuf扩展了ReferenceCountered接口,这个接口定义的功能主要是引用计数。
通过refCnt的数值来计算ByteBuf,如果refCnt等于1了,调用deallocate来回收ByteBuf,对于池化的ByteBuf则放入内存池,其他则释放内存。

3. 缓冲对象池

Netty使用Recycler来实现轻量级缓冲对象池。

3.1 Recycler

  • Handle

    定义接口

  • Stack

    Stack具体维护着对象池数据,向Recycler提供push和pop两个主要访问接口,pop用于从内部弹出一个可被重复使用的对象,push用于回收以后可以重复使用的对象

  • elements

    对象池数组

3.1.1 get

  • 首先获得当前线程关联的stack
  • 从stack中pop出一个handle
  • 如果没有则k新建一个
  • 从handle中取出对象

3.1.2 recycle

  • 对象通过引用计数来管理,如果发现引用计数等于1了,就通知Recycler回收对象
  • 将对象放入stack中
  • 如果超过当前池的大小但还没达到最大值,则新建池,并拷贝对象

3.2 内存池总结

Netty中每个线程都关联着一个内存对象池,用来操作缓冲对象

Netty中的I/O操作都需要涉及缓冲区,如果不使用内存池技术,系统将频繁的创建和回收buffer,对buffer的管理将十分困难。对于HeapBuf和Directbuf都分配和释放频率,并且对于Directbuf弥补一定的分配回收代价。

4. Zero-Copy

  • Netty 提供了 CompositeByteBuf 类, 它可以将多个 ByteBuf 合并为一个逻辑上的 ByteBuf, 避免了各个 ByteBuf 之间的拷贝

  • 通过 wrap 操作, 我们可以将 byte[] 数组、ByteBuf、ByteBuffer等包装成一个 Netty ByteBuf 对象, 进而避免了拷贝操作

  • ByteBuf 支持 slice 操作, 因此可以将 ByteBuf 分解为多个共享同一个存储区域的 ByteBuf, 避免了内存的拷贝

  • 通过 channel的tranferTo 实现文件传输, 可以直接将文件缓冲区的数据发送到目标 Channel, 避免了传统通过循环 write 方式导致的内存拷贝问题.

posted @ 2016-12-24 19:12  TomSnail  阅读(1498)  评论(0编辑  收藏  举报