Kafka 内存管理类BufferPool

        基本上每个成熟的框架或者工具都有一套内存管理机制     

       BufferPool 是Kafka  用来管理内存的工具类

        BufferPool内存管理包含2个部分,已用空间+可用空间(未申请空间+已申请未使用空间) 的总和代表BufferPool的总量,用totalMemory表示(由buffer.memory配置);
可使用的空间,它又包括两个部分:上半部分代表未申请未使用的部分,用availableMemory表示;下半部分代表已经申请但没有使用的部分,用一个ByteBuffer队列(Deque<ByteBuffer>)表示,我们称这个队列为free,队列中的ByteBuffer的大小用poolableSize表示(由batch.size配置)。
 
    所以可以得到以下2个公式
    totalMemory = 已用空间+可用空间
    可用空间 = availableMemory + free.size() * poolableSize
 
     从BufferPool中分配固定size大小的内存的步骤:

      tips:可用空间(未申请空间+已申请未使用空间)不能满足申请空间需求,需要通过释放已用空间内存来分配内存。

     内存初始化

     

 

   

      分配内存

      每次分配内存的时候,默认分配poolableSize大小的内存(poolableSize == batchSize)

 

     具体分配方案(这是源码分析,流程可以参考上面的流程图)

     

 

 

 

 

 

  内存释放

      

 

 

       

 

posted on 2020-10-15 15:01  柠檬糖大人你尽然盗号  阅读(556)  评论(0编辑  收藏  举报

导航