摘要: 共涉及三个参数: dfs.namenode.replication.max-streams 30 ⇒ 70 dfs.namenode.replication.max-streams-hard-limit 40 ⇒ 90 dfs.namenode.replication.work.multiplier 阅读全文
posted @ 2022-04-11 13:01 hdpdriver 阅读(445) 评论(0) 推荐(0) 编辑
摘要: 当 datanode 上新写完一个块,默认会立即汇报给 namenode。在一个大规模 Hadoop 集群上,每时每刻都在写数据,datanode 上随时都会有写完数据块然后汇报给 namenode 的情况。因此 namenode 会频繁处理 datanode 这种快汇报请求,会频繁地持有锁,其实非 阅读全文
posted @ 2022-04-11 12:54 hdpdriver 阅读(520) 评论(0) 推荐(0) 编辑