摘要: 阅读全文
posted @ 2016-09-13 18:40 junneyang 阅读(1677) 评论(0) 推荐(0) 编辑
摘要: 客户端需要指定ns名称,节点配置,ConfiguredFailoverProxyProvider等信息。 代码示例: 阅读全文
posted @ 2016-09-13 18:32 junneyang 阅读(4682) 评论(0) 推荐(0) 编辑
摘要: Hadoop机架感知 1.背景 Hadoop在设计时考虑到数据的安全与高效,数据文件默认在HDFS上存放三份,存储策略为本地一份, 同机架内其它某一节点上一份,不同机架的某一节点上一份。 这样如果本地数据损坏,节点可以从同一机架内的相邻节点拿到数据,速度肯定比从跨机架节点上拿数据要快; 同时,如果整 阅读全文
posted @ 2016-09-13 18:19 junneyang 阅读(2781) 评论(0) 推荐(0) 编辑
摘要: HDFS冗余数据块的自动删除 在日常维护hadoop集群的过程中发现这样一种情况: 某个节点由于网络故障或者DataNode进程死亡,被NameNode判定为死亡, HDFS马上自动开始数据块的容错拷贝; 当该节点重新添加到集群中时,由于该节点上的数据其实并没有损坏, 所以造成了HDFS上某些blo 阅读全文
posted @ 2016-09-13 17:47 junneyang 阅读(1476) 评论(0) 推荐(0) 编辑
摘要: hadoop datanode节点超时时间设置 datanode进程死亡或者网络故障造成datanode无法与namenode通信,namenode不会立即把该节点判定为死亡,要经过一段时间,这段时间暂称作超时时长。HDFS默认的超时时长为10分钟+30秒。如果定义超时时间为timeout,则超时时 阅读全文
posted @ 2016-09-13 17:42 junneyang 阅读(1016) 评论(0) 推荐(0) 编辑