摘要: hadoop版本:3.1.1 yarn-site.xml yarn.log-aggregation-enable 作用:是否开启任务日志收集 默认值:false 我的设置:true yarn.log-aggregation.retain-seconds 作用:日志自动清理前保存多长时间,单位秒。 默 阅读全文
posted @ 2019-02-28 18:58 PigeonNoir 阅读(614) 评论(0) 推荐(0) 编辑
摘要: step 1:使用hdfs-site.xml的配置项,排除节点。 step 2:刷新datanode 在Hadoop站点上很快就能看到Decommission正在进行,此时NameNode会检查并将数据复制到其它节点上以恢复副本数(要移除的节点上的数据不会被删除,如果数据比较敏感,要手动删除它们)。 阅读全文
posted @ 2019-02-28 18:43 PigeonNoir 阅读(954) 评论(0) 推荐(0) 编辑
摘要: hadoop版本:3.1.1 core-site.xml dfs.namenode.rpc-address 作用:rpc地址。我在使用distcp时显式使用到了。 默认值:port是8020 我的设置:hostname:8020 io.file.buffer.size 作用:io操作的缓存大小,单位 阅读全文
posted @ 2019-02-28 17:35 PigeonNoir 阅读(263) 评论(0) 推荐(0) 编辑
摘要: 环境:mac/linux hadoop版本:3.1.1 安装特性:非HA 准备: 1. jdk8以上 2. ssh 3. 下载hadoop安装包 配置文件,这里都只有简易配置: 1. core-site.xml 2. hdfs-site.xml 3. yarn-site.xml 4. mapred- 阅读全文
posted @ 2019-02-28 12:07 PigeonNoir 阅读(226) 评论(0) 推荐(0) 编辑