摘要: 原文转自:美团技术团队 作者: 李雪蕤 Spark性能优化指南——基础篇: https://tech.meituan.com/2016/04/29/spark-tuning-basic.html Spark性能优化指南——高级篇: https://tech.meituan.com/2016/05/1 阅读全文
posted @ 2020-08-18 23:30 水木青楓 阅读(453) 评论(0) 推荐(0) 编辑
摘要: 原文转自:美团技术团队 作者: 李雪蕤 Spark性能优化指南——基础篇: https://tech.meituan.com/2016/04/29/spark-tuning-basic.html Spark性能优化指南——高级篇: https://tech.meituan.com/2016/05/1 阅读全文
posted @ 2020-08-18 23:17 水木青楓 阅读(437) 评论(0) 推荐(0) 编辑
摘要: 为节省篇幅,将SecondaryNameNode简称SNN,NameNode简称NN。 #NN与fsimage、edits文件 NN负责管理HDFS中所有的元数据,包括但不限于文件/目录结构、文件权限、块ID/大小/数量、副本策略等等。客户端执行读写操作前,先从NN获得元数据。当NN在运行时,元数据 阅读全文
posted @ 2020-08-18 16:22 水木青楓 阅读(1563) 评论(0) 推荐(0) 编辑
摘要: 自己搭建的集群,启动hadoop 集群是,发现slave节点的datanode没有启动,查了资料发现是因为我在启动集群前,执行了这个命令: hadoop namenode -format 这个指令会重新格式化namenode的信息,这样可能会导致master节点的VERSION信息跟datanode 阅读全文
posted @ 2020-08-18 12:42 水木青楓 阅读(3848) 评论(1) 推荐(1) 编辑