摘要:
原文转自:美团技术团队 作者: 李雪蕤 Spark性能优化指南——基础篇: https://tech.meituan.com/2016/04/29/spark-tuning-basic.html Spark性能优化指南——高级篇: https://tech.meituan.com/2016/05/1 阅读全文
摘要:
原文转自:美团技术团队 作者: 李雪蕤 Spark性能优化指南——基础篇: https://tech.meituan.com/2016/04/29/spark-tuning-basic.html Spark性能优化指南——高级篇: https://tech.meituan.com/2016/05/1 阅读全文
摘要:
为节省篇幅,将SecondaryNameNode简称SNN,NameNode简称NN。 #NN与fsimage、edits文件 NN负责管理HDFS中所有的元数据,包括但不限于文件/目录结构、文件权限、块ID/大小/数量、副本策略等等。客户端执行读写操作前,先从NN获得元数据。当NN在运行时,元数据 阅读全文
摘要:
自己搭建的集群,启动hadoop 集群是,发现slave节点的datanode没有启动,查了资料发现是因为我在启动集群前,执行了这个命令: hadoop namenode -format 这个指令会重新格式化namenode的信息,这样可能会导致master节点的VERSION信息跟datanode 阅读全文