摘要:
在看了《大型网站技术架构:核心原理与案例分析》这本书关于可用性介绍部分后,我有了很多感悟。 在我之前的世界里,软件的可用性,似乎只停留在软件能用,遇到了错误,程序被迫终止似乎是一件很正常的事情,我甚至会将其归结于这是用户的问题,这届用户过于难带从而导致了软件的崩溃,而忽视了自身软件存在的严重问题。而 阅读全文
摘要:
spark的核心框架是一个计算引擎,它采用了标准的中从结构 Driver spark的驱动器节点,主要执行spark中的main方法,负责实际代码的执行工作 Driver可以理解为使整个应用运行起来的程序。 Executor Executor是spark中的工作节点worker中的一个进程,负责运行 阅读全文
摘要:
历史端口 http://hadoop102:18080 服务端口 http://hadoop102:8989 yarn端口 http://hadoop103:8088 常用命令 sbin/start-all.sh sbin/stop-all.sh 启动历史服务 sbin/start-history- 阅读全文
摘要:
以 bin/spark-submit \ --class org.apache.spark.examples.SparkPi \ --master spark://linux1:7077 \ ./examples/jars/spark-examples_2.12-3.0.0.jar \ 10 为例 阅读全文