spark 安装配置
最佳参考链接
https://opensourceteam.gitbooks.io/bigdata/content/spark/install/spark-160-bin-hadoop26an_zhuang.html
Apache Spark1.1.0部署与开发环境搭建 Spark是Apache公司推出的一种基于Hadoop Distributed File System(HDFS)的并行计算架构。与MapReduce不同，Spark并不局限于编写map和reduce两个方法，其提供了更为强大的内存计算(in-memory computing)模型，使得用户可以通过编程将数据读取到集群的内存当中，并且可以方便用户快速地重复查询，非常适合用于实现机器学习算法。本文将介绍Apache Spark1.1.0部署与开发环境搭建。 0. 准备 出于学习目的，本文将Spark部署在虚拟机中，虚拟机选择VMware WorkStation。在虚拟机中，需要安装以下软件： Ubuntu 14.04.1 LTS 64位桌面版 但是ubuntu 的桌面版我安装以后有问题 所以下载了server版本 然后安装桌面就可以了http://jingyan.baidu.com/article/64d05a0262b613de55f73b0e.html
参考http://www.cnblogs.com/datahunter/p/4002331.html和http://www.cnblogs.com/datahunter/p/4002331.html
如何为ubuntu server 14.04 安装图形界面
出于学习目的，本文将Spark部署在虚拟机中，虚拟机选择VMware WorkStation。在虚拟机中，需要安装以下软件：
- Ubuntu 14.04.1 LTS 64位桌面版
- hadoop-2.4.0.tar.gz
- jdk-7u67-linux-x64.tar.gz
- scala-2.10.4.tgz
- spark-1.1.0-bin-hadoop2.4.tgz
Spark的开发环境，本文选择Windows7平台，IDE选择IntelliJ IDEA。在Windows中，需要安装以下软件：
- IntelliJ IDEA 13.1.4 Community Edition
- apache-maven-3.2.3-bin.zip(安装过程比较简单，请读者自行安装)
方法/步骤
-
首先，ubuntu server版本的安装这里就不再赘述，基本的还是三个步骤，首先是下载镜像，然后使用ultraISO刻录至u盘，最后通过U盘引导进行安装。安装过程中，会要求你输入用户名和密码，一定要牢记，因为后续软件的安装都需要密码。
-
然后，login进入系统之后，开始进行用户界面的安装。首先输入如下命令：
sudo apt-get install xinit。安装时的界面如下所示。
-
上述安装完毕之后，再安装环境管理器。本人亲测安装的是GNOME。使用如下命令安装：
sudo apt-get install gdm
安装时的界面如下所示。
-
然后，安装桌面环境。本人亲测安装的是KUbuntu。安装命令如下：
sudo apt-get install kubuntu-desktop
安装时的界面如下所示。
-
网上有人还说要安装一些必要的包，如新立得软件包管理器，中文支持等，如果你嫌麻烦，可以不进行安装。上述安装完毕之后，直接重启。重启完成后，再进入系统，便是图形界面了，如图所示。
END
注意事项
-
一定要保证上述步骤每一个步骤都执行成功，否则会影响最后的结果
1. 安装JDK
解压jdk安装包到/usr/lib目录：
1 sudo cp jdk-7u67-linux-x64.gz /usr/lib 2 cd /usr/lib 3 sudo tar -xvzf jdk-7u67-linux-x64.gz 4 sudo gedit /etc/profile
在/etc/profile文件的末尾添加环境变量：
1 export JAVA_HOME=/usr/lib/jdk1.7.0_67 2 export JRE_HOME=/usr/lib/jdk1.7.0_67/jre 3 export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH 4 export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
保存并更新/etc/profile：
1 source /etc/profile
测试jdk是否安装成功：
1 java -version
2. 安装及配置SSH
1 sudo apt-get update 2 sudo apt-get install openssh-server 3 sudo /etc/init.d/ssh start
生成并添加密钥：
1 ssh-keygen -t rsa -P "" 2 /root/.ssh/
3 cd /root/.ssh/ 4 cat id_rsa.pub >> authorized_keys
ssh登录：
1 ssh localhost
3. 安装hadoop2.4.0
采用伪分布模式安装hadoop2.4.0。解压hadoop2.4.0到/usr/local目录：
1 sudo cp hadoop-2.4.0.tar.gz /usr/local/ 2 sudo tar -xzvf hadoop-2.4.0.tar.gz
在/etc/profile文件的末尾添加环境变量：
1 export HADOOP_HOME=/usr/local/hadoop-2.4.0 2 export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH 3 4 export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native 5 export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
保存并更新/etc/profile：
1 source /etc/profile
在位于/usr/local/hadoop-2.4.0/etc/hadoop的hadoop-env.sh和yarn-env.sh文件中修改jdk路径：
1 cd /usr/local/hadoop-2.4.0/etc/hadoop 2 sudo gedit hadoop-env.sh 3 sudo gedit yarn-evn.sh
hadoop-env.sh：
yarn-env.sh：
修改core-site.xml：
1 sudo gedit core-site.xml
在<configuration></configuration>之间添加：
1 <property> 2 <name>fs.default.name</name> 3 <value>hdfs://localhost:9000</value> 4 </property> 5 6 <property> 7 <name>hadoop.tmp.dir</name> 8 <value>/app/hadoop/tmp</value> 9 </property>
修改hdfs-site.xml：
1 sudo gedit hdfs-site.xml
在<configuration></configuration>之间添加：
1 <property> 2 <name>dfs.namenode.name.dir</name> 3 <value>/app/hadoop/dfs/nn</value> 4 </property> 5 6 <property> 7 <name>dfs.namenode.data.dir</name> 8 <value>/app/hadoop/dfs/dn</value> 9 </property> 10 11 <property> 12 <name>dfs.replication</name> 13 <value>1</value> 14 </property>
修改yarn-site.xml：
1 sudo gedit yarn-site.xml
在<configuration></configuration>之间添加：
1 <property> 2 <name>mapreduce.framework.name</name> 3 <value>yarn</value> 4 </property> 5 6 <property> 7 <name>yarn.nodemanager.aux-services</name> 8 <value>mapreduce_shuffle</value> 9 </property>
复制并重命名mapred-site.xml.template为mapred-site.xml：
1 sudo cp mapred-site.xml.template mapred-site.xml 2 sudo gedit mapred-site.xml
在<configuration></configuration>之间添加：
1 <property> 2 <name>mapreduce.jobtracker.address </name> 3 <value>hdfs://localhost:9001</value> 4 </property>
在启动hadoop之前，为防止可能出现无法写入log的问题，记得为/app目录设置权限：
1 sudo mkdir /app 2 sudo chmod -R hduser:hduser /app
格式化hadoop：
1 sbin/hadoop namenode -format
启动hdfs和yarn。在开发Spark时，仅需要启动hdfs：
1 sbin/start-dfs.sh 2 sbin/start-yarn.sh
在浏览器中打开地址http://localhost:50070/可以查看hdfs状态信息：
4. 安装scala
1 sudo cp /home/hduser/Download/scala-2.9.3.tgz /usr/local 2 sudo tar -xvzf scala-2.9.3.tgz
在/etc/profile文件的末尾添加环境变量：
1 export SCALA_HOME=/usr/local/scala-2.9.3 2 export PATH=$SCALA_HOME/bin:$PATH
保存并更新/etc/profile：
1 source /etc/profile
测试scala是否安装成功：
1 scala -version
5. 安装Spark
1 sudo cp spark-1.1.0-bin-hadoop2.4.tgz /usr/local 2 sudo tar -xvzf spark-1.1.0-bin-hadoop2.4.tgz
在/etc/profile文件的末尾添加环境变量：
1 export SPARK_HOME=/usr/local/spark-1.1.0-bin-hadoop2.4 2 export PATH=$SPARK_HOME/bin:$PATH
保存并更新/etc/profile：
1 source /etc/profile
复制并重命名spark-env.sh.template为spark-env.sh：
1 sudo cp spark-env.sh.template spark-env.sh 2 sudo gedit spark-env.sh
在spark-env.sh中添加：
1 export SCALA_HOME=/usr/local/scala-2.9.3 2 export JAVA_HOME=/usr/lib/jdk1.7.0_67 3 export SPARK_MASTER_IP=localhost 4 export SPARK_WORKER_MEMORY=1000m
启动Spark：
1 cd /usr/local/spark-1.1.0-bin-hadoop2.4 2 sbin/start-all.sh
测试Spark是否安装成功：
1 cd /usr/local/spark-1.1.0-bin-hadoop2.4 2 bin/run-example SparkPi
6. 搭建Spark开发环境
本文开发Spark的IDE推荐IntelliJ IDEA，当然也可以选择Eclipse。在使用IntelliJ IDEA之前，需要安装scala的插件。点击Configure：
点击Plugins：
点击Browse repositories...：
在搜索框内输入scala，选择Scala插件进行安装。由于已经安装了这个插件，下图没有显示安装选项：
安装完成后，IntelliJ IDEA会要求重启。重启后，点击Create New Project：
Project SDK选择jdk安装目录，建议开发环境中的jdk版本与Spark集群上的jdk版本保持一致。点击左侧的Maven，勾选Create from archetype，选择org.scala-tools.archetypes:scala-archetype-simple：
点击Next后，可根据需求自行填写GroupId，ArtifactId和Version：
点击Next后，如果本机没有安装maven会报错，请保证之前已经安装maven：
点击Next后，输入文件名，完成New Project的最后一步：
点击Finish后，maven会自动生成pom.xml和下载依赖包。我们需要修改pom.xml中scala的版本：
1 <properties> 2 <scala.version>2.10.4</scala.version> 3 </properties>
在<dependencies></dependencies>之间添加配置：
1 <!-- Spark --> 2 <dependency> 3 <groupId>org.apache.spark</groupId> 4 <artifactId>spark-core_2.10</artifactId> 5 <version>1.1.0</version> 6 </dependency> 7 8 <!-- HDFS --> 9 <dependency> 10 <groupId>org.apache.hadoop</groupId> 11 <artifactId>hadoop-client</artifactId> 12 <version>2.4.0</version> 13 </dependency>
在<build><plugins></plugins></build>之间添加配置：
1 <plugin> 2 <groupId>org.apache.maven.plugins</groupId> 3 <artifactId>maven-shade-plugin</artifactId> 4 <version>2.2</version> 5 <executions> 6 <execution> 7 <phase>package</phase> 8 <goals> 9 <goal>shade</goal> 10 </goals> 11 <configuration> 12 <filters> 13 <filter> 14 <artifact>*:*</artifact> 15 <excludes> 16 <exclude>META-INF/*SF</exclude> 17 <exclude>META-INF/*.DSA</exclude> 18 <exclude>META-INF/*.RSA</exclude> 19 </excludes> 20 </filter> 21 </filters> 22 <transformers> 23 <transformer 24 implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer"> 25 <mainClass>mark.lin.App</mainClass> // 记得修改成你的mainClass 26 </transformer> 27 <transformer 28 implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer"> 29 <resource>reference.conf</resource> 30 </transformer> 31 </transformers> 32 <shadedArtifactAttached>true</shadedArtifactAttached> 33 <shadedClassifierName>executable</shadedClassifierName> 34 </configuration> 35 </execution> 36 </executions> 37 </plugin>
Spark的开发环境至此搭建完成。One more thing，wordcount的示例代码：
1 package mark.lin //别忘了修改package
2
3 import org.apache.spark.{SparkConf, SparkContext}
4 import org.apache.spark.SparkContext._
5
6 import scala.collection.mutable.ListBuffer
7
8 /**
9 * Hello world!
10 *
11 */
12 object App{
13 def main(args: Array[String]) {
14 if (args.length != 1) {
15 println("Usage: java -jar code.jar dependencies.jar")
16 System.exit(0)
17 }
18 val jars = ListBuffer[String]()
19 args(0).split(",").map(jars += _)
20
21 val conf = new SparkConf()
22 conf.setMaster("spark://localhost:7077").setAppName("wordcount").set("spark.executor.memory", "128m").setJars(jars)
23
24 val sc = new SparkContext(conf)
25
26 val file = sc.textFile("hdfs://localhost:9000/hduser/wordcount/input/input.csv")
27 val count = file.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_+_)
28 println(count)
29 count.saveAsTextFile("hdfs://localhost:9000/hduser/wordcount/output/")
30 sc.stop()
31 }
32 }
7. 编译&运行
使用maven编译源代码。点击左下角，点击右侧package，点击绿色三角形，开始编译。
在target目录下，可以看到maven生成的jar包。其中，hellworld-1.0-SNAPSHOT-executable.jar是我们需要放到Spark集群上运行的。
在运行jar包之前，保证hadoop和Spark处于运行状态：
将jar包拷贝到Ubuntu的本地文件系统上，输入以下命令运行jar包：
1 java -jar helloworld-1.0-SNAPSHOT-executable.jar helloworld-1.0-SNAPSHOT-executable.jar
在浏览器中输入地址http://localhost:8080/可以查看任务运行情况：
8. Q&A
Q：在Spark集群上运行jar包，抛出异常“No FileSystem for scheme: hdfs”：
A：这是由于hadoop-common-2.4.0.jar中的core-default.xml缺少hfds的相关配置属性引起的异常。在maven仓库目录下找到hadoop-common-2.4.0.jar，以rar的打开方式打开：
将core-default.xml拖出，并添加配置：
1 <property> 2 <name>fs.hdfs.impl</name> 3 <value>org.apache.hadoop.hdfs.DistributedFileSystem</value> 4 <description>The FileSystem for hdfs: uris.</description> 5 </property>
再将修改后的core-default.xml替换hadoop-common-2.4.0.jar中的core-default.xml，重新编译生成jar包。
Q：在Spark集群上运行jar包，抛出异常“Failed on local exception”：
A：检查你的代码，一般是由于hdfs路径错误引起。
Q:在Spark集群上运行jar包，重复提示“Connecting to master spark”：
A:检查你的代码，一般是由于setMaster路径错误引起。
Q：在Spark集群上运行jar包，重复提示“Initial job has not accepted any resource; check your cluster UI to ensure that workers are registered and have sufficient memory”：
A：检查你的代码，一般是由于内存设置不合理引起。此外，还需要检查Spark安装目录下的conf/spark-env.sh对worker内存的设置。
Q：maven报错：error: org.specs.Specification does not have a constructor
A: 删除test目录下的文件，重新编译。
9. 参考资料
[1] Spark Documentation from Apache. [Link]
