java.lang.ClassNotFoundException: SparkPi$$anonfun$1

出现这个错误可能有两种情况,Jar文件没有传上去,或者Build Path里面包含的Jar文件和Spark的运行环境有冲突。

对于第一种情况,需要在SparkConf语句后面加上Jar文件的路径:

val conf = new SparkConf().setAppName("Spark Pi").setMaster("spark://master:7077").setJars(Seq("E:\\Intellij\\Projects\\SparkExample\\SparkExample.jar"))

对于第二种情况,需要把Build Path里面的Jar文件删除,因为Spark运行环境已经有这些文件了,没必要再继续打包。删除以后,既减少了打包后文件的大小,同时也不会和Spark运行环境的Jar文件产生冲突。

 

posted @ 2017-05-18 20:29  MSTK  阅读(2071)  评论(0编辑  收藏  举报