摘要: 1.Scala类或单例对象中快速声明实例对象: eg. new SparkContext(conf).var 系统会自动提示,可以自动补全,如图: 2.ctrl+i与ctrl+o的区别: ctrl + i :显示未实现的方法; ctrl + o:显示可以重写的方法 3.alt+insert 可以快速 阅读全文
posted @ 2019-01-13 10:36 给你一个公主抱 阅读(240) 评论(0) 推荐(0) 编辑
摘要: 一、Spark交互式命令行 启动脚本:spark-shell 先启动spark:./start-all.sh 本地模式启动命令:/bin/spark-shell 集群模式启动命令:/bin/spark-shell --master spark://spark-1:7077 --total-execu 阅读全文
posted @ 2019-01-13 10:26 给你一个公主抱 阅读(963) 评论(0) 推荐(0) 编辑
摘要: 1.Caused by: java.lang.RuntimeException: java.io.FileNotFoundException: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset. 这是因为 阅读全文
posted @ 2019-01-13 01:09 给你一个公主抱 阅读(165) 评论(0) 推荐(0) 编辑