07.centos7构建 IntelliJ IDEA(简称IDEA)开发环境
一、安装IDEA
进入官网下载linux版的社区便,IDEA分为社区版和旗舰版,社区版免费,并且基本满足spark开发需求。
解压安装
目录为/opt/idea
注意:centos命令行界面下是无法安装IDEA的,需要进入桌面模式。需要做一下操作:
yum groupinstall "GNOME Desktop" "Graphical Administration Tools"
设置系统启动默认方式为进入图形化界面
systemctl get-default
systemctl set-default graphical.target
reboot
进入图形化界面之后,打开命令行窗口,进入解压文件夹目录:/opt/idea/idea-IC-183.5153.38/bin
然后执行: ./idea.sh
二、安装SCALA插件
File-Setting-Plugins,搜索Scala,install,安装完毕重启IDEA。
三、创建SBT项目
File-New-Project,选择Scala项目,选择SBT,next
四、构建项目
编辑新建的BlogTest项目,编辑根目录下的buid.sbt
修改后的内容为:
(1)其中scalaVersion是安装的spark对应的scala版本,需要在centos里面执行spark-shell查看:
(2)其中libraryDependencies很重要,根据spark版本,去官网对应,比如我的当前版本为2.4.0,去官网查询:
还有%%引号和%要注意区分。
配置完之后,IDEA会自动下载相关依赖包。注意:要自动
点击下Enable ,否则不会自动导入。成功之后会有如下显示:
五、创建Scala程序
下面我们来创建一个Scala程序:
刚创建的BlogTest-src-main-scala,选择new-scala Class-Object
编辑内容:
运行的时候,在main函数右键,选择“Run 'BlogTest'”命令:
然后等待结果:
说明/etc/passwd文件有44行。
六、导出jar包
File-project Structure - + -JAR-From modules with dependencies,选择自己编写的类,和输出jar包的位置
之后就可以执行buid操作,buid-Buid Artifaces:
查看jar包,备注后来output目录更改了一下
编译生成Jar包,spark-submit就可以提交生成的Jar包。