吹静静

欢迎QQ交流:592590682

随笔 - 421,  文章 - 68,  评论 - 65,  阅读 - 164万

随笔分类 -  Spark

Spark远程集群实现
摘要:内容简介 本篇文章主要讲述了Springboot项目和Spark相结合的方法。 在Spark的学习过程中,我们大多数提交作业的方式都是使用Spark的命令来提交jar包并运行,但是本次相反,我们将使用Springboot来开发Spark的相关计算任务代码,开发完成后将项目打包部署到服务器上,项目启动 阅读全文
posted @ 2022-12-20 22:34 吹静静 阅读(281) 评论(0) 推荐(0) 编辑
Spark修改spark-shell启动LOGO
摘要:修改源码:package org.apache.spark.repl.SparkILoop第29行: 将源码包打包 ./dev/make-distribution.sh --name 2.6.0-cdh5.16.2 --tgz -Phive -Phive-thriftserver -Pyarn -P 阅读全文
posted @ 2021-04-19 21:24 吹静静 阅读(163) 评论(0) 推荐(0) 编辑
Spark-3.1.1编译流程及踩坑记录
摘要:基础环境 流程概述 此次编译过程是将Spark-3.1.1源码包下载到Windows本机,使用maven编译,编译完成后导入IDEA运行,连接Linux端hive做SQL操作。 软件版本 Linux端: hadoop-2.6.0-cdh5.16.2 apache-hive-3.1.2-bin Win 阅读全文
posted @ 2021-04-15 10:59 吹静静 阅读(3866) 评论(0) 推荐(0) 编辑


< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示