spark 预编译安装

1.下载地址:

  http://mirrors.tuna.tsinghua.edu.cn/apache/spark/spark-3.0.0-preview/spark-3.0.0-preview-bin-hadoop2.7.tgz

上传虚拟机或服务器

2. 解压文件

  tar -xzvf spark-3.0.0-preview-bin-hadoop2.7.tgz

3.配置环境变量

  vi /etc/profile 

  

 

 

  source /etc/profile

4. 启动spark 

spark-shell local[4]

local[n] n就是线程数 可加 可不加看场景

 

 

sprk RDD操作

 

 

 

 

 

 

 

 

 

posted @   愿无违  阅读(292)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 25岁的心里话
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
· 按钮权限的设计及实现
点击右上角即可分享
微信分享提示