idea下增加scala

摘要: 1 idea工具下,下载scala插件 2 idea下新建scala工程 File——New——module 如果按照上图,设置后点击下载,出现下图下载过慢情况下, 这里我选择了等待,大概等了半小时才自动下载好。 那么可以 也可以从浏览器下载下来,网址为https://www.scala-lang. 阅读全文
posted @ 2018-12-24 10:53 ligongda2006 阅读(513) 评论(0) 推荐(0) 编辑

idea scala 报 with UTF-8 Please try specifying another one using the -encoding option

摘要: 现象如下图, 代码里有汉字,执行代码报错,说编码格式不对, 修改方式如上面,将右下角的编码格式修改成 u8即可。 阅读全文
posted @ 2018-12-22 22:23 ligongda2006 阅读(820) 评论(0) 推荐(0) 编辑

Scala基础知识笔记1

摘要: 上一篇文章介绍了如何下载scala, 因为在官网上点击下载按钮无法下载, 下面介绍scala的基础语法: 1 scala和java的关系 Scala是基于jvm的一门编程语言,Scala的代码最终会经过编译成字节码,交给java虚拟机来运行 Scala和java可以无缝互操作,Scala可以任意调用 阅读全文
posted @ 2018-12-22 15:59 ligongda2006 阅读(177) 评论(0) 推荐(0) 编辑

spark重点知识

摘要: 1 scala 2 spark rdd 3 sprak core 4 性能优化 5 spark sql 6 spark streaming 掌握程度-精通的理解: 阅读全文
posted @ 2018-12-22 15:42 ligongda2006 阅读(140) 评论(0) 推荐(0) 编辑

scala下载新的版本号

摘要: 有时候官网下载的链接不管用,可以使用如下链接: http://downloads.typesafe.com/scala/2.11.7/scala-2.11.7.msi,后面版本书可以自己更改 。 阅读全文
posted @ 2018-12-21 10:31 ligongda2006 阅读(224) 评论(0) 推荐(0) 编辑

统计hive库表在具体下所有分区大小

摘要: 1 查询具体表分区大小,以字节展示 2 定义shell脚本: 3 调用命令: sh filter5.sh dm_user_excercise.txt 阅读全文
posted @ 2018-12-20 17:20 ligongda2006 阅读(3300) 评论(0) 推荐(0) 编辑

获取任意两个时间之间的所有天

摘要: import java.text.ParseException; import java.text.SimpleDateFormat; import java.util.ArrayList; import java.util.Calendar; import java.util.Date; import java.util.List; public class Test { /*... 阅读全文
posted @ 2018-12-20 17:09 ligongda2006 阅读(162) 评论(0) 推荐(0) 编辑

shell中与运算 cut切分行 if while综合在一起的一个例子

摘要: 前言: 公司要统计 treasury库hive表磁盘空间,写了个脚本,如下: 查询hive仓库表占用hdfs文件大小: hadoop fs -du -h /user/hive/warehouse/treasury.db > treasury.txt 脚本: if [[ $unit == "G" && 阅读全文
posted @ 2018-12-19 18:26 ligongda2006 阅读(217) 评论(0) 推荐(0) 编辑