摘要:
hive外部表如何删除数据? show create table 可以看到外部表的文件路径,删除这个路径下的文件和文件夹就行了 外部表显示为表结构不变,但是数据为空了 ========= scala的map和foreach区别? map和foreach本质没有什么区别,区别在于map返回的是一个Li 阅读全文
随笔档案-2017年11月
scala的Option
2017-11-16 14:41 by 轩脉刃, 1944 阅读, 收藏, 编辑
摘要:
当一个函数既要返回对象,又要返回null的时候,使用Option[] http://www.runoob.com/scala/scala options.html Option是scala的选项,用来表示一个键是可选的(有值或者无值),比如判断一个map是否有值,可以直接使用get(xxx) ,返回 阅读全文
每日问题记录20171114
2017-11-14 22:09 by 轩脉刃, 679 阅读, 收藏, 编辑
摘要:
spark shell要打印一个string变量的全部怎么办? spark shell如果打印一个string变量,会阶段,需要使用println(xx)才能打印出全部的数值 =============== spark sql如何写入数据到hive中? 先创建一个List,然后使用List来创建Da 阅读全文
java的Xmx是设置什么的?
2017-11-02 10:21 by 轩脉刃, 15342 阅读, 收藏, 编辑
摘要:
我们使用java X可以看到java的 X系列的参数,Xmx和Xms是相对应的。一个是memory max(Xmx) 一个是memory start (Xms)。 Xmx代表程序最大可以从操作系统中获取的内存数量,Xms代表程序启动的时候从操作系统中获取的内存数量。 比如java cp . Xms8 阅读全文
spark的sparkUI如何解读?
2017-11-01 07:44 by 轩脉刃, 6816 阅读, 收藏, 编辑
摘要:
spark的sparkUI如何解读? 以spark2.1.4来做例子 Job schedule mode 进入之后默认是进入spark job 页面 这个说明有很详细的解释,spark有两种操作算子:转换算子(transformation)和执行算子(Action)。当执行到行为算子的时候,就出发了 阅读全文