代码改变世界

随笔档案-2017年11月

每日问题记录20171117

2017-11-17 18:11 by 轩脉刃, 385 阅读, 收藏, 编辑
摘要: hive外部表如何删除数据? show create table 可以看到外部表的文件路径,删除这个路径下的文件和文件夹就行了 外部表显示为表结构不变,但是数据为空了 ========= scala的map和foreach区别? map和foreach本质没有什么区别,区别在于map返回的是一个Li 阅读全文

scala的Option

2017-11-16 14:41 by 轩脉刃, 1944 阅读, 收藏, 编辑
摘要: 当一个函数既要返回对象,又要返回null的时候,使用Option[] http://www.runoob.com/scala/scala options.html Option是scala的选项,用来表示一个键是可选的(有值或者无值),比如判断一个map是否有值,可以直接使用get(xxx) ,返回 阅读全文

每日问题记录20171114

2017-11-14 22:09 by 轩脉刃, 679 阅读, 收藏, 编辑
摘要: spark shell要打印一个string变量的全部怎么办? spark shell如果打印一个string变量,会阶段,需要使用println(xx)才能打印出全部的数值 =============== spark sql如何写入数据到hive中? 先创建一个List,然后使用List来创建Da 阅读全文

java的Xmx是设置什么的?

2017-11-02 10:21 by 轩脉刃, 15342 阅读, 收藏, 编辑
摘要: 我们使用java X可以看到java的 X系列的参数,Xmx和Xms是相对应的。一个是memory max(Xmx) 一个是memory start (Xms)。 Xmx代表程序最大可以从操作系统中获取的内存数量,Xms代表程序启动的时候从操作系统中获取的内存数量。 比如java cp . Xms8 阅读全文

spark的sparkUI如何解读?

2017-11-01 07:44 by 轩脉刃, 6816 阅读, 收藏, 编辑
摘要: spark的sparkUI如何解读? 以spark2.1.4来做例子 Job schedule mode 进入之后默认是进入spark job 页面 这个说明有很详细的解释,spark有两种操作算子:转换算子(transformation)和执行算子(Action)。当执行到行为算子的时候,就出发了 阅读全文