摘要: 一、线程池及其原理 1、使用线程池的好处: (1)降低资源消耗。通过重复利用已创建的线程降低线程创建和销毁造成的消耗。 (2)提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行。 (3)提高线程的可管理性。线程是稀缺资源,如果无限制地创建,不仅会消耗系统资源,还会降低系统的稳定性,使 阅读全文
posted @ 2020-01-03 15:10 guoyu1 阅读(310) 评论(0) 推荐(0) 编辑
摘要: 一、死锁 1、死锁:所谓死锁是指多个线程因竞争资源而造成的一种僵局(互相等待),若无外力作用,这些进程都将无法向前推进。 理解的例子: 生活中的一个实例,2个人一起吃饭但是只有一双筷子,2人轮流吃(同时拥有2只筷子才能吃)。某一个时候,一个拿了左筷子,一人拿了右筷子,2个人都同时占用一个资源,等待另 阅读全文
posted @ 2020-01-03 15:04 guoyu1 阅读(423) 评论(0) 推荐(0) 编辑
摘要: 1、工作流程 (1) 首先用户发送请求——>前端控制器DispatcherServlet,前端控制器收到请求后自己不进行处理,而是委托给其他的解析器进行处理,作为统一访问点,进行全局的流程控制;(1) (2) DispatcherServlet——>处理器映射器HandlerMapping,Hand 阅读全文
posted @ 2019-12-31 11:12 guoyu1 阅读(242) 评论(0) 推荐(0) 编辑
摘要: 1、hive中的join类型: (1)join :只返回关联上的结果。 (2)left join :返回的记录条数和左表相同,关联不上的字段为null。 (3)right join:返回的记录条数和右表相同,关联不上的字段为null。 (4)full join:返回两个表的记录去重之和,关联不上的字 阅读全文
posted @ 2019-12-31 10:27 guoyu1 阅读(1093) 评论(0) 推荐(0) 编辑
摘要: 1、springboot起源: Spring 最初利用“工厂模式”(DI)和“代理模式”(AOP)解耦应用组件,大家觉得挺好用。于是又按照这种模式搞了一个 MVC框架(一些用Spring 解耦的组件),用开发 web 应用( SpringMVC )。之后发现每次开发都写很多样板代码,为了简化工作流程 阅读全文
posted @ 2019-12-31 10:25 guoyu1 阅读(1058) 评论(0) 推荐(0) 编辑
摘要: 元组可以也是不可变的,但里面可以包含不同类型的元素。之前所说的列表是不可变的,并且元素类型要相同。 1、创建: val t = (1, 3.14, "Fred") 以上实例在元组中定义了三个元素,对应的类型分别为[Int, Double, java.lang.String]。 此外我们也可以使用以下 阅读全文
posted @ 2019-12-31 10:19 guoyu1 阅读(165) 评论(0) 推荐(0) 编辑
摘要: 1、class和object的区别 calss scala编译器会字段帮我们生产一个私有字段和2个公有方法get和set scala 中没有 static 关键字,所以 对于一个class来说,所有的方法和成员变量在实例被 new 出来之前都是无法访问的 因此在class中的main方法没什么用了 阅读全文
posted @ 2019-12-31 09:05 guoyu1 阅读(932) 评论(0) 推荐(0) 编辑
摘要: 一、spark sql简介: 1、SparkSQL发展: Shark是一个为spark设计的大规模数据仓库系统,它与Hive兼容 Shark建立在Hive的代码基础上,并通过将Hive的部分物理执行计划交换出来(by swapping out the physical execution engin 阅读全文
posted @ 2019-12-25 16:43 guoyu1 阅读(564) 评论(0) 推荐(0) 编辑
摘要: 一、DataFrame 1、创建 https://www.cnblogs.com/frankdeng/p/9301743.html DataFrame创建方式应该按照数据源进行划分,数据源是:普通的txt文件、json/parquet文件、mysql数据库、hive数据仓库 1、普通txt文件: ( 阅读全文
posted @ 2019-12-24 16:47 guoyu1 阅读(401) 评论(0) 推荐(0) 编辑
摘要: 一、Hive建表语句 (1)创建内部表 (2)创建外部表 drop table yum_area_dw.dw_community_base_info_aoi_clean; CREATE EXTERNAL TABLE `yum_area_dw.dw_community_base_info_aoi_cl 阅读全文
posted @ 2019-12-24 14:59 guoyu1 阅读(1608) 评论(0) 推荐(0) 编辑