摘要: 问题 用过 Kafka 的同学都知道,每个 Topic 一般会有很多个 partitions。为了使得我们能够及时消费消息,我们也可能会启动多个 Consumer 去消费,而每个 Consumer 又会启动一个或多个streams去分别消费 Topic 里面的数据。我们又知道,Kafka 存在 Co 阅读全文
posted @ 2018-05-09 09:39 gyhuminyan 阅读(495) 评论(0) 推荐(0) 编辑
摘要: 在scala中,经常会出现final val 这种用法,val 代表的是常量,不能被修改。那为什么还要加final呢?原因是final代表的是子类不能重载这个值。 阅读全文
posted @ 2018-04-26 09:29 gyhuminyan 阅读(724) 评论(0) 推荐(0) 编辑
摘要: Kafka是一个类似于RabbitMQ的消息系统,它的主要功能是消息的发布和订阅、处理和存储。 1.它类似于一个消息系统,读写流式的数据。 2.编写可扩展的流应用处理程序,用于实时事件响应的场景。 3.安全的将流式的数据存储在一个分布式,有副本备份,容错的集群。 本篇博文主要介绍如何使用Java编写 阅读全文
posted @ 2018-03-22 14:52 gyhuminyan 阅读(10469) 评论(0) 推荐(0) 编辑
摘要: 使用Linux首次登录需要把mysql加入环境变量$PATH 登录mysql 说明: -u 指定的是用户,-p指定的是密码。首次登录密码默认为空,直接回车即可。 设置密码并登录 说明:登录时,也可以使用 #mysql -uroot -p 此时不输入密码直接回车,在下一行中也会提示输入密码。这两种方式 阅读全文
posted @ 2018-01-11 09:38 gyhuminyan 阅读(230) 评论(0) 推荐(0) 编辑
摘要: 随着这几天Ubuntu 14.04 LTS的发布,Ubuntu的中国服务器简直弱爆了,软件的更新下载速度已经到了几十K每秒的地步,不过这也可以说是一件好事——用Ubuntu Linux的人多了呀! 如果发现从Ubuntu中国官方的服务器下载过慢,我们还是可以尝试修改软件更新源,这样更新速度快了同时也 阅读全文
posted @ 2018-01-11 09:09 gyhuminyan 阅读(754) 评论(0) 推荐(0) 编辑
摘要: 一趟快速排序的算法是: 1)设置两个变量i、j,排序开始的时候:i=0,j=N-1; 2)以第一个数组元素作为关键数据,赋值给key,即key=A[0]; 3)从j开始向前搜索,即由后开始向前搜索(j--),找到第一个小于key的值A[j],将A[j]和A[i]互换; 4)从i开始向后搜索,即由前开 阅读全文
posted @ 2018-01-09 20:44 gyhuminyan 阅读(280) 评论(0) 推荐(1) 编辑
摘要: 冒泡排序算法的原理如下: 比较相邻的元素。如果第一个比第二个大,就交换他们两个。 对每一对相邻元素作同样的工作,从开始第一对到结尾的最后一对。在这一点,最后的元素应该会是最大的数。 针对所有的元素重复以上的步骤,除了最后一个。 持续每次对越来越少的元素重复上面的步骤,直到没有任何一对数字需要比较。 阅读全文
posted @ 2018-01-09 20:11 gyhuminyan 阅读(476) 评论(0) 推荐(0) 编辑
摘要: Log4J的三个组件: Logger:日志记录器,负责收集处理日志记录 (如何处理日志) Appender:日志输出目的地,负责日志的输出 (输出到什么 地方) Layout:日志格式化,负责对输出的日志格式化(以什么形式展现) 类结构图(来自http://www.blogjava.net/DLev 阅读全文
posted @ 2017-11-24 11:16 gyhuminyan 阅读(178) 评论(0) 推荐(0) 编辑
摘要: 用 spark-submit 启动应用 如果用户的应用程序被打包好了,它可以使用 bin/spark-submit 脚本来启动。这个脚本负责设置 Spark 和它的依赖的 classpath,并且可以支持 Spark 所支持的不同的 Cluster Manager 以及 deploy mode(部署 阅读全文
posted @ 2017-11-15 09:14 gyhuminyan 阅读(352) 评论(0) 推荐(0) 编辑
摘要: Spark uses Hadoop client libraries for HDFS and YARN. Starting in version Spark 1.4, the project packages “Hadoop free” builds that lets you more easi 阅读全文
posted @ 2017-11-15 09:06 gyhuminyan 阅读(275) 评论(0) 推荐(0) 编辑