摘要: 序:如何保证kafka全局消息有序? 比如,有100条有序数据,生产者发送到kafka集群,kafka的分片有4个,可能的情况就是一个分片保存0-25,一个保存25-50......这样消息在kafka中存储是局部有序了。严格说,kafka是无法保证全局消息有序的,没有这个机制,只能局部有序。 比如 阅读全文
posted @ 2017-02-10 15:42 暴躁IT老绵羊 阅读(18566) 评论(2) 推荐(4) 编辑
摘要: 概要:在使用storm分布式计算框架进行数据处理时,如何保证进入storm的消息的一定会被处理,且不会被重复处理。这个时候仅仅开启storm的ack机制并不能解决上述问题。那么该如何设计出一个好的方案来解决上述问题? 现有架构背景:本人所在项目组的实时系统负责为XXX的实时产生的交易记录进行处理,根 阅读全文
posted @ 2016-12-26 07:45 暴躁IT老绵羊 阅读(2589) 评论(2) 推荐(0) 编辑
摘要: 简要:开发中,常常因为需要我们要认为修改消费者实例对kafka某个主题消费的偏移量。具体如何修改?为什么可行?其实很容易,有时候只要我们换一种方式思考,如果我自己实现kafka消费者,我该如何让我们的消费者代码如何控制对某一个主题消费,以及我们该如何实现不同消费者组可以消费同一个主题的同一条消息,一 阅读全文
posted @ 2016-12-22 21:40 暴躁IT老绵羊 阅读(6555) 评论(1) 推荐(0) 编辑
摘要: 序:RPC就是使用socket告诉服务端我要调你的哪一个类的哪一个方法然后获得处理的结果。服务注册和路由就是借助第三方存储介质存储服务信息让服务消费者调用。然我们自己动手从0开始写一个rpc功能以及实现服务注册,动态上下线,服务路由,负载均衡。 一句话明白RPC原理 RPC即远程过程调用,它的实现方 阅读全文
posted @ 2016-11-13 15:28 暴躁IT老绵羊 阅读(25055) 评论(13) 推荐(8) 编辑
摘要: 很多新手一听到接口就蒙逼,不知道接口是什么!其实接口就是RPC,通过远程访问别的程序提供的方法,然后获得该方法执行的接口,而不需要在本地执行该方法。就是本地方法调用的升级版而已,我明天会上一篇如何通过socket实现rpc,以及服务的注册和动态上下线。这里先上一篇RPC的实现者一webservice 阅读全文
posted @ 2016-11-11 22:49 暴躁IT老绵羊 阅读(28968) 评论(7) 推荐(22) 编辑
摘要: 序:一个文件夹下面有很多层的小文件,如何算出这个文件夹下面有多少文件?递归遍历,简单暴力,递归在一般情况确实是比较方便的解决方案,但是当文件夹深度多深,递归的反复调用会导致方法一直无法释放,造成jvm的栈溢出。那我们该怎么办? 原文和作者一起讨论:http://www.cnblogs.com/int 阅读全文
posted @ 2016-11-04 22:22 暴躁IT老绵羊 阅读(6219) 评论(9) 推荐(4) 编辑
摘要: 像activeMQ等消息队列中,我们经常会使用发布订阅模式,但是你有没有想过,客户端时如何及时得到订阅的主题的信息?其实就里就用到了观察者模式。在软件系统中,当一个对象的行为依赖于另一个对象的状态时,观察者模式就相当有用。如果不使用观察者模式提供的通用结构,而需要我们实现类似的功能,想想我们该如何实 阅读全文
posted @ 2016-10-31 22:01 暴躁IT老绵羊 阅读(2591) 评论(5) 推荐(0) 编辑
摘要: 作为一个初级开发者,可能不会接触到代理模式,但是在很多框架的使用中都不知不觉使用了代理模式,比如servlet的过滤器链,spring的AOP,以及spring mvc的拦截器等。所以了解代理模式对于个人的成长是不可避免的。 在某些情况下,一个客户不想或者不能直接引用一个对象,此时可以通过一个称之为 阅读全文
posted @ 2016-10-30 16:59 暴躁IT老绵羊 阅读(2388) 评论(2) 推荐(3) 编辑
摘要: 说到在http协议下用户登录如何保证密码安全这个问题: 小白可能第一想法就是,用户在登录页面输入密码进行登录时,前台页面对用户输入的密码进行加密,然后把加密后的密码作为http请求参数通过网络发到服务器。 这样做是无法保证用户的账户安全的,因为稍微懂一点编程知识的人就可以通过你发送的http请求知道 阅读全文
posted @ 2016-10-28 22:43 暴躁IT老绵羊 阅读(15407) 评论(40) 推荐(27) 编辑
摘要: 序:在开发storm项目时,提交项目jar包当把依赖的第三方jar包都打进去提交storm集群启动时报了发现多个同名的文件错误由此开始了一段对jar包的深刻理解之路。 java.lang.RuntimeException: Found multiple defaults.yaml resources 阅读全文
posted @ 2016-10-25 22:56 暴躁IT老绵羊 阅读(4540) 评论(0) 推荐(1) 编辑