随笔分类 -  分布式消息框架

kafka rocketMQ rabbitMQ
摘要:Memcached Java Client API详解针对Memcached官方网站提供的java_memcached-release_2.0.1版本进行阅读分析,Memcached Java客户端lib库主要提供的调用类是SockIOPool和MemCachedClient?,关键类及方法整理说明... 阅读全文
posted @ 2015-04-29 14:19 快乐就好 阅读(2062) 评论(0) 推荐(0) 编辑
摘要:ClientsClient API's / librariesUpdatedJul 14, 2012bydorma...@rydia.netref:https://code.google.com/p/memcached/wiki/ClientsC / C++libmemcachedhttp://li... 阅读全文
posted @ 2015-04-28 14:56 快乐就好 阅读(281) 评论(0) 推荐(0) 编辑
摘要:apache kafka中国社区QQ群:162272557apache kafka参考http://kafka.apache.org/documentation.html消息队列分类: 点对点:消息生产者生产消息发送到queue中,然后消息消费者从queue中取出并且消费消息。这里要注意:消息被消费... 阅读全文
posted @ 2015-01-09 11:11 快乐就好 阅读(1295) 评论(0) 推荐(0) 编辑
摘要:apache kafka在数据处理中特别是日志和消息的处理上会有很多出色的表现,这里写个索引,关于kafka的文章暂时就更新到这里,最近利用空闲时间在对 kafka做一些功能性增强,并java化,虽然现在已经有很多这样的版本,但是根据实际需求来改变才是最适合的。首先当然推荐的是kafka的官网htt... 阅读全文
posted @ 2015-01-08 14:49 快乐就好 阅读(718) 评论(0) 推荐(0) 编辑
摘要:Kafka Producer端封装自定义消息Kafka.network包源码解读Kafka Consumer端的一些解惑Kafka producer使用注意kafka0.8的一些变动,先收藏,慢慢翻译Kafka 0.8的一些变化 阅读全文
posted @ 2015-01-08 14:48 快乐就好 阅读(383) 评论(0) 推荐(0) 编辑
摘要:如果你要利用代码来跑kafka的应用,那你最好先把官网给出的example先在单机环境和分布式环境下跑通,然后再逐步将原有的consumer、producer和broker替换成自己写的代码。所以在阅读这篇文章前你需要具备以下前提:1.简单了解kafka功能,理解kafka的分布式原理2.能在分布式... 阅读全文
posted @ 2015-01-08 14:45 快乐就好 阅读(3273) 评论(0) 推荐(0) 编辑
摘要:这部分内容对了解系统和提高软件性能都有很大的帮助,kafka官网上也给出了比较详细的配置详单,但是我们还是直接从代码来看broker到底有哪些配置需要我们去了解的,配置都有英文注释,所以每一部分是干什么的就不翻译了,都能看懂:?123456789101112131415161718192021222... 阅读全文
posted @ 2015-01-08 14:44 快乐就好 阅读(1267) 评论(0) 推荐(0) 编辑
摘要:如果你第一次看kafka的文章,请先看《分布式消息系统kafka初步》之前有人问kafka和一般的MQ之间的区别,这个问题挺难回答,我觉得不如从kafka的实现原理来分析更为透彻,这篇将依据官网上给出的design来详细的分析,kafka是如何实现其高性能、高吞吐的。这一段应该会挺长的我想分两篇来写... 阅读全文
posted @ 2015-01-08 14:42 快乐就好 阅读(2239) 评论(0) 推荐(0) 编辑
摘要:这篇文章将介绍如何搭建kafka环境,我们会从单机版开始,然后逐渐往分布式扩展。单机版的搭建官网上就有,比较容易实现,这里我就简单介绍下即可,而分布式的搭建官网却没有描述,我们最终的目的还是用分布式来解决问题,所以这部分会是重点。Kafka的中文文档并不多,所以我们尽量详细点儿写。要交会你搭建分布式... 阅读全文
posted @ 2015-01-08 14:41 快乐就好 阅读(469) 评论(0) 推荐(0) 编辑
摘要:终于可以写kafka的文章了,Mina的相关文章我已经做了索引,在我的博客中置顶了,大家可以方便的找到。从这一篇开始分布式消息系统的入门。在我们大量使用分布式数据库、分布式计算集群的时候,是否会遇到这样的一些问题:l 我想分析一下用户行为(pageviews),以便我能设计出更好的广告位l 我想对用... 阅读全文
posted @ 2015-01-08 14:28 快乐就好 阅读(505) 评论(0) 推荐(0) 编辑
摘要:http://zookeeper.apache.org/releases.html#downloadhttp://kafka.apache.org/downloads.html(下载最新 二进制版本,本文示例kafka_2.9.2-0.8.1.1.tgz )https://github.com/mi... 阅读全文
posted @ 2015-01-07 15:56 快乐就好 阅读(314) 评论(0) 推荐(0) 编辑
摘要:下载地址https://github.com/alibaba/RocketMQ安装环境需要jdk,maven,githttp://maven.apache.org/download.html 阅读全文
posted @ 2015-01-07 10:17 快乐就好 阅读(239) 评论(0) 推荐(0) 编辑
摘要:为什么需要消息队列系统中引入消息队列机制是对系统一个非常大的改善。例如一个web系统中,用户做了某项操作后需要发送邮件通知到用户邮箱中。你可以使用同步方式让用户等待邮件发送完成后反馈给用户,但是这样可能会因为网络的不确定性造成用户长时间的等待从而影响用户体验。有些场景下是不可能使用同步方式等待完成的... 阅读全文
posted @ 2014-12-04 14:14 快乐就好 阅读(23011) 评论(4) 推荐(3) 编辑
摘要:1.高性能(分布式锁不能成为系统的性能瓶颈)2.避免死锁(拿到锁的结点挂掉不会导致其它结点永远无法继续)3.支持锁重入事务using (IRedisClient RClient = prcm.GetClient()) { RClient.Add("key",1); ... 阅读全文
posted @ 2014-09-04 17:01 快乐就好 阅读(1158) 评论(0) 推荐(0) 编辑
摘要:前言Tape is Dead,Disk is Tape,Flash is Disk,RAM Locality is King. — Jim GrayRedis不是比较成熟的Memcache或者Mysql的替代品,是对于大型互联网类应用在架构上很好的补充。现在有越来越多的应用也在纷纷基于Redi... 阅读全文
posted @ 2014-09-04 11:08 快乐就好 阅读(3490) 评论(0) 推荐(0) 编辑
摘要:由于redis的集群功能没有完全编写好,见:http://redis.io/topics/cluster-spec集群只有测试版的第8个版本redis3.0.0 见 http://redis.io/download但是redis可以做主从设置Redis的主从复制策略是通过其持久化的rdb文件来实现的... 阅读全文
posted @ 2014-09-04 10:37 快乐就好 阅读(2442) 评论(0) 推荐(0) 编辑
摘要:Memcached删除主键的方式与Redis有何异同首先,Memcached 在删除失效主键时也是采用的消极方法,即 Memcached 内部也不会监视主键是否失效,而是在通过 Get 访问主键时才会检查其是否已经失效。其次,Memcached 与 Redis 在主键失效机制上的最大不同是,Memc... 阅读全文
posted @ 2014-08-26 10:32 快乐就好 阅读(458) 评论(0) 推荐(0) 编辑
摘要:1.学习文档地址:http://www.redisdoc.com/en/latest/index.html2.redis中文APIREDIS所有的命令>LPOP key : 删除并取得LIST头部一个元素RPOP key : 删除并取得LIST尾部一个元素BLPOP key [key ...] ti... 阅读全文
posted @ 2014-08-18 15:04 快乐就好 阅读(13113) 评论(0) 推荐(1) 编辑
摘要:于公司业务上需要实现分布式锁,在网上找了一些实现的案例,最终打算采用基于redis的分布式锁方案,不多废话,上代码核心类 1 using System; 2 using System.Diagnostics; 3 using System.Text; 4 using System.Threa... 阅读全文
posted @ 2014-08-16 15:08 快乐就好 阅读(2505) 评论(0) 推荐(0) 编辑
摘要:一、安装前的准备下载redishttp://redis.io/downloadhttps://github.com/mythz/redis-windows下载Windows版客户端net版sdk包 ServiceStack.Redis https://github.com/ServiceStack/... 阅读全文
posted @ 2014-08-16 14:34 快乐就好 阅读(38391) 评论(0) 推荐(0) 编辑