随笔分类 -  Kafka

摘要:存储介质不同 redis queue数据是存储在内存,虽然有AOF和RDB的持久化方式,但是还是以内存为主。kafka是存储在硬盘上 性能不同 因为存储介质不同,理论上redis queue的性能要优于kafka,但是在实际使用过程,这块体验并不是很明显,通常只有一些高并发场景下需要用redis q 阅读全文
posted @ 2020-06-22 08:59 温柔的风 阅读(920) 评论(0) 推荐(0) 编辑
摘要:参照我之前的一篇博文Kafka学习之(二)Centos下安装Kafka安装了kafka并启动,状况并不像我之前最初的预期,报错了,并且我在当前Linux环境下安装的Java版本、Kafka版本都是和之前博文一样的,第一感觉难道是因为Linux(Centos)的版本不一致??? 抛开猜测,直接百度 E 阅读全文
posted @ 2019-01-28 19:23 温柔的风 阅读(3753) 评论(0) 推荐(0) 编辑
摘要:一、下载安装包 kafka-eagle-bin-1.2.4.tar.gz 二、设置全局变量,设置JDK的全局变量JAVA_HOME和本应用的KE_HOME 三、进入conf目录修改配置文件 system-config.properties 四、启动 五、登录访问 浏览器访问:http://172.1 阅读全文
posted @ 2018-02-18 00:52 温柔的风 阅读(1097) 评论(0) 推荐(0) 编辑
摘要:想要搭建kafka集群,必须具备zookeeper集群,关于zookeeper集群的搭建,在Kafka学习之(五)搭建kafka集群之Zookeeper集群搭建博客有说明。需要具备两台以上装有zookeeper的服务器,其次,稳定可靠的kafka版本,本篇使用kafka_2.11-0.9.0.1。 阅读全文
posted @ 2018-02-15 15:53 温柔的风 阅读(429) 评论(0) 推荐(0) 编辑
摘要:Zookeeper是一种在分布式系统中被广泛用来作为:分布式状态管理、分布式协调管理、分布式配置管理、和分布式锁服务的集群。kafka增加和减少服务器都会在Zookeeper节点上触发相应的事件kafka系统会捕获这些事件,进行新一轮的负载均衡,客户端也会捕获这些事件来进行新一轮的处理。 Kafka 阅读全文
posted @ 2018-02-14 09:53 温柔的风 阅读(570) 评论(0) 推荐(0) 编辑
摘要:问题一:用kafka命令发送消息时候,一直报WARN Error while fetching metadata with correlation id 0 : {test=UNKNOWN_TOPIC_OR_PARTITION}? 原因:由于主题没创建导致的,生成是禁止自动创建的。 原文地址:htt 阅读全文
posted @ 2018-01-17 16:36 温柔的风 阅读(22030) 评论(0) 推荐(0) 编辑
摘要:简单测试 环境:Centos6.4,PHP7,kafka服务器IP:192.168.9.154,PHP服务器:192.168.9.157 在192.168.9.157创建目录和文件。 记住消费者PHP文件要在终端运行:php consumer.php。 这里就不测试了。 工作代码 阅读全文
posted @ 2018-01-17 15:18 温柔的风 阅读(6060) 评论(0) 推荐(1) 编辑
摘要:Centos版本:Centos6.4,PHP版本:PHP7。 在上一篇文章中使用IP为192.168.9.154的机器安装并开启了Kafka进行了简单测试,充当了Kafka服务器。 本篇文章新开启一台IP为192.16.9.157的机器给PHP开启扩展。 找到github的扩展下载地址,这里是php 阅读全文
posted @ 2018-01-17 13:08 温柔的风 阅读(1470) 评论(0) 推荐(0) 编辑
摘要:环境:Centos6.4,官方下载地址:http://kafka.apache.org/downloads ,前提是还需要安装了Java环境,本博客http://www.cnblogs.com/wt645631686/p/8267239.html有安装方法 记住先启动zookeeper,再启动kaf 阅读全文
posted @ 2018-01-16 14:00 温柔的风 阅读(912) 评论(0) 推荐(0) 编辑
摘要:Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模小打的网站中所有动作流数据。优势 高吞吐量:非常普通的硬件Kafka也可以支持每秒100W的消息,即使在非常廉价的商用机器上也能做到单机支持每秒100K条消息的传输。 支持通过Kafka服务器和消费机集群来区分消息,也就是可以对消 阅读全文
posted @ 2018-01-16 10:38 温柔的风 阅读(592) 评论(0) 推荐(0) 编辑
摘要:相关概念消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削峰等问题。实现高性能,高可用,可伸缩和最终一致性架构,是大型分布式系统不可缺少的中间件。流量如果非常之巨大,消息队列必不可少的。使用场景 异步处理 场景说明:当用户注册成功后,发送注册邮件,发完邮件然后发送注册短信。传 阅读全文
posted @ 2018-01-08 10:56 温柔的风 阅读(1610) 评论(0) 推荐(1) 编辑

点击右上角即可分享
微信分享提示