09 2022 档案
摘要:有序消息 有序消息又叫顺序消息(FIFO消息) 是指消息的消费顺序和生产顺序相同,在有些业务逻辑下,必须保证顺序。 比如订单的生成、付款、发货,这个消息必须按照顺序处理才行。 顺序消息分为全局顺序和分区顺序 全局顺序 一个Topic内所有的消息都发送到同一个queue,按照先进先出的顺序进行发布和消
阅读全文
摘要:批量消息 为什么使用批量消息? 在很多调优的时候,比如数据库批量处理,有些请求进行合并发送等都是类似批量的实现 RocketMQ 批量发送也是为了追求性能,特别在消息数量特别大的时候,批量效果就非常明显 使用批量消息的限制? 同一批次的消息应该具有相同主题、相同的消息配置 不支持延迟消息 建议一个批
阅读全文
摘要:一、单实例安装&启动 下载rocketmq安装包: cd /opt/soft # 下载二进制安装包 wget https://archive.apache.org/dist/rocketmq/4.7.1/rocketmq-all-4.7.1-bin-release.zip # 如果没有安装 unzi
阅读全文
摘要:1、功能 支持事务消息 顺序消费 kafka 实现顺序, 批量消息 定时消息 消息回溯 2、概念 gruop、topic、queue 3、系统组成 Producer Consumer Broker NameSever,类似于zookeeper,做注册中心用。 Producer:rocketmq提供多
阅读全文
摘要:Apache Kafka的流行归功于它设计和操作简单、存储系统高效、充分利用磁盘顺序读写等特性、非常适合在线日志收集等高吞吐场景。 Apache Kafka特性之一是它的复制协议。对于单个集群中每个Broker不同工作负载情况下,如何自动调优Kafka副本的工作方式是比较有挑战的。它的挑战之一是要知
阅读全文
摘要:名词解释 要想说明白kafka的HA机制,我们必须先搞明白几个缩写名词, 1、AR、ISR、OSR AR:Assigned Replicas,某分区的所有副本(这里所说的副本包括leader和follower)统称为 AR。 ISR:In Sync Replicas,所有与leader副本保持"一定
阅读全文
摘要:kafka offset 的存储 老的方式: 小于 0.9版本 存在 zookeeper 大于 0.9版本 kafka本身,需要做第一次消费,kafka会在内部维护一个__comsumer_offset 的topic 因为kafka设计的时候向下兼容,高版本的client api适配了低版本。 /c
阅读全文
摘要:Kafka Stream 概述 Kafka Streams是一个客户端库,用于构建任务关键型实时应用程序和微服务,其中输入和/或输出数据存储在Kafka集群中。Kafka Streams结合了在客户端编写和部署标准Java和Scala应用程序的简单性以及Kafka服务器端集群技术的优势,使这些应用程
阅读全文
摘要:安装Zookeeper docker run --name zookeeper -d -p 2181:2181 -v /etc/localtime:/etc/localtime library/zookeeper 安装Kafka docker run -d --name kafka -p 9092:
阅读全文