随笔分类 -
MQ
-
【Kafka】Kafka-UI 安装
摘要:本例采用docker方式部署 github地址:https://github.com/provectus/kafka-ui 官方文档: https://docs.kafka-ui.provectus.io 步骤1:拉去镜像 命令:docker pull provectuslabs/kafka-ui
阅读全文
-
【SpringBoot】SpringBoot 整合Kafka
摘要:Kafka安装参考:Kafka安装(一) 一、Kafka整合 1、创建SpringBoot项目 引入spring-kafka依赖 <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</a
阅读全文
-
【Kafka】Kafka API 的使用
摘要:一、引入kafka-clients依赖 要在普通Maven项目中是用Kafka API需要引入Kafka的客户端依赖 1 <dependency> 2 <groupId>org.apache.kafka</groupId> 3 <artifactId>kafka-clients</artifactI
阅读全文
-
【Kafka】Kafka内部机制
摘要:一、Controller选举机制 Kafka核心总控制器Controller在Kafka集群中会有一个或者多个broker,其中有一个broker会被选举为控制器(Kafka Controller),它负责管理整个集群中所有分区和副本的状态。 当某个分区的leader副本出现故障时,由控制器负责为该
阅读全文
-
【Kafka】Kafka消费者相关策略
摘要:一、消费者消费消息流程 二、消费方式 consumer 采用 pull(拉)模式从 broker 中读取数据。 push(推)模式很难适应消费速率不同的消费者,因为消息发送速率是由 broker 决定的。 它的目标是尽可能以最快速度传递消息,但是这样很容易造成 consumer 来不及处理消息,典型
阅读全文
-
【Kafka】Kafka生产者相关策略
摘要:一、生产者发送数据流程 发送数据流程 1、Producer先从ZooKeeper的“/brokers/../stat”节点找到该Partition的Leader 2、Producer将消息发送给该Leader 3、Leader将信息写入本地log 4、Folloers从Leaderpull消息 5、
阅读全文
-
【Kafka】Kafka文件存储机制
摘要:一、文件存储 kafka 使用日志文件的方式来保存生产者和发送者的消息,每条消息都有一个 offset 值来表示它在分区中的偏移量。Kafka 中存储的一般都是海量的消息数据,为了避免日志文件过大,一个分片 并不是直接对应在一个磁盘上的日志文件,而是对应磁盘上的一个目录,这个目录的命名规则是<top
阅读全文
-
【Kafka】Kafka在ZooKeeper中的存储
摘要:一、Kafka在ZooKeeper中存储结构图 二、分析 2.1 topic注册信息 /brokers/topics/[topic]:存储某个topic的partitions所有分配信息 [zk: 127.0.0.1:2181(CONNECTED) 1] ls /brokers/topics [__
阅读全文
-
【Kafka】单机Kafka测试
摘要:单机Kafka测试 kafka安装参考:【Kafka】 Kafka安装(一) 环境介绍 电脑:Mac Pro笔记本(CPU i5:2核,内存:8G) kafka版本:2.6.0 测试脚本:kafka自带脚本 1、测试topic创建与删除 (1)创建一个测试topic,名为test-topic。创建1
阅读全文
-
【Kafka】 Kafka的简介与架构(三)
摘要:Kafka的简介 1.1 概述 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linkedin于2010年贡献给了Apache基金会并
阅读全文
-
【Kafka】 Kafka集群搭建(二)
摘要:单机版Kafka搭建参考:【Kafka】 Kafka安装 Kafka集群搭建 环境系统:CentOS 7.4 kafka版本:2.6.0 由于资源有限,只有一台服务器,本例搭建的是一个伪集群Kafka环境 1、搭建一个zookeeper集群,参考:【ZooKeeper】ZooKeeper安装及简单操
阅读全文
-
【Kafka】 Kafka安装(一)
摘要:Apache Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一种快速、可扩展的、设计内在就是分布式的,分区的和可复制的提交日志服务。 官网:http://kafka.apache.org 官网下载地址:http://kafka.
阅读全文
-
【SpringBoot】SpringBoot 整合RabbitMQ(二十)
摘要:本章揭晓SpringBoot与RabbitMQ的整合,不了解RabbitMQ的可以参考【RabbitMQ】 RabbitMQ 基本概念 RabbitMQ安装参考:【RabbitMQ】 RabbitMQ安装 RabbitMQ自动配置 1、搭建SpringBoot项目,引入RabbitMQ的相关依赖 1
阅读全文
-
【RabbitMQ】 RabbitMQ 基本概念及测试
摘要:安装RabbitMQ,参考【RabbitMQ】 RabbitMQ安装 消息概述 1、大多应用中,可通过消息服务中间件来提升系统异步通信、扩展解耦能力 2、消息服务中两个重要概念: 消息代理(message broker)和目的地(destination) 当消息发送者发送消息以后,将由消息代理接管,
阅读全文
-
【RabbitMQ】 Java简单的实现RabbitMQ
摘要:准备工作 1、安装RabbitMQ,参考【RabbitMQ】 RabbitMQ安装 2、新建Java项目,引入RabbitMQ的Maven依赖 单生产者消费者 流程图: 1、创建生产者Producer1 2、创建消费者Customer1 3、运行结果 a、生产者 b、消费者 推送确认和消费应答 流程
阅读全文
-
【RabbitMQ】 RabbitMQ配置开机启动
摘要:环境 系统:Linux(CentOS 7.2) Erlang环境:21.1(安装参考【Erlang】源码安装) RabbitMQ:3.7.9(安装参考【RabbitMQ】 RabbitMQ安装) 配置开机启动 1、增加自启动脚本: 在/etc/init.d目录下新建一个rabbitmq-server
阅读全文
-
【RabbitMQ】 RabbitMQ安装
摘要:MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术
阅读全文
|