H__D  

随笔分类 -  MQ

消息队列
  • 【Kafka】Kafka-UI 安装
    摘要:本例采用docker方式部署 github地址:https://github.com/provectus/kafka-ui 官方文档: https://docs.kafka-ui.provectus.io 步骤1:拉去镜像 命令:docker pull provectuslabs/kafka-ui 阅读全文
    posted @ 2024-03-16 15:24 H__D 阅读(2098) 评论(0) 推荐(0) 编辑
  • 【SpringBoot】SpringBoot 整合Kafka
    摘要:Kafka安装参考:Kafka安装(一) 一、Kafka整合 1、创建SpringBoot项目 引入spring-kafka依赖 <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</a 阅读全文
    posted @ 2021-06-11 15:43 H__D 阅读(1084) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka API 的使用
    摘要:一、引入kafka-clients依赖 要在普通Maven项目中是用Kafka API需要引入Kafka的客户端依赖 1 <dependency> 2 <groupId>org.apache.kafka</groupId> 3 <artifactId>kafka-clients</artifactI 阅读全文
    posted @ 2021-06-10 22:46 H__D 阅读(181) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka内部机制
    摘要:一、Controller选举机制 Kafka核心总控制器Controller在Kafka集群中会有一个或者多个broker,其中有一个broker会被选举为控制器(Kafka Controller),它负责管理整个集群中所有分区和副本的状态。 当某个分区的leader副本出现故障时,由控制器负责为该 阅读全文
    posted @ 2021-06-10 22:15 H__D 阅读(162) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka消费者相关策略
    摘要:一、消费者消费消息流程 二、消费方式 consumer 采用 pull(拉)模式从 broker 中读取数据。 push(推)模式很难适应消费速率不同的消费者,因为消息发送速率是由 broker 决定的。 它的目标是尽可能以最快速度传递消息,但是这样很容易造成 consumer 来不及处理消息,典型 阅读全文
    posted @ 2021-06-10 21:07 H__D 阅读(457) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka生产者相关策略
    摘要:一、生产者发送数据流程 发送数据流程 1、Producer先从ZooKeeper的“/brokers/../stat”节点找到该Partition的Leader 2、Producer将消息发送给该Leader 3、Leader将信息写入本地log 4、Folloers从Leaderpull消息 5、 阅读全文
    posted @ 2021-06-10 18:04 H__D 阅读(274) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka文件存储机制
    摘要:一、文件存储 kafka 使用日志文件的方式来保存生产者和发送者的消息,每条消息都有一个 offset 值来表示它在分区中的偏移量。Kafka 中存储的一般都是海量的消息数据,为了避免日志文件过大,一个分片 并不是直接对应在一个磁盘上的日志文件,而是对应磁盘上的一个目录,这个目录的命名规则是<top 阅读全文
    posted @ 2021-06-10 17:10 H__D 阅读(385) 评论(0) 推荐(0) 编辑
  • 【Kafka】Kafka在ZooKeeper中的存储
    摘要:一、Kafka在ZooKeeper中存储结构图 二、分析 2.1 topic注册信息 /brokers/topics/[topic]:存储某个topic的partitions所有分配信息 [zk: 127.0.0.1:2181(CONNECTED) 1] ls /brokers/topics [__ 阅读全文
    posted @ 2021-06-10 15:54 H__D 阅读(141) 评论(0) 推荐(0) 编辑
  • 【Kafka】单机Kafka测试
    摘要:单机Kafka测试 kafka安装参考:【Kafka】 Kafka安装(一) 环境介绍 电脑:Mac Pro笔记本(CPU i5:2核,内存:8G) kafka版本:2.6.0 测试脚本:kafka自带脚本 1、测试topic创建与删除 (1)创建一个测试topic,名为test-topic。创建1 阅读全文
    posted @ 2021-06-09 22:25 H__D 阅读(544) 评论(0) 推荐(0) 编辑
  • 【Kafka】 Kafka的简介与架构(三)
    摘要:Kafka的简介 1.1 概述 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linkedin于2010年贡献给了Apache基金会并 阅读全文
    posted @ 2020-11-22 19:55 H__D 阅读(200) 评论(0) 推荐(0) 编辑
  • 【Kafka】 Kafka集群搭建(二)
    摘要:单机版Kafka搭建参考:【Kafka】 Kafka安装 Kafka集群搭建 环境系统:CentOS 7.4 kafka版本:2.6.0 由于资源有限,只有一台服务器,本例搭建的是一个伪集群Kafka环境 1、搭建一个zookeeper集群,参考:【ZooKeeper】ZooKeeper安装及简单操 阅读全文
    posted @ 2020-11-18 22:32 H__D 阅读(237) 评论(0) 推荐(0) 编辑
  • 【Kafka】 Kafka安装(一)
    摘要:Apache Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一种快速、可扩展的、设计内在就是分布式的,分区的和可复制的提交日志服务。 官网:http://kafka.apache.org 官网下载地址:http://kafka. 阅读全文
    posted @ 2020-11-18 15:53 H__D 阅读(426) 评论(0) 推荐(0) 编辑
  • 【SpringBoot】SpringBoot 整合RabbitMQ(二十)
    摘要:本章揭晓SpringBoot与RabbitMQ的整合,不了解RabbitMQ的可以参考【RabbitMQ】 RabbitMQ 基本概念 RabbitMQ安装参考:【RabbitMQ】 RabbitMQ安装 RabbitMQ自动配置 1、搭建SpringBoot项目,引入RabbitMQ的相关依赖 1 阅读全文
    posted @ 2020-03-15 01:32 H__D 阅读(906) 评论(0) 推荐(0) 编辑
  • 【RabbitMQ】 RabbitMQ 基本概念及测试
    摘要:安装RabbitMQ,参考【RabbitMQ】 RabbitMQ安装 消息概述 1、大多应用中,可通过消息服务中间件来提升系统异步通信、扩展解耦能力 2、消息服务中两个重要概念: 消息代理(message broker)和目的地(destination) 当消息发送者发送消息以后,将由消息代理接管, 阅读全文
    posted @ 2020-03-13 22:32 H__D 阅读(375) 评论(0) 推荐(0) 编辑
  • 【RabbitMQ】 Java简单的实现RabbitMQ
    摘要:准备工作 1、安装RabbitMQ,参考【RabbitMQ】 RabbitMQ安装 2、新建Java项目,引入RabbitMQ的Maven依赖 单生产者消费者 流程图: 1、创建生产者Producer1 2、创建消费者Customer1 3、运行结果 a、生产者 b、消费者 推送确认和消费应答 流程 阅读全文
    posted @ 2018-11-25 19:05 H__D 阅读(2600) 评论(0) 推荐(0) 编辑
  • 【RabbitMQ】 RabbitMQ配置开机启动
    摘要:环境 系统:Linux(CentOS 7.2) Erlang环境:21.1(安装参考【Erlang】源码安装) RabbitMQ:3.7.9(安装参考【RabbitMQ】 RabbitMQ安装) 配置开机启动 1、增加自启动脚本: 在/etc/init.d目录下新建一个rabbitmq-server 阅读全文
    posted @ 2018-11-22 01:19 H__D 阅读(12831) 评论(2) 推荐(0) 编辑
  • 【RabbitMQ】 RabbitMQ安装
    摘要:MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术 阅读全文
    posted @ 2018-11-19 09:17 H__D 阅读(1532) 评论(0) 推荐(0) 编辑