摘要:使用kafka、elasticsearch、搭建一个elk日志管理平台: 流程图: 分别安装:jdk、zookeeper、kafka、logstash、es、kibana logstash安装和配置: https://www.cnblogs.com/codehello/articles/164670
阅读全文
摘要:kafka是一个分布式的,基于发布/订阅模式的消息队列(Message Queue), 主要应用于大数据实时处理领域 架构图: kafka工作流程: kafka流处理平台具有三个关键能力: 发布和订阅消息(流),在这方面,它类似于一个消息队列。 以容错(故障转移)的方式存储消息(流)。 在消息流发生
阅读全文
摘要:1,Kafka安装依赖Scala、ZooKeeper,所以需要先安装Scala与ZooKeeper。然后在已安装好Scala和ZooKeeper的环境基础上,安装部署Kafka。 下载之前安装scala、zookeeper并启动 scala下载地址: https://www.scala-lang.o
阅读全文
摘要:zookeeper官方文档: https://zookeeper.apache.org/doc/current/index.html ZooKeeper 是 Apache 软件基金会的一个软件项目,它为大型分布式计算提供开源的分布式配置服务、同步服务和命名注册。 ZooKeeper 的架构通过冗余服
阅读全文
摘要:CAP 理论指出对于一个分布式计算系统来说,不可能同时满足以下三点: 一致性:在分布式环境中,一致性是指数据在多个副本之间是否能够保持一致的特性,等同于所有节点访问同一份最新的数据副本。在一致性的需求下,当一个系统在数据一致的状态下执行更新操作后,应该保证系统的数据仍然处于一致的状态。 可用性:每次
阅读全文
摘要:RabbitMQ 集群的两种模式: 普通集群 镜像集群 普通集群模式,就是将 RabbitMQ 部署到多台服务器上,每个服务器启动一个 RabbitMQ 实例,多个实例之间进行消息通信。创建的队列 Queue,它的元数据(主要就是 Queue 的一些配置信息)会在所有的 RabbitMQ 实例中进行
阅读全文
摘要:1,配置文件 import org.springframework.amqp.core.*; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Confi
阅读全文
摘要:MQ(Message Queue)消息队列,是基础数据结构中“先进先出”的一种数据结构。指把要传输的数据(消息)放在队列中,用队列机制来实现消息传递——生产者产生消息并把消息放入队列,然后由消费者去处理。消费者可以到指定队列拉取消息,或者订阅相应的队列,由MQ服务端给其推送消息。 作用: 消息队列中
阅读全文
摘要:配置文件: import org.springframework.amqp.core.Binding; import org.springframework.amqp.core.BindingBuilder; import org.springframework.amqp.core.TopicExc
阅读全文
摘要:死信队列 RabbitMQ的死信队列不像RocketMQ一样时原本就存在的,它需要我们自己设置一个交换机然后绑定队列,我们在语义上将其用作为存放无法消费的消息的队列。 RabbitMQ的死信是通过为普通队列设置死信参数,当该队列出现无法消费的消息,就会将这些消息转移到设置的死信队列中。 死信消息产生
阅读全文
摘要:1,配置文件application.yml spring: rabbitmq: username: guest password: guest host: ip port: 5672 2,pom.xml <dependency> <groupId>org.springframework.boot</
阅读全文
摘要:rabbitMQ是一个在AMQP协议标准基础上完整的,可服用的企业消息系统。它遵循Mozilla Public License开源协议,采用 Erlang 实现的工业级的消息队列(MQ)服务器,Rabbit MQ 是建立在Erlang OTP平台上。 源码地址: https://github.com
阅读全文
摘要:1,topic模式 package com.example.demo.conf; import org.springframework.amqp.core.Binding; import org.springframework.amqp.core.BindingBuilder; import org
阅读全文
摘要:kafka理论知识:http://www.jasongj.com/2015/03/10/KafkaColumn1/ 我们将通过代码演示如何发布、订阅消息。 1、添加maven依赖 <dependency> <groupId>org.apache.kafka</groupId> <artifactId
阅读全文
摘要:官网地址:http://activemq.apache.org/ 下载完安装包,解压之后的目录: 从它的目录来说,还是很简单的: bin存放的是脚本文件 conf存放的是基本配置文件 data存放的是日志文件 docs存放的是说明文档 examples存放的是简单的实例 lib存放的是activem
阅读全文
摘要:前提条件 zookeeper已经安装完毕,分别为hd1:2222,hd2:2222,hd3:2222,hd4:2222,hd5:2222 已经在官方网站下载好了二进制包,kafka_2.10-0.10.0.0.tgz 将二进制包放到所有要安装kafka的节点上,host指定为:mq1,mq2,mq3
阅读全文
摘要:官网 下载 zookeeper信息查看工具 zookeeper信息查看工具2 ZooKeeper学习 ZooKeeper是一种为分布式应用所设计的高可用、高性能且一致的开源协调服务,它提供了一项基本服务:分布式锁服务。由于ZooKeeper的开源特性,后来我们的开发者在分布式锁的基础上,摸索了出了其
阅读全文
摘要:kafka官网 kafka系统教程 Apache Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一种快速、可扩展的、设计内在就是分布式的,分区的和可复制的提交日志服务。Apache Kafka与传统消息系统相比,有以下不同: 它
阅读全文
摘要:下载地址 Zookeeper的安装和使用 window7环境下ZooKeeper的安装及运行 【Dubbo】windows下Dubbo安装及相关配置 Dubbo Activate 注解 Spring Boot Dubbo applications.properties 配置清单 Zookeeper
阅读全文