摘要:
一、介绍 elasticsearch-py是一个官方提供的low-level的elasticsearch python客户端库。为什么说它是一个low-level的客户端库呢?因为它只是对elasticsearch的rest API接口做了一层简单的封装,因此提供了最大的灵活性,但是于此同时使用起来 阅读全文
摘要:
一、背景 项目中有一个需求,是通过消费kafka的消息来处理数据,但是想要实现延迟消费的效果,于是想到了是否可以自己管理kafka的commit来实现,就是通过设置`enable.auto.commit`为False,预期是如果消费到了消息,但是不commit,kafka就会重新把消息放回队列,后续 阅读全文
摘要:
rabbitmq提供了一个图形的管理界面,用于管理、监控rabbitmq的运行情况,它是以插件的形式提供的,如果要启用需要启用插件 一、启用插件 二、配置nginx代理 rabbitmq-management插件监听了15672端口,因此需要配置nginx代理到该端口即可。 然后重启nginx,即可 阅读全文
摘要:
在学习kafka的时候遇到一些问题,刚开始怎么都想不通,于是记录一下,希望最终能通过搜索引擎或者请教别人或者查阅书籍找到答案。 1、根据配置中,每个kafka的配置中只设置了broker.id、zookeeper.connect,那么每个kafka是如何知道集群中有哪些节点呢? 2、每个消费者、生产 阅读全文
摘要:
虽然kafka集群部署的文章网络的到处都是,但是还是想把自己亲自操作的过程记录一下,同时也可以记录一下遇到的问题,避免以后部署的时候再遇到。 一、安装 1、下载,地址: https://www.apache.org/dyn/closer.cgi?path=/kafka/2.3.0/kafka_2.1 阅读全文
摘要:
根据官网介绍,kafka是一个分布式流处理平台,他提供了一下这些功能: 1、发布、订阅功能。 2、持久化存储所有消息记录。 3、实时处理消息。 它通常被应用与两个大类应用: 1、构建系统和应用程序之间的实时数据通道。 2、构建转换数据流的应用程序。 kafka的一些概念: 1、producer:消息 阅读全文
摘要:
sentinel是redis用于实现高可用的方案,通过部署一个sentinel集群,sentinel集群负责监控指定的redis master和slave的状态,并在master挂的时候自动切换主从,从而保证缓存服务的高可用。 那么sentinel是如何实现的呢? 1、sentinel启动的时候会指 阅读全文
摘要:
工作中遇到一个问题,上游服务通过grpc调用下游服务,但是由于下游服务负载太高导致上游服务的调用会随机出现超时的情况,但是有一点不太明确:超时之后,下游服务还会继续进行计算么? 于是自己写了一个damon试了一下: client: 1 # Copyright 2015 gRPC authors. 2 阅读全文
摘要:
官方文档:https://www.consul.io/docs/internals/architecture.html 阅读全文
摘要:
consul除了提供了服务发现的功能,还是提供了kv store的功能,kv store可用于动态配置服务、协调服务、leader选举等场景。 consul的kv提供了cli和http的两种接口; http接口文档:https://www.consul.io/api/kv.html cli命令:ht 阅读全文