摘要: Kafka中的rebalance称之为再均衡,是Kafka中确保consumer group下所有的consumer如何达成一致,分配订阅的topic的每个分区的机制。 1、Rebalance触发的时机有: (1)消费者组中consumer的个数发生变化了。 例如有新的consumer加入到消费者组 阅读全文
posted @ 2021-07-23 23:31 Eleanor123 阅读(50) 评论(0) 推荐(1) 编辑
摘要: 1、轮询策略:按照消息尽量保证每个分区的负载,消息会均匀分布到每个partition。写入消息的时候,key为null的时候,默认使用的是轮询策略。 2、随机策略:不使用。 3、按key写入策略:key.hash()%分区的数量。 4、自定义分区策略:类似于mapReduce指定分区。 乱序问题: 阅读全文
posted @ 2021-07-23 23:18 Eleanor123 阅读(103) 评论(0) 推荐(1) 编辑
摘要: Kafka事务是2017年kafka0.11.0.0引入的新特性。类似于数据库的事务。 Kafka事务指的是生产者生产消息以及消费者提交offset的操作可以在一个原子操作中,要么都成功,要么都失败。 尤其是在生产者、消费者并存时,事务的保障尤其重要。 阅读全文
posted @ 2021-07-23 22:58 Eleanor123 阅读(71) 评论(0) 推荐(1) 编辑
摘要: 1、幂等性是什么 比如HTTP请求,一次或多次请求,得到的响应是一致的(网络超时等除外),就是执行多次和执行一次的操作影响是一样的。 如果某个系统是不具备幂等性的,用户重复提交了某个表格就会造成不良影响。例如,用户在浏览器上点击了多次提交订单按钮,会在后台生成一个一模一样的订单。 2、Kafka的幂 阅读全文
posted @ 2021-07-23 07:59 Eleanor123 阅读(209) 评论(0) 推荐(1) 编辑
摘要: 一个消费者组中可以包含多个消费者,共同来消费topic中的数据。 一个topic中如果只有一个分区,那么这个分区只能被某个组中的一个消费者消费。 有多少个分区,就可以被同一个组内的多少个消费者消费。 阅读全文
posted @ 2021-07-23 07:43 Eleanor123 阅读(58) 评论(0) 推荐(1) 编辑
摘要: Broker:Kafka服务器进程,生产者、消费者都要连接broker。一个集群由多个broker组成,功能实现Kafka集群的负载均衡、容错。 Producer:生产者。 Consumer:消费者。 Topic:主题。一个Kafka集群中,可以包含多个topic,一个topic可以包含多个分区。T 阅读全文
posted @ 2021-07-23 07:38 Eleanor123 阅读(68) 评论(0) 推荐(1) 编辑
摘要: Offset记录着下一条将要发送给consumer的消息的序号。 默认Kafka将offset存储在zookeeper中。 在一个分区中,消息是有顺序的方式存储的,每个在分区的消费都是由一个递增的id。这个就是偏移量offset。 偏移量在分区中才是由意义的。在分区之间,offset是没有任何意义的 阅读全文
posted @ 2021-07-23 07:31 Eleanor123 阅读(255) 评论(0) 推荐(1) 编辑
摘要: 当开始一个项目时,通常在属性文件中进行所有配置。随着越来越多的服务开发和部署,添加和修改这些属性变得更加复杂。 有些服务可能会下降,而某些位置可能发生变化。手动更改属性可能会产生问题。 Eureka服务注册和发现可以在这种情况下提供帮助。由于所有服务都在eureka服务器上注册并通过eureka服务 阅读全文
posted @ 2021-07-23 07:24 Eleanor123 阅读(45) 评论(0) 推荐(1) 编辑
摘要: 负载平衡可以改善跨计算机、计算机集群、网络链接、中央处理单元或磁盘驱动等多种计算资源的工作负载分布。 负载平衡旨在优化资源使用,最大化吞吐量,最小化响应时间并避免任何单一资源的过载。 使用多个组件进行负载平衡而不是单个组件可能会通过冗余来提高可靠性和可用性。 负载平衡通常涉及专用软件或硬件,例如多层 阅读全文
posted @ 2021-07-23 07:19 Eleanor123 阅读(85) 评论(0) 推荐(1) 编辑
摘要: 使用Spring boot开发分布式微服务时,面临问题如下: (1)与分布式系统相关的复杂性,这种开销包括网络问题、延迟问题、带宽问题,安全问题。 (2)服务发现。服务发现工具管理群集中的流程和服务如何查找和互相交谈。它涉及一个服务目录,在该目录中注册服务,然后能够查找并连接到该目录中的服务。 (3 阅读全文
posted @ 2021-07-23 07:15 Eleanor123 阅读(140) 评论(0) 推荐(1) 编辑
摘要: Spring cloud流应用程序启动器是基于Spring boot的Spring集成应用程序,提供与外部系统的集成。 Spring cloud task,一个生命周期短暂的微服务框架,用于快速构建执行有限数据除了的应用程序。 阅读全文
posted @ 2021-07-23 07:07 Eleanor123 阅读(48) 评论(0) 推荐(1) 编辑