05 2023 档案
摘要:零、kafka消费者组状态 Stable:消费者组中所有消费者都已经加入并且正在消费消息。 Rebalancing:消费者组正在重新平衡,即有消费者加入或退出消费者组时发生的状态。在重新平衡期间,Kafka会暂停所有消费者的消费,并重新分配分区。 Empty:消费者组中没有消费者或者所有消费者都已经
阅读全文
摘要:1.动态资源分配 Spark的动态资源分配就是executor数据量的动态增减,具体的增加和删除数量根据业务的实际需要动态的调整。具体表现为:如果executor数据量不够,则增加数量,如果executor在一段时间内空闲,则移除这个executor。 动态增加executor配置项:spark.d
阅读全文