摘要: 通过KafkaUtils.createDirectStream该方法创建kafka的DStream数据源,传入有三个参数:ssc,LocationStrategies,ConsumerStrategies。 LocationStrategies有三种策略:PreferBrokers,PreferCo 阅读全文
posted @ 2020-04-27 18:23 海贼王一样的男人 阅读(7506) 评论(0) 推荐(0) 编辑
摘要: 在监控binlog日志中,会有ts字段表示一个事务提交的时间戳,如果用这个时间戳处理数据,会出现同一个单号时间戳相同的情况。 于是考虑用kafka每条消息的时间戳来进行数据处理。 在消息中增加一个时间戳字段和时间戳类型,目前支持的时间戳类型有两种:CreateTime和LogAppendTime,前 阅读全文
posted @ 2020-04-27 16:24 海贼王一样的男人 阅读(3438) 评论(0) 推荐(0) 编辑