2019年8月24日
摘要:
相信会看到这篇文章的都对Flink的时间类型(事件时间、处理时间、摄入时间)和Watermark有些了解,当然不了解可以先看下官网的介绍:https://ci.apache.org/projects/flink/flink-docs-master/dev/event_time.html 这里就会有这
阅读全文
posted @ 2019-08-24 19:11
Flink菜鸟
阅读(2598)
推荐(0)
摘要:
先简单介绍一下Timestamp 和Watermark 的概念: Flink 在流上手动生成水印有三个重载的方法(忽略过期的一个) assignTimestamps(extractor: TimestampExtractor[T]): DataStream[T] 此方法是数据流的快捷方式,其中已知元
阅读全文
posted @ 2019-08-24 09:56
Flink菜鸟
阅读(6140)
推荐(0)
摘要:
本文翻译自flink官网:https://ci.apache.org/projects/flink/flink-docs-release-1.7/dev/event_timestamps_watermarks.html Assigning Timestamps Source Functions wi
阅读全文
posted @ 2019-08-24 09:52
Flink菜鸟
阅读(895)
推荐(0)
2019年8月16日
摘要:
本文翻译自官网:The Broadcast State Pattern Provided APIs (提供的api) BroadcastProcessFunction and KeyedBroadcastProcessFunction Important Considerations (注意事项)
阅读全文
posted @ 2019-08-16 10:37
Flink菜鸟
阅读(862)
推荐(1)
2019年8月15日
摘要:
接上文: 【翻译】The Broadcast State Pattern(广播状态) 最近尝试了一下Flink 的 Broadcase 功能,在Etl,流表关联场景非常适用:一个流数据量大,一个流数据量小(配置表)需要更新 业务逻辑如下: 注: 正常情况广播流只有一个输出源,更新也在这个源里,这里做
阅读全文
posted @ 2019-08-15 14:10
Flink菜鸟
阅读(3378)
推荐(0)
2019年8月14日
摘要:
1、添加远程仓库到本地remote分支 2、查看当前仓库的远程分支 3、fetch 远程分支 4、合并 fetch 的分支到本地master 5、查看log最近更新日志 6、推送本地master 到远程仓库(自己fork的仓库)
阅读全文
posted @ 2019-08-14 10:56
Flink菜鸟
阅读(5666)
推荐(1)
2019年8月13日
摘要:
不过Flink IDEA中执行的webui 需要 flink-runtime-web 包的支持 pom 如下: 启动日志如下: flink webui监听地址如下: http://localhost:2841 打开对应地址: 进入job: Metrics 也正常: 不过 logs 和 Stdout
阅读全文
posted @ 2019-08-13 10:28
Flink菜鸟
阅读(8250)
推荐(1)
2019年7月23日
摘要:
配置ssh免密码登录后,仍提示输入密码 解决方法: 首先我们就要去查看系统的日志文件 tail /var/log/secure -n 20 Authentication refused: bad ownership or modes for directory /root tail /var/log
阅读全文
posted @ 2019-07-23 10:12
Flink菜鸟
阅读(1783)
推荐(1)
2019年7月22日
摘要:
在大数据领域中,有很多nosql 的数据库,典型的 hbase,可以实现大数据量下的快速查询,但是关系型数据的地位还是没办法替代。比如上个项目中,计算完的结果数据,还是会输出到关系型数据库当中。Flink 中没有提供关系型数据的connector,看到有小伙伴在问,怎么实现,就写个简单的demo。
阅读全文
posted @ 2019-07-22 09:18
Flink菜鸟
阅读(7019)
推荐(0)
2019年7月17日
摘要:
接上篇:Flink FileSink 自定义输出路径——BucketingSink 上篇使用BucketingSink 实现了自定义输出路径,现在来看看 StreamingFileSink( 据说是StreamingFileSink 是社区优化后添加的connector,推荐使用) Streamin
阅读全文
posted @ 2019-07-17 13:09
Flink菜鸟
阅读(13023)
推荐(0)