openmetadata connector 开发简单说明
主要说明开发流程,后续说明具体的开发
参考流程
包含的内容(source,processor,sink) 以及特殊的stage 以及bulksink
- wokrlfow 从source 过去record
- 如果 processor 配置了,workflow 发送数据到processor
- 如果配置多个processor 将会基于顺序处理
- processor 处理完成之后回到sink
- 重复执行
如果需要进行聚合操作,可以使用stage 可以写到其他的file 或者外部存储中,然后就可以使用bulk sink 打不到openmetadata
或者es 中
说明
openmetadata 的机制还是比较健全的,而且还是比较清晰简单
参考资料
https://docs.open-metadata.org/open-source-community/developer/build-a-connector
https://github.com/open-metadata/OpenMetadata/tree/main/ingestion/src/metadata/ingestion/api
https://docs.open-metadata.org/open-source-community/developer/build-a-connector/stage
https://docs.open-metadata.org/open-source-community/developer/build-a-connector/bulksink
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
2020-10-23 apache trafficcontrol 开源的基于golang 的cdn 框架
2020-10-23 sftpgo 多功能高度可配置的sftp server
2020-10-23 opencsv csv 数据解析通用包
2020-10-23 jenkins+ rclone定时同步sftp数据到s3
2018-10-23 statik golang 静态资源嵌入二进制文件工具使用(docker 构建)
2018-10-23 Open-sourcing sso, the way we secure services at BuzzFeed
2018-10-23 streamsets 3.5 的一些新功能