7.8 Structured Streaming

一、Spark流计算组件的演进

 

 

 

二、Structured Streaming的基本原理

  Structured Streaming将数据建模成一个结构化的数据表DataFrame,后到达的数据就是一条一条的记录不断往里追加。

三、为什么设计Structured Streaming

1.重新抽象了流失计算(基于DataFrame的数据抽象)

2.易于实现数据的exactly-once(保证数据至少处理一次,而且只处理一次)

 

 

 

 

参考文献:

【1】https://www.icourse163.org/learn/XMU-1205811805?tid=1206617233&from=study#/learn/content?type=detail&id=1211383874&sm=1

posted @   nxf_rabbit75  阅读(182)  评论(0编辑  收藏  举报
编辑推荐:
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 使用C#创建一个MCP客户端
· ollama系列1:轻松3步本地部署deepseek,普通电脑可用
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 按钮权限的设计及实现
历史上的今天:
2018-12-14 glob.glob()、os.path.split()函数、global和nonlocal关键字
一、Spark流计算组件的演进二、Structured Streaming的基本原理三、为什么设计Structured Streaming1.重新抽象了流失计算(基于DataFrame的数据抽象)2.易于实现数据的exactly-once(保证数据至少处理一次,而且只处理一次)
点击右上角即可分享
微信分享提示