理解几个概念
1.批处理与流式处理
之前在公司学Hadoop,只知道hadoop做数据处理的时候,得先把数据文件传到HDFS上,然后再启动已经写好的MapReduce程序来跑。有一天听同事的hadoop讲座,他说hadoop是批处理,storm是流式处理,当时不是太理解什么是批处理,流式具体是什么意思。流的概念是有的,学C、C++的时候都有标准输入输出流,知道流其实是对输入和输出的一种抽象。
直到在学堂在线看大数据平台核心技术的课程视频,有个老师讲说有时候我们的数据不是一次性获得的,而是源源不断地获得的,我才恍然大悟。
批处理就是要处理的数据一次性得到一批数据,一次性处理。而流式处理就是数据是源源不断地得来的,来一点处理一点的方式。
2.离线计算与在线计算
离线计算:就是在一次性在没有请求的时候已经计算好,结果计算出来放着让在线系统用。
在线计算:又可以称为实时计算,就是当请求来的时候在完成对请求的响应的过程中去计算,就可以称为在线计算,或者实时计算。
其实流式计算就是实时计算。
3、服务的概念
生活中我们买东西会遇到两种东西,一种是产品,或者是有形的(比如铅笔、本子等)或者无形的(比如银行的理财产品),另一种是服务,比如理发。
Linux系统中的应用软件也分为两种:一种是面向最终用户的应用软件,另一种是服务,服务也是应用软件,不过它通常不直接让用户使用。服务也可以分为两种,一种是直接为最终用户服务的服务,比如vsftpd服务就是直接为最终用户提供ftp服务的,另一种是为应用软件服务的服务,他们主要用来支持应用软件的运行。
Web应用和web service也是类似的关系,web应用供最终用户使用,web service为web应用来提供服务。
分类:
TroubleShoot
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通