摘要: 一 Spark与hadoop Hadoop有两个核心模块,分布式存储模块HDFS和分布式计算模块Mapreduce Spark 支持多种编程语言,包括 Java、Python、R 和 Scala,同时 Spark 也支持 Hadoop 的底层存储系统 HDFS,但 Spark 不依赖 Hadoop。 阅读全文
posted @ 2022-02-21 15:38 linhaifeng 阅读(1241) 评论(0) 推荐(0) 编辑
摘要: 一 前言 大数据本身是个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆,各有各的用处,互相之间又有重合。你可以用汤锅直接当碗吃饭喝汤,你可以用小刀或者刨子去皮。但是每个工具有自己的特性,虽然奇怪的组 阅读全文
posted @ 2022-02-21 15:32 linhaifeng 阅读(408) 评论(0) 推荐(0) 编辑