随笔 - 402  文章 - 1 评论 - 20 阅读 - 113万
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

1、Hadoop核心项目:HDFS(分布式文件系统)和MapReduce(并行计算框架)

2、HDFS的架构

  主从结构

    主节点,只有一个:namenode(接受用户操作要求;维护文件系统的目录结构;管理文件与block之间关系,block与datanode之间关系)

    从节点,有很多个:datanodes(存储文件;文件被分成block存储在磁盘上;为保证数据安全,文件会有多个副本)

3、MapReduce的架构

  主从结构

    主节点,只有一个:JobTracker(接受客户提交的计算任务;把计算分给TaskTracker执行;监控TaskTracker的执行情况)

    从节点,有很多个:TaskTrackers(执行JobTracker分配的计算任务)

posted on   chamie  阅读(200)  评论(0编辑  收藏  举报
编辑推荐:
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
点击右上角即可分享
微信分享提示