HDFS学习总结之架构
一、hdfs介绍
官网说明
Hadoop Distributed File System (HDFS™): A distributed file system that provides high-throughput access to application data.(提供对应用程序数据的高吞吐量访问的分布式文件系统。)
优点:数据冗余,硬件容错
适合存储大文件
处理流式的数据访问
可构建在廉价的机器上
缺点:低延迟的数据访问
不适合小文件的存错
二、hdfs架构(官网架构图)
架构说明: 1、采用主从架构(master/slave architecture):master:NameNode(NN) slave:DataNode(DN)
2、文件存储会被拆分多个Block存储在DN上.(默认64M,CDH默认128M)
3、NN的作用: 1)负责客户端请求响应
2)负责元数据(文件的名称,副本系数,Block存放的DN等)的管理
4、DN的作用: 1)存储用户文件对应的数据块(Block)
2)定期向NN发送心跳信息,汇报本身及其所有的block信息(健康状况);
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· AI技术革命,工作效率10个最佳AI工具