上一页 1 ··· 19 20 21 22 23 24 25 26 27 ··· 40 下一页
摘要: 在hadoop第前几个版本中是没有快照功能的,2.x中是有这个特性的 Hadoop 2.x HDFS新特性 HDFS快照 HDFS快照 在2.x终于实现了快照 设置一个目录为可快照: hdfs dfsadmin -allowSnapshot <path> 取消目录可快照: hdfs dfsadmin 阅读全文
posted @ 2016-07-19 11:51 dy9776 阅读(5242) 评论(0) 推荐(0) 编辑
摘要: Hadoop 2.x HDFS新特性 1.HDFS联邦 2. HDFS HA(要用到zookeeper等) 3.HDFS快照 回顾: HDFS两层模型 Namespace: 包括目录、文件和块。它支持所有命名空间相关的文件操作,如创建、删除、修改,查看所有文件和目录。 Block Storage S 阅读全文
posted @ 2016-07-19 11:39 dy9776 阅读(2362) 评论(1) 推荐(0) 编辑
摘要: HDFS是Hadoop的核心模块之一,围绕HDFS是什么、HDFS的设计思想和HDFS的体系结构三方面来介绍。 Hadoop的设计思想受到Google公司的GFS设计思想的启示,基于一种开源的理念实现的分布式分布式文件系统。HDFS的设计基础与目标如下。 1)硬件错误(Hardware Failur 阅读全文
posted @ 2016-07-19 11:21 dy9776 阅读(363) 评论(0) 推荐(0) 编辑
摘要: 照抄于网络: docs/hdfs-default.html这里是hdfs参数的含义。其中可见dfs.replication.min最小副本数dfs.safemode.threshold.pct阈值比例 Specifies the percentage of blocks that should sa 阅读全文
posted @ 2016-07-19 11:18 dy9776 阅读(1852) 评论(0) 推荐(0) 编辑
摘要: 背景 分布式的集群通常包含非常多的机器,由于受到机架槽位和交换机网口的限制,通常大型的分布式集群都会跨好几个机架,由多个机架上的机器共同组成一个分布式集群。机架内的机器之间的网络速度通常都会高于跨机架机器之间的网络速度,并且机架之间机器的网络通信通常受到上层交换机间网络带宽的限制。 具体到Hadoo 阅读全文
posted @ 2016-07-19 10:45 dy9776 阅读(234) 评论(0) 推荐(0) 编辑
摘要: 什么叫重构? 百度百科上说:重构就是通过调整程序代码改善软件的质量、性能,使其程序的设计模式和架构更趋合理,提高软件的扩展性和维护性。 改代码是行为,质量性能的提高是愿望。 实际上改代码未必能使软件变得更好,也可能软件大规模改动之后,反而变得更差了 故重构的也的将就方法和技巧 1.不懂重构,为了重构 阅读全文
posted @ 2016-07-18 17:29 dy9776 阅读(395) 评论(0) 推荐(0) 编辑
摘要: hadoop的hdfs文件系统中,默认的是utf-8, 故你上传的文件是要设置成utf-8。当输入的是gbk,有该如何? 输入是GBK文件, 输出也是 GBK 文件的示例代码: Hadoop处理GBK文本时,发现输出出现了乱码,原来HADOOP在涉及编码时都是写死的UTF-8,如果文件编码格式是其它 阅读全文
posted @ 2016-07-18 16:14 dy9776 阅读(2155) 评论(0) 推荐(0) 编辑
摘要: 环境:win7 eclipse hadoop 1.1.2 当执行创建文件的的时候, 即: String Path = "hdfs://host2:9000"; FileSystem fileSystem = FileSystem.get(new URI(Path),new Configuration 阅读全文
posted @ 2016-07-17 22:40 dy9776 阅读(3296) 评论(0) 推荐(0) 编辑
摘要: redhat6.2 x32 在终端中输入:vi /etc/sysconfig/network-scripts/ifcfg-eth0 开始编辑,填写ip地址、子网掩码、网关、DNS等。其中“红框内的信息”是必须得有的 我的其中一台虚拟机host8为: 编辑完后,保存退出。(:wq) 重启网络服务。se 阅读全文
posted @ 2016-07-17 10:17 dy9776 阅读(493) 评论(0) 推荐(0) 编辑
摘要: 他说: 在校大学生应该做好这四件事情: 1. 一定要学到很必要的知识 2.要学会交的很好的朋友 3.若有可能的话,体验一下爱情 4.要为未来就业做好准备 我们要走向一个成熟的个人时代, 未来我们还有走过未来的80年需要我们走过, 而生命的走的多精彩,是没有时间的限制的 只要我们坚韧不拔的奋斗,只要我 阅读全文
posted @ 2016-07-16 21:47 dy9776 阅读(332) 评论(0) 推荐(0) 编辑
上一页 1 ··· 19 20 21 22 23 24 25 26 27 ··· 40 下一页