摘要:
【2017级面向对象程序设计】第5次成绩排行 作业地址 https://www.cnblogs.com/easteast/p/9104397.html 评分准则 本次团队作业满分 20 分,其中团队介绍博客 10分、系统方案设计博客 10 分。个人作业满分5分。 一、团队介绍 队员姓名、学号、博客地 阅读全文
摘要:
【2017级面向对象程序设计】第1次成绩排行 作业地址 http://www.cnblogs.com/easteast/p/8846446.html 评分准则 本次作业满分 20 分,其中互测分数 15 分、博客&MOOC学习&PTA完成情况 5 分。 总结 相比寒假作业而言,本次作业的难度不在于代 阅读全文
摘要:
一道《编程之美》第一章的无解题引发的“血案” 今天在一堂无聊的课上看《编程之美》,一口气看完了第一章,其中有两个一笔带过的题目,在后面的内容中暂时也没有看到解法,引起了我极大的兴趣23333,太过好玩于是打算写个博客记录一下。 此次博客中提到的两个问题都仅是初读第一章后印象最深的比较好玩的游戏,之后 阅读全文
摘要:
MapReduce实例2(自定义compare、partition)& shuffle机制 实例:统计流量 有一份流量数据,结构是:时间戳、手机号、...、上行流量、下行流量,需求是统计每个用户(手机号)的总上行、总下行以及总流量数值。 [Github地址][1] 分析 由于希望的输出是一个 {手机 阅读全文
摘要:
MapReduce实例&YARN框架 一个wordcount程序 统计一个相当大的数据文件中,每个单词出现的个数。 一、分析map和reduce的工作 map: 1. 切分单词 2. 遍历单词数据输出 reduce: 对从map中得到的数据的valuelist遍历累加,得到一个单词的总次数 二、代码 阅读全文
摘要:
HDFS下载数据机制的底层分析 Hadoop中的RPC(Remote Procedure Call)框架 hadoop中结点间的通信采用的是RPC。 RPC框架的实现机制图解: 从hdfs下载数据的源码分析 在自行在客户端编写download方法的时候,如果不使用封装好的方法,较为底层的写法是: 跟 阅读全文
摘要:
在windows下的hdfs客户端编写 新建一个工程,右键 properties java build path libraries 和之前一样的操作,这次 new 一个 user libiary 把整个 hadoop3.0.0 的jar包全部导入 upload()运行成功,运行download() 阅读全文
摘要:
一次失败的尝试hdfs的java客户端编写(在linux下使用eclipse) 给centOS安装图形界面 GNOME桌面环境 https://blog.csdn.net/wh211212/article/details/52937299 在linux下安装eclipse开发hadoop的配置 fi 阅读全文
摘要:
HDFS Namenode&Datanode HDFS 机制粗略示意图 客户端写入文件流程: NN && DN Namenode(NN)工作机制 NN是整个文件系统的管理节点。维护着整个文件系统的文件目录树,文件/目录的元信息和每个文件对应的数据块列表(管理元数据)。接收用户的操作请求。 fsima 阅读全文
摘要:
Hdfs&MapReduce测试 测试 上传文件到hdfs 随意打开一个文件夹传一个文件试试(把javafx src.zip传到hdfs的/根目录下): 用客户端(windows主机)浏览器打开 http://node01:50070 能看到这文件(当然,先要在windows配置下hosts,加一行 阅读全文