摘要: Apache Hadoop 官网 Hadoop源码分析 参考1 参考2 Hadoop 是一个由 Apache 基金会所开发的分布式系统基础架构。 Hadoop 的框架最核心的设计就是:HDFS(Hadoop Distributed File System) 和 MapReduce。HDFS 为海量的 阅读全文
posted @ 2018-01-17 17:29 秦时明月0515 阅读(273) 评论(0) 推荐(0) 编辑
摘要: 参考 FileInputFormat类中split切分算法和host选择算法介绍 以及 Hadoop2.6.0的FileInputFormat的任务切分原理分析(即如何控制FileInputFormat的map任务数量) 以及 Hadoop中FileInputFormat计算InputSplit的g 阅读全文
posted @ 2018-01-15 15:29 秦时明月0515 阅读(293) 评论(0) 推荐(0) 编辑
摘要: 参考 http://blog.csdn.net/caodaoxi/article/details/12970993 Hadoop中Yarnrunner里面submit Job以及AM生成 至Job处理过程源码解析 (上) Hadoop中Yarnrunner里面submit Job以及AM生成 至Jo 阅读全文
posted @ 2017-10-31 09:38 秦时明月0515 阅读(463) 评论(0) 推荐(0) 编辑
摘要: Ubuntu系统多屏显示参见: 第一个为笔记本屏幕,第二个为外接屏幕 http://www.linuxidc.com/Linux/2014-06/103677.htm http://www.linuxidc.com/Linux/2014-06/103677p2.htm 笔记本合上之后,外接显示器还能 阅读全文
posted @ 2017-09-01 18:01 秦时明月0515 阅读(2247) 评论(0) 推荐(0) 编辑
摘要: Gedit的配置: 参见 http://www.cnblogs.com/csulennon/p/4198054.html Gedit插件安装 Gedit快捷键 参见我的博客 添加快捷键 Ctrl + Alt + G 启动gedit ubuntu 下gedit默认编码为UTF-8,而在windows下 阅读全文
posted @ 2017-08-30 17:14 秦时明月0515 阅读(428) 评论(0) 推荐(0) 编辑
摘要: 参考 http://jingyan.baidu.com/article/1e5468f97f9e75484861b773.html 我的系统是 64bit Ubuntu14.04 我设置了 gedit 的快捷键:System settings.. --> Keyboard --> Shortcuts 阅读全文
posted @ 2017-08-30 17:08 秦时明月0515 阅读(369) 评论(0) 推荐(0) 编辑
摘要: 默认当输入 . 时会弹出提示补全, 如何设置 eclipse 代码自动补全,参考 http://jingyan.baidu.com/article/d45ad148b214a969552b8001.html 1.Word Completion 与 Content Assist 的区别 eclispe 阅读全文
posted @ 2017-08-25 17:27 秦时明月0515 阅读(374) 评论(0) 推荐(1) 编辑
摘要: 2017-08-24 这样我们就可以通过Eclipse查看.class文件的源码了。 1.参考别人的博客,亲测有效 https://www.cnblogs.com/JealousGirl/p/setup_Decompiler.html 2.以下不一定有效 有以下两种安装方法: 1.在线安装 1)在e 阅读全文
posted @ 2017-08-24 11:02 秦时明月0515 阅读(981) 评论(0) 推荐(0) 编辑
摘要: 环境是 64bit Ubuntu 14.04 系统, jdk 1.7 以及 Eclipse Mars (4.5) 这里介绍两种调试 Hadoop 源代码的方法: 利用 Eclipse 远程调试工具和打印调试日志. 这两种方法均可以调试伪分布式工作模式和完全分布式工作模式下的 Hadoop. 最后介绍 阅读全文
posted @ 2017-07-04 11:26 秦时明月0515 阅读(2676) 评论(0) 推荐(0) 编辑
摘要: 以 hadoop 2.7.3 为例 bin 目录下是最基础的集群管理脚本, 用户可通过该脚本完成各种功能, 如 HDFS 管理, MapReduce 作业管理等. 作为入门, 先介绍bin 目录下的 hadoop 脚本的使用方法, 如下所示: 参考 官网的 Hadoop 命令参考 hadoop 对应 阅读全文
posted @ 2017-07-03 22:01 秦时明月0515 阅读(708) 评论(0) 推荐(0) 编辑