会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Chris,Cai
博客园
首页
新随笔
联系
管理
订阅
上一页
1
···
16
17
18
19
20
21
22
23
24
···
28
下一页
2019年4月28日
Hadoop Mapreduce 调优
摘要:
阅读全文
posted @ 2019-04-28 12:48 Chris,Cai
阅读(140)
评论(0)
推荐(0)
编辑
第一章 函数
摘要: 一 函数概念 二 函数的特性 奇函数关于原点对称 偶函数关于轴对称 三 函数的类型 四 指数函数 指数函数运算法则 : ① ② ③ ④ 与 的图像关于y轴对称 五 对数函数 注意:负数和0没有对数。 两句经典话:底真同对数正,底真异对数负。解释如下: 也就是说:若y=logab (其中a>0,a≠1
阅读全文
posted @ 2019-04-28 11:03 Chris,Cai
阅读(380)
评论(0)
推荐(0)
编辑
2019年4月26日
Hadoop Mapreduce中shuffle 详解
摘要: MapReduce 里面的shuffle:描述者数据从map task 输出到reduce task 输入的这段过程 Shuffle 过程: 首先,map 输出的<key,value > 会放在内存中,内存有一定的大小,超过之后,会将内存里的东西溢写(spill) 到磁盘(disk)中 。在从内存溢
阅读全文
posted @ 2019-04-26 11:40 Chris,Cai
阅读(390)
评论(0)
推荐(0)
编辑
2019年4月25日
Hadoop Mapreduce中wordcount 过程解析
摘要: 将文件split 文件1: 分割结果: hello world <0, "hello world"> this is wordcount <12,"this is wordcount"> 文件2: hello china <0,"hello china"> hello IT <12,"hello I
阅读全文
posted @ 2019-04-25 11:17 Chris,Cai
阅读(448)
评论(0)
推荐(0)
编辑
2019年4月23日
Hadoop 安全模式safemode
摘要: 启动Hdfs 系统的时候,其中的一个阶段“”安全模式 发生阶段:NameNode启动中,已经读取了fsimage 并且生成了edits 文件,在等待dataNode 向nameNode 发送block report 的过程中 退出:当datanodes blocks / totoal blocks
阅读全文
posted @ 2019-04-23 15:47 Chris,Cai
阅读(381)
评论(0)
推荐(0)
编辑
Hadoop HDFS 用java API 进行读写
摘要: maven Denpendency
阅读全文
posted @ 2019-04-23 14:02 Chris,Cai
阅读(1952)
评论(0)
推荐(0)
编辑
2019年4月22日
Linux Maven安装
摘要: Maven 官网,下载maven 包 http://maven.apache.org/download.cgi 下载完成:apache-maven-3.6.1-bin.tar.gz 解压到自定义目录:/opt/modules/apache-maven-3.6.1 配置环境变量: 切换到root用户
阅读全文
posted @ 2019-04-22 16:16 Chris,Cai
阅读(222)
评论(0)
推荐(0)
编辑
Hadoop HDFS, YARN ,MAPREDUCE,MAPREDUCE ON YARN
摘要: HDFS 系统架构图 NameNode 是主节点,存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间,副本数,文件权限),以及每个文件的块列表和块所在的DataNode等。NameNode将这些信息加载到内存并进行拼装,就成为了一个完整的元数据信息 NameNode的启动过程: 第一次启动
阅读全文
posted @ 2019-04-22 14:19 Chris,Cai
阅读(396)
评论(0)
推荐(0)
编辑
2019年4月19日
Hadoop 进程配置总结
摘要: HDFS: NameNode: DataNodes: slaves指定的 SecondaryNameNode Yarn ResourceManager NodeManagers slaves指定的运行的主机名 MapReduce: $ sbin/stop-dfs.sh $ sbin/stop-yar
阅读全文
posted @ 2019-04-19 15:47 Chris,Cai
阅读(233)
评论(0)
推荐(0)
编辑
Hadoop 配置文件 & 启动方式
摘要: 配置文件: 默认的配置文件:相对应的jar 中 core-default.xml hdfs-default.xml yarn-default.xml mapred-default.xml 自定义配置文件$HADOOP_HOME/etc/hadoop/ core.site.xml hdfs-site.
阅读全文
posted @ 2019-04-19 13:18 Chris,Cai
阅读(803)
评论(0)
推荐(0)
编辑
上一页
1
···
16
17
18
19
20
21
22
23
24
···
28
下一页
公告