随笔分类 -  Hadoop基本学习

摘要:前言 上一篇我们讲解了Hadoop单节点的安装,并且已经通过VMware安装了一台CentOS 6.8的Linux系统,咱们本篇的目标就是要配置一个真正的完全分布式的Hadoop集群,闲言少叙,进入本篇的正题。 技术准备 VMware虚拟机、CentOS 6.8 64 bit 安装流程 我们先来回顾 阅读全文
posted @ 2017-12-20 19:07 朝阳的向日葵 阅读(391) 评论(0) 推荐(0) 编辑
摘要:26 集群使用初步 HDFS的设计思路 l 设计思想 分而治之:将大文件、大批量文件,分布式存放在大量服务器上,以便于采取分而治之的方式对海量数据进行运算分析; l 在大数据系统中作用: 为各类分布式运算框架(如:mapreduce,spark,tez,……)提供数据存储服务 l 重点概念:文件切块 阅读全文
posted @ 2017-12-20 19:04 朝阳的向日葵 阅读(463) 评论(0) 推荐(0) 编辑
摘要:首先运行bin/start-all.sh发现namenode没有启动 只有它们 9428 DataNode 9712 JobTracker 9626 SecondaryNameNode 9983 Jps 9915 TaskTracker 遇到问题要学会翻看日志 cd /usr/local/hadoo 阅读全文
posted @ 2017-12-20 18:59 朝阳的向日葵 阅读(2348) 评论(0) 推荐(0) 编辑
摘要:端口 用途 9000 fs.defaultFS,如:hdfs://172.25.40.171:9000 9001 dfs.namenode.rpc-address,DataNode会连接这个端口 50070 dfs.namenode.http-address 50470 dfs.namenode.h 阅读全文
posted @ 2017-12-20 18:57 朝阳的向日葵 阅读(17422) 评论(0) 推荐(2) 编辑
摘要:Hadoop on Ubuntu 14.04 In this chapter, we'll install a single-node Hadoop cluster backed by the Hadoop Distributed File System on Ubuntu. Installing 阅读全文
posted @ 2017-12-19 16:56 朝阳的向日葵 阅读(238) 评论(0) 推荐(0) 编辑
摘要:如有不对,欢迎大家指正 阅读全文
posted @ 2017-12-19 12:00 朝阳的向日葵 阅读(629) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示