摘要:
1)在虚拟机上安装了Ubuntu桌面版作为DataNode,由于物理机内存的限制只是分了1G的内存给虚拟机,使用bin/start-all.sh启动了hadoop之后,Slave的资源使用情况如下图所示:总共986M的内存就被用掉了574M,这还没有开始运行MR程序呢。2)解决办法:通过设置,使Ub... 阅读全文
摘要:
1)core-site.xml fs.default.name hdfs://Master:9000 Hadoop.tmp.dir/home/hadoop/HadoopData/tmp hadoop.tmp.dir是hadoop文件系统依赖的基础配置,很多路径都依... 阅读全文
摘要:
1)可以完全参考http://www.cnblogs.com/archimedes/p/4539751.html在eclipse下创建MapReduce工程,创建了MR工程,并完成WordCount.java的编写之后,运行WordCount.java,结果可能如图所示,原因是未设置MR读取文件的路... 阅读全文
摘要:
fs命令: 输入“hadoop fs”将输出能够支持的命令列表。常用命令如下所示: 1)使用bin/hadoop fs -ls / 查看hdfs根目录下的文件。 2)使用bin/hadoop fs -mkdir (-p子目录同父目录一起创建) 在hdfs中创建目录,有时候存在创建不成功的情况,原因之 阅读全文
摘要:
1、eclipse下载http://www.eclipse.org/downloads/packages/eclipse-ide-java-ee-developers/lunasr12、hadoop 1.2.1源码中并没有编译好的eclipse插件,需要编译/hadoop/contrib\eclip... 阅读全文
摘要:
1、bin/hadoop fs -ls /查看hdfs根目录下的文件2、bin/hadoop fs -ls /user查看user下文件/就是根目录的意思。 阅读全文
摘要:
linux中删除文件和目录的命令:rm命令。rm是常用的命令,该命令的功能为删除一个目录中的一个或多个文件或目录,它也可以将某个目录及其下的所有文件及子目录均删除。对于链接文件,只是删除了链接,原有文件均保持不变。rm是一个危险的命令,使用的时候要特别当心,尤其对于新手,否则整个系统就会毁在这个命令... 阅读全文
摘要:
1、命令:cd作用:进入用户主目录同样的,使用 cd ~也可以进入用户主目录命令:cd /作用:进入系统根目录(注意与用户主目录对比)命令:cd -作用:返回进入此目录之间进入的目录命令 cd /usr/local/hadoop作用:进入指定目录/usr/local/hadoop另:pwd用与查看当... 阅读全文
摘要:
删除文件夹实例:rm -rf /var/log/httpd/access将会删除/var/log/httpd/access目录以及其下所有文件、文件夹2删除文件使用实例:rm -f /var/log/httpd/access.log将会强制删除/var/log/httpd/access.log这个文... 阅读全文
摘要:
Linux中有个文件所有者和群组的概念,就是对文件的权限问题,这里的文件所有者就是用户(登陆的用户)。将文件(目录)拷贝到另外一个目录(或者主机)时,需要让用户拥有此文件(目录)的权限,权限的获得通过执行chown命令来获得。1.命令格式: chown[选项]...[所有者][:[组]]文件.... 阅读全文