上一页 1 ··· 5 6 7 8 9 10 11 12 13 14 下一页
摘要: Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序接上一篇文章:Hadoop学习全程记录——hadoop 入门 见 http://www.codesky.net/Linux/2012-01/51990.htm这是Hadoop学习全程记录第2篇,在这篇里我将介绍一下如何在Eclipse下写第一个MapReduce程序。新说明一下我的开发环境:操作系统:在windows下使用wubi安装了Ubuntu 10.10Hadoop版本:hadoop-0.20.2.tar.gzEclipse版本:eclipse-jee-helios-SR1-linux-gtk.tar.gz为了 阅读全文
posted @ 2012-11-24 13:19 蜗牛123 阅读(292) 评论(0) 推荐(0) 编辑
摘要: 第一步:修改core-site.xml,配置如下内容:<?xml version="1.0"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!-- Put site-specific property overrides in this file. --><configuration><property><name>fs.default.name</name><value 阅读全文
posted @ 2012-11-24 12:20 蜗牛123 阅读(1486) 评论(0) 推荐(0) 编辑
摘要: 1、列出所有Hadoop Shell支持的命令$ bin/hadoop fs -help2、显示关于某个命令的详细信息$ bin/hadoop fs -help command-name3、用户可使用以下命令在指定路径下查看历史日志汇总$ bin/hadoop job -history output-dir这条命令会显示作业的细节信息,失败和终止的任务细节。4、关于作业的更多细节,比如成功的任务,以及对每个任务的所做的尝试次数等可以用下面的命令查看$ bin/hadoop job -history all output-dir5、 格式化一个新的分布式文件系统:$ bin/hadoop nam 阅读全文
posted @ 2012-11-24 12:03 蜗牛123 阅读(452) 评论(0) 推荐(0) 编辑
摘要: 最近在研究分布式数据,其中用到的就是Hadoop, Hadoop网上的资料不多,特别是运行中运行的问题更是找不到,以下是我运行的一点心得,嘻嘻。如果在map/reduce的程序中用到java 的代码,可以在java的环境下写好,我用的是eclipse。1.进入工程目录找到代码,进bin目录,将用到的包打成 .jar 文件。bin 文件下是 .class文件,一定要是bin,不是src文件中的 .java 文件。在ubuntu的打.jar 的命令是 jar -cvfjarname.jar ./*2.将打好的 .jar文件复制到 Hadoop的目录下。3.切换到Hadoop目录下,编译含map/r 阅读全文
posted @ 2012-11-24 11:41 蜗牛123 阅读(1945) 评论(0) 推荐(0) 编辑
摘要: puttycyg是一个登陆cygwin的简单易用的工具,但是,往往使用puttycyg登陆cygwin后默认的用户是window的系统用户。如果在cygwin的home目录下模仿linux环境新建一个用户主目录,然后使用puttycyg登陆后默认指向此用户目录则没那么容易了,需要做一些修改。 首先,需要安装cygwin和PuTTYcyg,在这里就不用介绍了。然后,进入cygwin的安装目录下的etc文件夹,找到一个profile文件,找到这段注释内容: # Here is how HOME is set, in order of priority, when starting from Win 阅读全文
posted @ 2012-11-23 18:12 蜗牛123 阅读(259) 评论(0) 推荐(0) 编辑
上一页 1 ··· 5 6 7 8 9 10 11 12 13 14 下一页