hadoop mapreduce 自动执行

用crontab每天定时执行mapreduce,结果发现hadoop作业一起无法正常运行,脚本正常执行,如下:

# vi /etc/crontab

30 6  * * * hadoop sh /home/hadoop/test.sh

test.sh 内容如下:

hadoop fs -rmr output1
hadoop jar /home/hadoop/contrib/streaming/hadoop-streaming-0.20.2+737.jar \
     -mapper /home/hadoop/map -reducer /home/hadoop/reduce \
     -file /home/hadoop/map -file /home/hadoop/reduce \
     -input test/*.txt -output output1

查问题方法:

30 6  * * * hadoop sh /home/hadoop/test.sh > /tmp/mapred.log 2>&1

根据mapred.log信息,发现是由于hadoop找不到引起,PATH中已经加入了/home/hadoop/bin.但好像没生效. 直接在sh中指定全路径解决该问题.

posted @ 2011-05-09 19:13  Mini.J  阅读(481)  评论(0编辑  收藏  举报