hadoop mapreduce 自动执行
用crontab每天定时执行mapreduce,结果发现hadoop作业一起无法正常运行,脚本正常执行,如下:
# vi /etc/crontab
30 6 * * * hadoop sh /home/hadoop/test.sh
test.sh 内容如下:
hadoop fs -rmr output1hadoop jar /home/hadoop/contrib/streaming/hadoop-streaming-0.20.2+737.jar \-mapper /home/hadoop/map -reducer /home/hadoop/reduce \-file /home/hadoop/map -file /home/hadoop/reduce \-input test/*.txt -output output1
查问题方法:
30 6 * * * hadoop sh /home/hadoop/test.sh > /tmp/mapred.log 2>&1
根据mapred.log信息,发现是由于hadoop找不到引起,PATH中已经加入了/home/hadoop/bin.但好像没生效. 直接在sh中指定全路径解决该问题.