Hadoop2.2.0 hive0.12 hbase0.94 配置问题记录
环境：centos6.2 Hadoop2.2.0 hive0.12 hbase0.94
1>hadoop配好之后，跑任务老失败，yarn失败，报out of memory错误，然后怎么调整内存大小都不行，后来发现是can’t create new thread。
解决：在vi /etc/security/limits.conf 添加
hadoop - nofile 65535
hadoop - nproc 65535
2>yarn运行错误:mapreduce.shuffle set in yarn.nodemanager.aux-services is invalid
yarn.nodemanager.aux-services.mapreduce_shuffle.class部分的错误
解决：yarn.site.xml参数配置的问题
http://blog.csdn.net/bamuta/article/details/12995139
改成下面的配置就好了：
<property>
<name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
3> hbase0.96和hive0.12整合的问题
一开始用hadoop2.2.0 + hbase 0.96 + hive 0.12 ，基本全部都配好了。只有在hive中查询hbase的表出错。以直报如下错误：
|
1 |
java.io.IOException: <span style="font-size: 15px;">java.lang.ClassCastException:</span> org.apache.hadoop.hbase.client.Result cannot be cast to org.apache.hadoop.io.Writabl |
后来发现hbase0.96和hive0.12不兼容，hive-hbase-handle-0.12.0.jar不兼容hbase0.96，hive0.12还停留在hadoop1。于是乎采用hbase0.94测试。
鉴于hbase0.94不兼容hadoop2，大豪哥在网上找到一篇文章http://yanbohappy.sinaapp.com/?p=192
在文中讲到用mvn clean package assembly:assembly -DskipTests -Dhadoop.profile=2.0 重编hbase-0.94.2.tar.gz，
1，将hbase-0.94.0.jar复制到每台hadoop的/hadoop_home/share/hadoop/common/lib/下重启hadoop，
2，将hbase-0.94.0.jar拷贝到hive/lib下，hbase-site.xml拷贝到hive/conf/下
3，将hive-hbase-handle-0.12.0.jar拷贝到hbase/lib下。
至于hbase整合hive的其他配置和hadoop1的时候一样。
http://www.open-open.com/lib/view/open1328413245124.html
4>hadoop0.20.2 搬迁到hadoop2.2.0
将老集群的所有ip，服务器名映射到新集群的/etc/hosts 中
让后用
./Hadoop distcp hftp://irt2:50070/user/hive/warehouse/webdata/ hdfs://irsadmin60:9000/user/hive/warehouse/webdata/
如果失败使用更新：./hadoop distcp –update hftp://irt2:50070/user/hive/warehouse/webdata/ hdfs://irsadmin60:9000/user/hive/warehouse/webdata/
5>最近导数据有时候少数据，查hadoop任务发现，map有failed，报如下错误：
Container launch failed for container_1385017085286_4943_01_000053 : org.apache.hadoop.yarn.exceptions.YarnException: Unauthorized request to start container.<br> This token is expired. current time is 1386900106527 found 138689999122
datanode与namenode之间未设置时间同步，所以引起该异常。
解决方案：多个datanode与namenode进行时间同步。
时间同步：
在每台服务器的 /etc/crontab 中加入一行：
00 5 * * * root ntpdate cn.pool.ntp.org && hwclock -w
