Hadoop 2.4.x集群安装配置问题总结
配置文件:/etc/profile
export JAVA_HOME=/usr/java/latest
export HADOOP_PREFIX=/opt/hadoop-2.4.1
export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"
export PATH=$PATH:$JAVA_HOME:$JAVA_HOME/bin:$HADOOP_PREFIX/bin
启动集群提示:It's highly recommended that you fix the library with 'execstack -c ', or link it with '-z noexecstack'
是由于系统为64位,hadoop官方提供的native lib是32位导致的,如下:
[root@master ~]# file /opt/hadoop-2.4.1/lib/native/libhadoop.so
/opt/hadoop-2.4.1/lib/native/libhadoop.so: ELF 32-bit LSB shared object, Intel 80386, version 1 (SYSV), dynamically linked, not stripped
...
去除提示:
添加环境变量:
export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"
去除警告:
需要下载源代码,重新编译so,可参考http://blog.csdn.net/lalaguozhe/article/details/10580727
DataNode节点无法启动
原因:修改了namenode相关的配置文件,并重新格式化了文件系统。
如果namenode和datanode的关闭顺序不当也有可能会导致datanode无法启动。
解决方案:到datanode的数据目录中,删除current目录即可。
据说看到好文章不推荐的人,服务器容易宕机!
本文版权归翟士丹(Stan Zhai)和博客园共有,原创文章,未经允许不得转载,否则保留追究法律责任的权利。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构