python操作hdfs总结

1、java通过hdfs远程连接hdfs,不需要在客户端机配置ip映射。
2、python利用hdfs库通过webhdfs操作hdfs,必须在客户端机配置ip映射
3、阿里云配置hadoop,/etc/hosts要设置内网ip,namenode才能正常运行。但是java、python通过外网ip访问hdfs时,总提示连不上。后面我在虚拟机配置hadoop,用java、python连接一切正常。所以如果使用阿里云配置hadoop,远程连接hadoop的程序应该运行在同一个服务器,或者另外的阿里内网服务器,然后通过内网连接
详细见:https://blog.csdn.net/fuck487/article/details/80859581
 
hdfs命令详解:https://blog.csdn.net/love666666shen/article/details/78261335
posted @   奈何技术不达标  阅读(1263)  评论(0编辑  收藏  举报
编辑推荐:
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 如何调用 DeepSeek 的自然语言处理 API 接口并集成到在线客服系统
· 【译】Visual Studio 中新的强大生产力特性
· 2025年我用 Compose 写了一个 Todo App
点击右上角即可分享
微信分享提示