Hadoop 配置的优先级
从低到高
1.默认配置
默认文件 | 文件存放在Hadoop的jar包中的位置 |
---|---|
core-default.xml | hadoop-common-3.3.6.jar/core-default.xml |
hdfs-default.xml | hadoop-hdfs-3.3.6.jar/hdfs-default.xml |
yarn-default.xml | hadoop-yarn-common-3.3.6.jar/yarn-default.xml |
mapred-default.xml | hadoop-mapreduce-client-core-3.3.6.jar/mapred-default.xml |
2.自定义配置文件
core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置存放在$HADOOP_HOME/etc/hadoop这个路径上,用户可以根据项目需求重新进行修改配置。
3.调用API程序的资源目录下的配置文件
core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置存放在项目的src/main/resources/ 路径下
4.调用API程序的配置类
package cn.coreqi.hdfs;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.After;
import org.junit.Before;
import org.junit.Test;
import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;
/**
* 客户端代码步骤
* 1.首先获取一个客户端对象
* 2.执行相关的操作命令
* 3.关闭资源
*/
public class HdfsClient {
/**
* 客户端对象
*/
private FileSystem fs;
/**
* 初始化客户端对象
* @throws IOException
* @throws InterruptedException
* @throws URISyntaxException
*/
@Before
public void init() throws IOException, InterruptedException, URISyntaxException {
// 需要连接的Hadoop NameNode地址
URI uri = new URI("hdfs://192.168.58.130:8020");
// 创建一个配置文件
Configuration configuration = new Configuration();
configuration.set("dfs.replication","7"); //设置默认副本数量为7
// 用户
String user = "root";
// 获取客户端对象
fs = FileSystem.get(uri, configuration,user);
}
/**
* 释放客户端资源
* @throws IOException
*/
@After
public void close() throws IOException {
// 关闭资源
fs.close();
}
/**
* 创建目录
* @throws IOException
*/
@Test
public void testMkdirs() throws IOException{
// 创建一个文件夹
fs.mkdirs(new Path("/coreqi"));
}
@Test
public void testPut() throws IOException {
// 参数解析
// 参数一,表示是否删除源数据
// 参数二,是否允许覆盖
// 参数三,源数据路径
// 参数四,目标路径
//fs.copyFromLocalFile(false,false,new Path("C:\\Users\\fanqi\\Desktop\\bda6f29e-29de-4b9d-aa01-8c0fa850f99b.webp"),new Path("\\coreqi\\1.webp"));
fs.copyFromLocalFile(false,false,new Path("C:\\Users\\fanqi\\Desktop\\bda6f29e-29de-4b9d-aa01-8c0fa850f99b.webp"),new Path("hdfs://192.168.58.130/coreqi/2.webp"));
}
}
作者:奇
出处:https://www.cnblogs.com/fanqisoft/p/17894162.html
版权:本作品采用「本文版权归作者和博客园共有,欢迎转载,但必须给出原文链接,并保留此段声明,否则保留追究法律责任的权利。」许可协议进行许可。
如果文章内容对您有所帮助,欢迎赞赏.
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 展开说说关于C#中ORM框架的用法!
2019-12-11 React项目使用Redux
2019-12-11 React项目使用React-Router
2019-12-11 初始化一个React项目(TypeScript环境)