Java程序中不通过hadoop jar的方式访问hdfs
一般情况下，我们使用Java访问hadoop distributed file system(hdfs)使用hadoop的相应api，添加以下的pom.xml依赖（这里以hadoop2.2.0版本为例）：
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.2.0</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-mapreduce-client-core</artifactId>
<version>2.2.0</version>
</dependency>
在其中使用FileSystem就可以访问hdfs：
FileSystem fileSystem = null;
try {
Configuration conf = new Configuration();
fileSystem = FileSystem.get(conf);
BufferedReader bufferedReader = = new BufferedReader(new InputStreamReader(fsInputStream));
但是需要注意的一点就是，只能在配置了hadoop环境的服务器上，通过hadoop jar的方式启动，hadoop jar的方式启动实际上调用的是org.apache.hadoop.util。RunJar作为入口。
RunJar会自动将此环境中的hadoop classpath设置，并初始化hadoop的环境变量等信息。
但是这种方式只能够写一个shell脚本来实现调用，其中使用hadoop jar的方式来调用，但是如果我们想要在比较特殊的环境下启动java进程，譬如在web server下（例如Tomcat）调用获取hdfs的信息，则不能够成功；或比如通过java -jar/-cp的方式来进行调用，得到的FileSystem.get(conf)并不是我们想要的。比如如果在本机执行该方法，就会得到本机磁盘相关文件系统，只有通过hadoop jar的方式调用返回DistributedFileSystem。
FileSystem类中还有一个方法，可以根据相应的URI来得到对应的FileSystem：
/**
* Get a filesystem instance based on the uri, the passed
* configuration and the user
* @param uri of the filesystem
* @param conf the configuration to use
* @param user to perform the get as
* @return the filesystem instance
* @throws IOException
* @throws InterruptedException
*/
public static FileSystem get(final URI uri, final Configuration conf,
final String user) throws IOException, InterruptedException {
从hadoop file system环境中查找对应hadoop defaultFS配置：
<property>
<name>fs.defaultFS</name>
<value>hdfs://ns1</value>
就会曝出以下的错误，提示缺少一个类定义：
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/util/PlatformName at org.apache.hadoop.security.UserGroupInformation.getOSLoginModuleName(UserGroupInformation.java:303) at org.apache.hadoop.security.UserGroupInformation.<clinit>(UserGroupInformation.java:348) at org.apache.hadoop.fs.FileSystem$Cache$Key.<init>(FileSystem.java:2590) at org.apache.hadoop.fs.FileSystem$Cache$Key.<init>(FileSystem.java:2582) at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2448) at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:367) at com.xxxx.HdfsMain.main(HdfsMain.java:21) Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.util.PlatformName at java.net.URLClassLoader$1.run(URLClassLoader.java:366) at java.net.URLClassLoader$1.run(URLClassLoader.java:355) at java.security.AccessController.doPrivileged(Native Method) at java.net.URLClassLoader.findClass(URLClassLoader.java:354) at java.lang.ClassLoader.loadClass(ClassLoader.java:423) at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:308) at java.lang.ClassLoader.loadClass(ClassLoader.java:356) ... 7 more
通过在网上查找的说法，此种情况下需要额外添加hadoop-auth的相关依赖：
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-auth</artifactId>
<version>2.2.0</version>
</dependency>
但是jar包添加进去后仍然不能够奏效，
Exception in thread "main" java.io.IOException: No FileSystem for scheme: hdfs at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2421) at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2428) at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:88) at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2467) at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2449) at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:367)
经过查看源代码，可以看出SERVICE_FILE_SYSTEMS中并没有存在hdfs中scheme：
public static Class<? extends FileSystem> getFileSystemClass(String scheme,
Configuration conf) throws IOException {
if (!FILE_SYSTEMS_LOADED) {
loadFileSystems();
}
Class<? extends FileSystem> clazz = null;
if (conf != null) {
clazz = (Class<? extends FileSystem>) conf.getClass("fs." + scheme + ".impl", null);
}
if (clazz == null) {
clazz = SERVICE_FILE_SYSTEMS.get(scheme);
}
if (clazz == null) {
throw new IOException("No FileSystem for scheme: " + scheme);
}
return clazz;
}
可以手动采用Configuration设置fs.[filesystemname].impl的方式，手动将DistributedFileSystem注册进去：
conf.set("fs.hdfs.impl", DistributedFileSystem.class.getName());
这样启动后发现仍然有坑，因为ns1并不是真实的网络地址，地址配置在hdfs-site.xml文件中，我们的NameNode是两个随时可互相切换的HA服务器：
<property>
<name>dfs.nameservices</name>
<value>ns1</value>
</property>
<property>
<name>dfs.ha.namenodes.ns1</name>
<value>nn1,nn2</value>
</property>
<property>
<name>dfs.namenode.rpc-address.ns1.nn1</name>
<value>xxx1.cn:8020</value>
</property>
<property>
<name>dfs.namenode.rpc-address.ns1.nn2</name>
<value>xxx2.cn:8020</value>
</property>
于是将fileSystem设置成其中的一台服务器，
fileSystem = FileSystem.get(URI.create("hdfs://xxx1.cn:8020"), conf)
这样终于成功了，注意，如果你连接上的是一个standby服务器，是不能够Read成功的！只有连接上active状态的服务器才能成功，那么如何确定哪台服务器当时是active呢，可以通过命令：
hdfs haadmin -getServiceState nn1 standby hdfs haadmin -getServiceState nn2 active
这表示nn2是active NameNode服务器。
那么问题就来了，如果这样的话，当NameNode发生自动切换时，是不能够智能地发生切换操作的，如何避免这个问题？
在Hadoop技术内幕 hadoop common和hdfs架构设计原理与实现一书中，专门有一章节介绍hadoop hdfs configuration的设置。
从其中可以看出整个Configuration的加载过程，如果我们在构造FileSystem的时候，加载服务端中的两个核心文件，比如将代码写成下面这种，是否能够最终成功呢？
String uri = “/file/config";
Configuration conf = new Configuration();
conf.addResource(new Path("/home/xxxx/hadoop/etc/hadoop/core-site.xml"));
conf.addResource(new Path("/home/xxxx/hadoop/etc/hadoop/hdfs-site.xml"));
fileSystem = FileSystem.get(conf);
FileStatus[] fs = fileSystem.listStatus(new Path(uri));
for (FileStatus f : fs) {
System.out.println(f.getPath());
}
答案是可以的，甚至都不需要采用带URI的函数。虽然绕了个大圈回到了原点，解决办法也非常简单，但通过这个过程的分析，可以使得我们可以熟悉整个FileSystem初始化的过程，也算是收获不小吧。
