摘要:
现在我们把文件都存在HDFS文件系统之上,现在有一个jdk.zip文件存储在上面,我们想知道这个文件在哪些节点之上?切成了几个块?每个块的大小是怎么样?先上测试类代码: 我们使用fileSystem的getFileStatus方法获得文件的状态信息,然后使用fileSystem下的getFileBl 阅读全文
摘要:
现在我们把文件都存在HDFS文件系统之上,现在有一个jdk.zip文件存储在上面,我们想知道这个文件在哪些节点之上?切成了几个块?每个块的大小是怎么样?先上测试类代码: 我们使用fileSystem的getFileStatus方法获得文件的状态信息,然后使用fileSystem下的getFileBl 阅读全文
摘要:
使用hadoop命令:hadoop fs -ls /hdfsapi/test 我们能够查看HDFS文件系统/hdfsapi/test目录下的所有文件信息 那么使用代码怎么写呢?直接先上代码:(这之后贴上去的代码怎么就全灰色了?....) 首先我们找到fileSystem的listStatus方法,这 阅读全文
摘要:
接着之前继续API操作的学习 CopyFromLocalFile: 顾名思义,从本地文件拷贝 方法怎么用?还是那句 哪里不会Ctrl点哪里。 点进CopyFromLocalFile方法源码得知方法需要两个参数:本地文件的Path,和目标文件的Path,无返回值。 我们运行该测试类后进入终端使用-ls 阅读全文
摘要:
上一节我们使用Java API操作HDFS文件系统创建了文件a.txt并写入了hello hadoop(回顾:https://www.cnblogs.com/Liuyt-61/p/10739018.html) 我们在终端控制台上使用hadoop fs -ls /hdfsapi/test查看a.txt 阅读全文
摘要:
首先,重点重复重复再重复: /** * 使用Java API操作HDFS文件系统 * 关键点: * 1)创建 Configuration * 2)获取 FileSystem * 3)...剩下的就是 HDFS API的操作了*/ 回顾:https://www.cnblogs.com/Liuyt-61 阅读全文
摘要:
首先:什么是jUnit 回顾: https://www.cnblogs.com/Liuyt-61/p/10374732.html 上一节我们知道: /** * 使用Java API操作HDFS文件系统 * 关键点: * 1)创建 Configuration * 2)获取 FileSystem * 3 阅读全文
摘要:
/** * 使用Java API操作HDFS文件系统 * 关键点: * 1)创建 Configuration * 2)获取 FileSystem * 3)...剩下的就是 HDFS API的操作了*/ 先上代码 对于方法的源码是我们在学习的时候必须的,我们可以按住Ctrl然后点击对应的方法类名进去进 阅读全文
摘要:
一、下载 首先需要将本地下载好的jdk包拷贝到Linux中:scp jdk-8u91-linux-x64.tar.gz hadoop@192.168.***.***:~/software/ //星号处地址是你虚拟机中的CentOS配置的IP地址,后面的~/software/ 是所要拷贝到的目录地址 阅读全文
摘要:
对于是使用windows操作系统的小伙伴来说(mac用户忽略),要学习一些技术可能需要使用Linux系统,自然就需要使用虚拟机安装Linux,当然现在很多主流的学习网站上的教程都会提供老师配置好的虚拟机环境镜像。但是还会有很多同学在使用的时候按照教程的配置却依旧出现虚拟机的网络问题。 【亲测解决】 阅读全文
摘要:
题: 一个人走了很多年,发现自己走到一个很长的,年久失修的楼梯面前。年久失修的意思就是,有k个台阶坏了,没法走。楼梯一共有n层,你一次能上一阶、两阶或三阶台阶,请问,你从楼梯底部(0开始)走到楼梯顶部,共有多少种走法。 输入格式 输入数据共两行,第一行包含两个自然数n(1 ≤ n ≤ 100)和 k 阅读全文
|