10 2016 档案

摘要:目的: 学习用java进行的常用hdfs操作 参考: [b0002] Hadoop HDFS cmd常用命令练手 环境: hadoop2.6.4 win7 下的eclipse环境调试已经配置好,参考前面的文章 代码: 1. 创建文件夹 以流的方式下载文件 1 package hdfs; 2 3 im 阅读全文
posted @ 2016-10-25 18:21 sunzebo 阅读(1134) 评论(0) 推荐(0) 编辑
摘要:目的: 不用任何IDE,直接在linux 下输入代码、调试执行 环境: Linux Ubuntu Hadoop 2.6.4 相关: [b0012] Hadoop 版hello word mapreduce wordcount 运行(二) 最佳: 简单方式: 在当前目录创建类文件,添加后面的内容,但是 阅读全文
posted @ 2016-10-25 17:02 sunzebo 阅读(260) 评论(0) 推荐(0) 编辑
摘要:目的: 学习Hadoop mapreduce 开发环境eclipse windows下的搭建 环境: Winows 7 64 eclipse 直接连接hadoop运行的环境已经搭建好,结果输出到eclipse Hadoop2.6.4环境 相关: [0004] Hadoop 版hello word m 阅读全文
posted @ 2016-10-25 11:41 sunzebo 阅读(303) 评论(0) 推荐(0) 编辑
摘要:目的: 学习windows 开发hadoop程序的配置。 [b0007] windows 下 eclipse 开发 hdfs程序样例 太麻烦 [b0010] windows 下 eclipse 开发 hdfs程序样例 (二) 输出日志变化,而且配置似乎很麻烦。 环境: windows 7 64下 e 阅读全文
posted @ 2016-10-25 11:21 sunzebo 阅读(425) 评论(0) 推荐(0) 编辑
摘要:目的: 学习windows 开发hadoop程序的配置 相关: [b0007] windows 下 eclipse 开发 hdfs程序样例 环境: 基于以下环境配置好后。 [b0008] Windows 7 下 hadoop 2.6.4 eclipse 本地开发调试配置 1. 新建HDFS下载文件类 阅读全文
posted @ 2016-10-25 00:42 sunzebo 阅读(526) 评论(0) 推荐(0) 编辑
摘要:1. Error: java.lang.RuntimeException: java.lang.ClassNotFoundException: Class mp.filetest.WordCount2Mapnotfoundhadoop@ssmaster: /javaprogram had 阅读全文
posted @ 2016-10-24 23:33 sunzebo 阅读(3937) 评论(0) 推荐(0) 编辑
摘要:目的: 基于上篇的方法介绍,开发很不方便 。[0007] windows 下 eclipse 开发 hdfs程序样例 装上插件,方便后续直接在windows下的IDE开发调试。 环境: Linux Hadoop 2.6.4,参考文章 [0001] Win 7 64 下的 Eclipse Versio 阅读全文
posted @ 2016-10-24 00:26 sunzebo 阅读(3205) 评论(0) 推荐(0) 编辑
摘要:目的: 学习使用hdfs 的java命令操作 相关: 进化: [b0010] windows 下 eclipse 开发 hdfs程序样例 (二) [b0011] windows 下 eclipse 开发 hdfs程序样例 (三) 环境: hadoop2.6.4 伪分布式 win7 + eclipse 阅读全文
posted @ 2016-10-23 22:14 sunzebo 阅读(913) 评论(0) 推荐(0) 编辑
摘要:基于前面的伪分布式Hadoop2.6.4上搭建最新的Spark 阅读全文
posted @ 2016-10-23 19:56 sunzebo 阅读(498) 评论(0) 推荐(0) 编辑
摘要:1 Ubuntu 解压 联网安装程序包 阅读全文
posted @ 2016-10-23 17:28 sunzebo 阅读(152) 评论(0) 推荐(0) 编辑
摘要:目的: 初步感受一下hadoop mapreduce 环境: hadoop 2.6.4 1 准备输入文件 注意:输出目录/output 不用提前创建,程序会自动做这一步 2 执行 6/10/23 00:51:38 INFO mapreduce.Job: map 0% reduce 0%16/10/2 阅读全文
posted @ 2016-10-23 16:00 sunzebo 阅读(391) 评论(0) 推荐(0) 编辑
摘要:3. Spark 搭建 过 1.1 搭建伪分布式2.0.1 ok 2016-10-23 耗时 2h ref [0006] Spark 2.0.1 伪分布式搭建练手 后续: 1.2 分布式搭建 notok 2. HDFS 命令行使用 过 1.1 常用功能使用 ok 2016-10-23 耗时 0.5h 阅读全文
posted @ 2016-10-23 14:10 sunzebo 阅读(161) 评论(0) 推荐(0) 编辑
摘要:目的: 学会HDFS CLI 常用操作 环境: Hadoop 2.6.4 伪分布式版 环境搭建参考本博客前篇文章: 伪分布式 hadoop 2.6.4 帮助: 任务: 1 创建目录 2 Linux 本地准备文件,内容任意英文 There are moments in life when you mi 阅读全文
posted @ 2016-10-23 13:58 sunzebo 阅读(3293) 评论(0) 推荐(0) 编辑
摘要:说明: 任务:搭建Hadoop伪分布式版本。 目的:快速搭建一个学习环境,跳过这一环境,快速进入状态,使用Hadoop一些组件做些任务 没有选择2.7,觉得bug比较多,不稳定。 选择伪分布式简单快速 环境: Win 7 64 8G 内存 ,4核 VM 12,1 虚拟机 3G 内存 ubuntu 4 阅读全文
posted @ 2016-10-23 12:51 sunzebo 阅读(603) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示