Richier

摘要： 使用sqoop进行将Hive词频统计的结果数据传输到Mysql中。 1.mysql准备接受数据的数据库与表 2.hive准备待传输的数据 3.sqoop进行数据传输 4.mysql查看传输结果 阅读全文

摘要： 一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop，启动hive 3.创建数据库，创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计 1.准备电子书或其它大的文本 阅读全文

摘要： 使用HBase Shell命令 或 使用HBase Java API完成： 1.任务： 列出HBase所以的表的相关信息，例如表名； 在终端打印出指定的表的所有记录数据 向已经创建好的表添加和删除指定的列族或列 清空指定的表的所有记录数据 统计表的行数 2.关系型数据库中的表和数据（教材P92上）， 阅读全文

摘要： 必做 1.词频统计 下载喜欢的电子书或大量文本数据，并保存在本地文本文件中 编写map与reduce函数 本地测试map与reduce 将文本数据上传至HDFS上 用hadoop streaming提交任务 查看运行结果 计算结果取回到本地 加分 2.气象数据分析 批量下载气象数据 解压数据集，并保 阅读全文

摘要： 1.本地文件系统创建一个文件，输入带姓名学号信息。 2.查看新建文件所在目录 3.查看新建文件内容 4.将此文件上传到HDFS文件系统上的用户目录 5.HDFS上查看相应目录 6.HDFS上查看文件内容 7.HDFS上查看文件大小 8.删除本地1步骤创建的文件 9.将HDFS上的文件下载到本地 10 阅读全文

摘要： 1.用自己的图，描述HDFS体系结构、工作原理与流程。 图1 体系结构 图2 工作原理 图3 读流程 图4 写流程 2.伪分布式安装Hadoop （1）创建hadoop用户 （2）更新apt （3）安装SSH ，配置无密码SSH登录 （4）安装JAVA环境 （5）安装 Hadoop 2.7.1 （6 阅读全文

摘要： 1. 熟悉 Linux系统的使用 （1）上面完成了Linux系统的安装以后，如果读者是初次使用Linux系统，请熟悉一下Linux常用命令。 （2）如果在上面步骤中，读者采用了虚拟机的方式安装了Linux系统，可以学习一下如何在Windows和Linux之间互相传输文件。 （3）在Linux系统中， 阅读全文

摘要： 1.了解对比Hadoop不同版本的特性，可以用图表的形式呈现。 Apache Hadoop：Apache Hadoop是一款支持数据密集型分布式应用并以Apache 2.0许可协议发布的开源软件框架。它支持在商品硬件构建的大型集群上运行的应用程序。Hadoop是根据Google公司发表的MapRed 阅读全文

摘要： 1.了解微信、微博、小视频每天产生的数据量与数据类型。 微信：从2018微信数据报告中可知，微信消息日发送次数达到450亿，日成功通话次数达到4.1亿。 微博：从2018微博台网数据白皮书可知，新浪微博日发博量653万，阅读量913亿，视频博文量72万，播放量96亿。 小视频：从2018快手内容报告 阅读全文