摘要： 使用sqoop进行将Hive 词频统计的结果数据传输到Mysql中。 1.mysql准备接受数据的数据库与表 2.hive准备待传输的数据 3.sqoop进行数据传输 4.mysql查看传输结果 5.电子书 阅读全文

摘要： 1.准备本地txt文件 2.启动hadoop，启动hive start-all.sh hive 3.创建数据库，创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中 二、hive用HDFS上的文件进行词频统计 1.准备电子书或其它大的文本文件 2.将文本文件 阅读全文

摘要： Hbase操作与编程使用 使用HBase Shell命令 或 使用HBase Java API完成： 1.任务： (1)列出HBase所有的表的相关信息，例如表名； (2)在终端打印出指定的表的所有记录数据； (3)向已经创建好的表添加和删除指定的列族或列； (4)清空指定的表的所有记录数据； (5 阅读全文

摘要： 1、下载喜欢的电子书或大量文本数据，并保存在本地文本文件中 2、编写map与reduce函数 3、本地测试map与reduce 4、将文本数据上传至HDFS上 5、用hadoop streaming提交任务 6、查看运行结果 7、计算结果取回到本地 阅读全文

摘要： 1.本地文件系统创建一个文件，输入带姓名学号信息 2、查看新建文件所在目录 3.查看新建文件内容4.将此文件上传到HDFS文件系统上的用户目录 5.HDFS上查看相应目录 6.HDFS上查看文件内容 7.HDFS上查看文件大小 8.删除本地1步骤创建的文件 9.将HDFS上的文件下载到本地 10.查 阅读全文

摘要： 阅读全文

摘要： 一.了解对比Hadoop不同版本的特性，可以用图表的形式呈现。 1、DKhadoop发行版：有效的集成了整个HADOOP生态系统的全部组件，并深度优化，重新编译为一个完整的更高性能的大数据通用计算平台，实现了各部件的有机协调。因此DKH相比开源的大数据平台，在计算性能上有了高达5倍(最大)的性能提升 阅读全文

摘要： 了解微信、微博、小视频每天产生的数据量与数据类型： 用户量：截止2020年1月，以国内移动互联网DAU计（不去重），腾讯系坐拥18.4亿用户，阿里系7.7亿用户，百度系5.9亿用户，头条系5.1亿用户，快手系2.3亿用户。 时长：截止2020年1月，以用户移动互联网月使用时长计，腾讯系676亿小时， 阅读全文