摘要: 1, hive简介 hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduc 阅读全文
posted @ 2017-08-12 22:51 bronk 阅读(434) 评论(0) 推荐(0) 编辑
摘要: 1, tf-idf 计算每个人的词条中的重要度 需要3个mapreduce 的 job执行, 第一个计算 TF 和 n, 第二个计算 DF, 第三个代入公式计算结果值 1, 第一个job reduce partition mainJob 2, 第二个 reduce mainjob 3, 第三个Job 阅读全文
posted @ 2017-08-12 17:19 bronk 阅读(463) 评论(0) 推荐(0) 编辑