会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
zyda
博客园
首页
新随笔
联系
管理
订阅
2019年6月10日
大数据应用期末总评——Hadoop综合大作业
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 Hadoop综合大作业 要求: 1.将爬虫大作业产生的csv文件上传到HDFS 此处选取的是爬虫大作业——对猫眼电影上《小偷家族》电影的影评。 此处选取的是comm
阅读全文
posted @ 2019-06-10 18:53 zyda
阅读(3519)
评论(1)
推荐(0)
2019年6月3日
分布式并行计算MapReduce
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3319 1.用自己的话阐明Hadoop平台上HDFS和MapReduce的功能、工作原理和工作过程。 MapReduce的概念: MapReduce是一个软件框架,基于该框
阅读全文
posted @ 2019-06-03 16:09 zyda
阅读(687)
评论(0)
推荐(0)
2019年5月27日
分布式文件系统HDFS 练习
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3292 利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(had
阅读全文
posted @ 2019-05-27 12:36 zyda
阅读(108)
评论(0)
推荐(0)
2019年5月6日
安装关系型数据库MySQL 安装大数据处理框架Hadoop
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 一、 简述Hadoop平台的起源、发展历史与应用现状。 Hadoop平台的起源 2003-2004年,Google公布了部分GFS和MapReduce思想的细节,受
阅读全文
posted @ 2019-05-06 13:36 zyda
阅读(197)
评论(0)
推荐(0)
2019年4月28日
爬虫综合大作业---爬取猫眼电影网上的电影《小偷家族》详细信息
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 本次爬取的目标日本电影《小偷家族》,是我最喜欢的电影之一,在猫眼上评分为8.0,在众多电影中并不算优秀的,但是在我心中认为这部电影的地位远不是评分所能衡量的。 观察
阅读全文
posted @ 2019-04-28 19:00 zyda
阅读(673)
评论(0)
推荐(0)
2019年4月8日
爬取全部的校园新闻
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2941 1.从新闻url获取新闻详情: 字典,anews 2.从列表页的url获取新闻url:列表append(字典) alist 3.生成所页列表页的url并获取全部新闻
阅读全文
posted @ 2019-04-08 19:45 zyda
阅读(211)
评论(0)
推荐(0)
2019年4月1日
获取一篇新闻的全部信息
摘要: 作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894 给定一篇新闻的链接newsUrl,获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击: newsUrl newsId(使
阅读全文
posted @ 2019-04-01 16:27 zyda
阅读(179)
评论(0)
推荐(0)
2019年3月25日
理解爬虫原理
摘要: 作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851 1. 简单说明爬虫原理 向服务器发起请求通过HTTP库向目标站点发起请求,即发送一个Request,请求可以包含额外的headers等信息,等待服务器的响应。 获取响应
阅读全文
posted @ 2019-03-25 18:18 zyda
阅读(162)
评论(0)
推荐(0)
2019年3月18日
中文词频统计
摘要: 作业要求来自: https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773 1. 下载一长篇中文小说。 此处下载的是网络小说--全职高手 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 4. 更新词库,加入所分析对
阅读全文
posted @ 2019-03-18 18:19 zyda
阅读(220)
评论(0)
推荐(0)
2019年3月11日
复合数据类型
摘要: 此次作业的要求来自于https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 1.列表,元组,字典,集合分别如何增删改查及遍历。 列表的增删改查及遍历操作: 集合的增删改查及遍历操作: 2.总结列表,元组,字典,集合的联系与区别。参考以
阅读全文
posted @ 2019-03-11 21:28 zyda
阅读(593)
评论(0)
推荐(0)
下一页
公告