会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
zllll
博客园
首页
新随笔
联系
订阅
管理
2019年6月17日
Hadoop综合大作业
摘要: 本次作业的要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 Hadoop综合大作业 要求: 1.将爬虫大作业产生的csv文件上传到HDFS 2.对CSV文件进行预处理生成无标题文本文件 3.把hdfs中的文本文件最终导
阅读全文
posted @ 2019-06-17 21:32 zllll
阅读(191)
评论(0)
推荐(0)
编辑
2019年5月31日
分布式文件系统HDFS 练习
摘要: 本次作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3292 利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(h
阅读全文
posted @ 2019-05-31 21:23 zllll
阅读(127)
评论(0)
推荐(0)
编辑
2019年5月12日
安装关系型数据库MySQL 安装大数据处理框架Hadoop
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 一、 1.Hadoop的介绍 Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量
阅读全文
posted @ 2019-05-12 20:10 zllll
阅读(143)
评论(0)
推荐(0)
编辑
2019年4月28日
爬虫综合大作业---分析《我不是药神》电影短评
摘要: 作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 《我不是药神》是这几年来我所看的电影里感触最大的,甚至成为豆瓣上多年来仅有的六部9.0评分以上的华语电影之一。 影片讲述了神油店老板程勇从一个交不起房租的男性保健品
阅读全文
posted @ 2019-04-28 21:40 zllll
阅读(784)
评论(1)
推荐(0)
编辑
2019年4月8日
作业:爬取全部的校园新闻
摘要: 这个作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2941。 1.从新闻url获取新闻详情: 字典,anews 2.从列表页的url获取新闻url:列表append(字典) alist 3.生成所页列表页的url并获
阅读全文
posted @ 2019-04-08 17:45 zllll
阅读(182)
评论(0)
推荐(0)
编辑
2019年4月1日
获取一篇新闻的全部信息
摘要: 作业的要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894 给定一篇新闻的链接newsUrl,获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击: newsUrl newsI
阅读全文
posted @ 2019-04-01 17:10 zllll
阅读(191)
评论(0)
推荐(0)
编辑
2019年3月25日
理解爬虫原理
摘要: 作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851 一. 简单说明爬虫原理 1.首先选取一部分精心挑选的种子URL; 2.将这些URL放入待抓取URL队列; 3.从待抓取URL队列中取出待抓取在URL,解析DNS,并且得
阅读全文
posted @ 2019-03-25 17:35 zllll
阅读(199)
评论(0)
推荐(0)
编辑
2019年3月18日
中文词频统计
摘要: 作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773 中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba impor
阅读全文
posted @ 2019-03-18 17:26 zllll
阅读(160)
评论(0)
推荐(0)
编辑
2019年3月14日
复合数据类型,英文词频统计
摘要: 此次作业的要求来自于https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 1.列表,元组,字典,集合分别如何增删改查及遍历。 列表: 元组: 字典: 集合: 2.总结列表,元组,字典,集合的联系与区别。参考以下几个方面: 括号 有序
阅读全文
posted @ 2019-03-14 21:06 zllll
阅读(196)
评论(0)
推荐(0)
编辑
2019年3月6日
字符串、文件操作和英文词频统计预处理
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2646 1.字符串操作: 解析身份证号:生日、性别、出生地等。 运行结果如下: 凯撒密码编码与解码 运行结果如下: 网址观察与批量生成 运行结果如下: 2.英文词频统计预处
阅读全文
posted @ 2019-03-06 17:03 zllll
阅读(157)
评论(0)
推荐(0)
编辑
下一页