摘要: 作业来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3363 Hadoop综合大作业 要求: 1.将爬虫大作业产生的csv文件上传到HDFS 查看HDFS上两个文件内容 2.对CSV文件进行预处理生成无标题文本文件 3.把hdfs 阅读全文
posted @ 2019-06-20 00:56 luxinyu 阅读(146) 评论(0) 推荐(0) 编辑
摘要: 本次作业来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3310 利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(had 阅读全文
posted @ 2019-05-31 18:21 luxinyu 阅读(110) 评论(0) 推荐(0) 编辑
摘要: 本作业来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3223 1.安装Linux,MySql 2.windows 与 虚拟机互传文件 3.安装Hadoop 还不能从windows复制文件的,可在虚拟机里用浏览器下载安装文件,课 阅读全文
posted @ 2019-05-16 17:01 luxinyu 阅读(122) 评论(0) 推荐(0) 编辑
摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3159 可以用pandas读出之前保存的数据: newsdf = pd.read_csv(r'F:\duym\gzccnews.csv') 一.把爬取的内容保存到数据库s 阅读全文
posted @ 2019-05-08 16:55 luxinyu 阅读(273) 评论(0) 推荐(0) 编辑
摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3002 0.从新闻url获取点击次数,并整理成函数 newsUrl newsId(re.search()) clickUrl(str.format()) requests 阅读全文
posted @ 2019-04-15 15:56 luxinyu 阅读(195) 评论(0) 推荐(0) 编辑
摘要: 本次作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2881 1. 简单说明爬虫原理 向网站发起请求,获取资源后分析并提取有用数据的程序;从技术层面来说就是 通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSO 阅读全文
posted @ 2019-03-29 18:13 luxinyu 阅读(142) 评论(0) 推荐(0) 编辑
摘要: 中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba import jieba jieba.lcut(text) 4. 更新词库,加入所分析对象的专业词汇。 jieba.add_word('天罡北斗阵') 阅读全文
posted @ 2019-03-24 13:46 luxinyu 阅读(238) 评论(0) 推荐(0) 编辑
摘要: 本次作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2753 1.列表,元组,字典,集合分别如何增删改查及遍历。 列表: 元组: 字典: 集合 2.总结列表,元组,字典,集合的联系与区别。参考以下几个方面: 括号 有序无序 阅读全文
posted @ 2019-03-22 17:16 luxinyu 阅读(166) 评论(0) 推荐(0) 编辑
摘要: 这个作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2684 1.字符串操作: 解析身份证号:生日、性别、出生地等。 凯撒密码编码与解码 网址观察与批量生成 2.英文词频统计预处理 下载一首英文的歌词或文章或小说。 将 阅读全文
posted @ 2019-03-11 14:09 luxinyu 阅读(175) 评论(0) 推荐(0) 编辑
摘要: 这个作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2639 1.浏览2019春节各种大数据分析报告,例如: 这世间,再无第二个国家有能力承载如此庞大的人流量。http://www.sohu.com/a/2900257 阅读全文
posted @ 2019-03-01 17:57 luxinyu 阅读(591) 评论(0) 推荐(0) 编辑