摘要: 本次作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3363 一、将爬虫大作业产生的csv文件上传到HDFS 二、对CSV文件进行预处理生成无标题文本文件 三、把hdfs中的文本文件最终导入到数据仓库Hive中 四、在H 阅读全文
posted @ 2019-06-17 13:31 阿叔 阅读(251) 评论(0) 推荐(0) 编辑
摘要: 本次作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3310 一、目录操作 在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 在用户目录下创建一个input目录 在HDFS的根目录下创建一个名称为inp 阅读全文
posted @ 2019-06-02 20:44 阿叔 阅读(151) 评论(0) 推荐(0) 编辑
摘要: 本次作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3223 一、安装Linux、MySql 1、安装Ubuntu 1)安装中 2)安装完成 2、安装MySQL 1)、安装完成 2)、测试数据库 二、windows 与 阅读全文
posted @ 2019-05-15 22:50 阿叔 阅读(122) 评论(0) 推荐(0) 编辑
摘要: 本次作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3159 可以用pandas读出之前保存的数据:newsdf = pd.read_csv(r'F:\duym\gzccnews.csv') 一、把爬取的内容保存到数据库 阅读全文
posted @ 2019-05-06 21:05 阿叔 阅读(415) 评论(0) 推荐(0) 编辑
摘要: 本次作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3002 0.从新闻url获取点击次数,并整理成函数 newsUrl newsId(re.search()) clickUrl(str.format()) reque 阅读全文
posted @ 2019-04-12 17:30 阿叔 阅读(227) 评论(0) 推荐(0) 编辑
摘要: 本次作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2881 一、 简单说明爬虫原理 爬虫:即通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSON数据/二进制数据(图片、视频) 爬到本地,进而提取自己需要 阅读全文
posted @ 2019-04-01 10:31 阿叔 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 本次作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2822 一、中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba i 阅读全文
posted @ 2019-03-22 17:49 阿叔 阅读(1922) 评论(0) 推荐(0) 编辑
摘要: 本次作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2753 一、列表,元组,字典,集合分别如何增删改查及遍历 1、列表 1)增 append()方法:在列表的末尾增加一个元素 insert()方法:在列表指定的位置上 阅读全文
posted @ 2019-03-17 15:22 阿叔 阅读(266) 评论(0) 推荐(0) 编辑
摘要: 本作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2684 一、字符串操作 (一)基本要求 解析身份证号:生日、性别、出生地等。 凯撒密码编码与解码 网址观察与批量生成 (二)编码实现 1、解析身份证 2、凯撒密码 3、 阅读全文
posted @ 2019-03-09 23:56 阿叔 阅读(274) 评论(0) 推荐(0) 编辑
摘要: 本作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2639 一、.浏览2019春节各种大数据分析报告 这世间,再无第二个国家有能力承载如此庞大的人流量。http://www.sohu.com/a/290025769_31 阅读全文
posted @ 2019-03-01 17:19 阿叔 阅读(674) 评论(0) 推荐(0) 编辑