摘要:
该作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 1.将爬虫大作业产生的csv文件上传到HDFS 我爬虫作业爬取的是招聘网站对于JAVA的岗位信息:共计15129条 创建文件夹并且把文件复制进去,并且尝试打开文 阅读全文
摘要:
该作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3319 一、用自己的话阐明Hadoop平台上HDFS和MapReduce的功能、工作原理和工作过程。 Hdfs的功能:高度容错性、支持大规模数据集、支持流式读取数据、简 阅读全文
摘要:
该作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 一、要求 4. 简述Hadoop平台的起源、发展历史与应用现状。 列举发展过程中重要的事件、主要版本、主要厂商; 国内外Hadoop应用的典型案例。 5. 下次 阅读全文
摘要:
该作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 一、作业要求 一.把爬取的内容保存取MySQL数据库 import pandas as pd import pymysql from sqlalchemy im 阅读全文
摘要:
改作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2941 一、要求: 1.从新闻url获取新闻详情: 字典,anews 2.从列表页的url获取新闻url:列表append(字典) alist 3.生成所页列表页的ur 阅读全文
摘要:
改作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894 给定一篇新闻的链接newsUrl,获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击: newsUrl news 阅读全文
摘要:
改作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851 一、简单说明爬虫原理 如果我们把互联网比作一张大的蜘蛛网,数据便是存放于蜘蛛网的各个节点,而爬虫就是一只小蜘蛛,沿着网络抓取自己的猎物(数据)爬虫指的是:向网站 阅读全文
摘要:
改作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773 一、要求 中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba 阅读全文
摘要:
改作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 一.列表,元组,字典,集合分别如何增删改查及遍历 1、列表 结果如下: 2、元组 结果图: 3、字典 效果图: 4、集合 二、总结列表,元组,字典,集合的联系与 阅读全文
摘要:
该作业要求来于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2646 一、作业要求 1.字符串操作: 解析身份证号:生日、性别、出生地等。 凯撒密码编码与解码 网址观察与批量生成 2.英文词频统计预处理 下载一首英文的歌词或文章或小 阅读全文