摘要：
作业要求来源：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 本次作业是在期中大作业的基础上利用hadoop和hive技术进行大数据分析 1. 准备数据（下图为SCV截图）： 把CSV添加到/bigdatacase/datas 阅读全文
摘要：
作业来源于：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3319 1.用自己的话阐明Hadoop平台上HDFS和MapReduce的功能、工作原理和工作过程。 HDFS功能： 1.元数据 Metadata,维护文件和目录信息,分为内 阅读全文
摘要：
作业来源于：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3292 利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录（hado 阅读全文
摘要：
作业来源：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 Hadoop的起源 2003-2004年，Google公布了部分GFS和MapReduce思想的细节，受此启发的Doug Cutting等人用2年的业余时间实现了DFS 阅读全文
摘要：
作业来源：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 一.把爬取的内容保存取MySQL数据库 import pandas as pd import pymysql from sqlalchemy import create 阅读全文
摘要：
1.从新闻url获取新闻详情： 字典,anews 2.从列表页的url获取新闻url：列表append(字典) alist 3.生成所页列表页的url并获取全部新闻 ：列表extend(列表) allnews *每个同学爬学号尾数开始的10个列表页 4.设置合理的爬取间隔 import time i 阅读全文
摘要：
给定一篇新闻的链接newsUrl，获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击： newsUrl newsId(使用正则表达式re) clickUrl(str.format(newsId)) requests.get(clickUrl) newC 阅读全文
摘要：
1. 简单说明爬虫原理 爬虫，是按照一定的规则，自动地抓取万维网信息的程序或者脚本，实质就是通过程序自动去获取 Web 页面上想要获取的数据，即自动抓取数据。 浏览器的所有结果都是由代码组成，爬虫就是为了获取这些内容，通过过滤、分析代码，从中获取我们想要的数据。 2. 理解爬虫开发过程 1).简要说 阅读全文
摘要：
1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba import jieba ljieba.lcut(text) 4. 更新词库，加入所分析对象的专业词汇。 jieba.add_word('天罡北斗阵') #逐个添加 阅读全文
摘要：
作业来源于：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 1.列表，元组，字典，集合分别如何增删改查及遍历。 答： （1）列表的增删改查： 增：使用append()方法在列表的末尾增加新的元素 删：使用del语句来删除列表的 阅读全文