摘要： Hadoop综合大作业 要求： 1.用Hive对爬虫大作业产生的文本文件（或者英文词频统计下载的英文长篇小说）词频统计。 启动hadoop 用hdfs创建文件夹 上传自己找的英文文章到hdfs上 启动hive，创建novels原始文档表 导入文件内容到表docs并查看 用HQL进行词频统计，结果放在 阅读全文

摘要： 启动hadoop 1 start-all.sh 1 start-all.sh 1 start-all.sh 1 start-all.sh start-all.sh 1 jps 1 jps 1 jps 1 jps jps Hdfs上创建文件夹 1 2 hdfs dfs -mkdir wcinput h 阅读全文

摘要： 用Python编写WordCount程序任务 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数（频数），并按照单词字母顺序排序，每个单词和其频数占一行，单词和频数之间有间隔 1.编写map函数，reduce函数 首先在/home/hadoop路径下建立wc 阅读全文

摘要： 1.选一个自己感兴趣的主题（所有人不能雷同）。 我选择了虎扑nba的体育新闻页面，与校园新闻版面类似，爬去50页 2.用python 编写爬虫程序，从网络上爬取相关主题的数据。 利用所学知识，导入要用的类 import requests from bs4 import BeautifulSoup i 阅读全文

摘要： 一、Hadoop提供的Shell命令完成相同任务： 阅读全文

摘要： 学会使用正则表达式 1. 用正则表达式判定邮箱是否输入正确。 2. 用正则表达式识别出全部电话号码。 3. 用正则表达式进行英文分词。re.split('',news) 4. 使用正则表达式取得新闻编号 5. 生成点击次数的Request URL 6. 获取点击次数 7. 将456步骤定义成一个函数 阅读全文

摘要： 1. 用requests库和BeautifulSoup库，爬取校园新闻首页新闻的标题、链接、正文。 2. 分析字符串，获取每篇新闻的发布时间，作者，来源，摄影等信息。 3. 将其中的发布时间由str转换成datetime类型。 4. 将完整的代码及运行结果截图发布在作业上。 阅读全文

摘要： 1.英文词频统 下载一首英文的歌词或文章 将所有,.？！’:等分隔符全部替换为空格 将所有大写转换为小写 生成单词列表 生成词频统计 排序 排除语法型词汇，代词、冠词、连词 输出词频最大TOP20 news=''' I remember quite clearly now when the stor 阅读全文

摘要： 字符串，列表，元组，字典，集合 总结列表，元组，字典，集合的联系与区别 列表是可变的对象，可进行动态的增加、删除、更新，即str.pop（）和str.extend（）等操作，用[]表示。 元组和列表在结构上没有什么区别，唯一的差异在于元组是只读的，不能修改。元组用“()”表示。 字典是存储键值对数据 阅读全文

摘要： 练习基本输入输出： print('你好,{}.'.format(name)) print(sys.argv) 库的使用方法： import ... from ... import ... 条件语句： if (abs(pos()))<1: break 循环语句： for i in range(5): 阅读全文