上一页 1 2 3 4 5 6 7 8 9 10 ··· 16 下一页

2020年2月11日

spark学习进度11-做实验

摘要: 今天做spark实验2和实验3的内容 阅读全文

posted @ 2020-02-11 20:36 宥宁 阅读(93) 评论(0) 推荐(0) 编辑

2020年2月10日

spark学习进度10-beautifulsoup库的几个常用方法及正则表达式

摘要: BeautifulSoup库通俗来说是【解析、遍历、维护“标签树”(例如html、xml等格式的数据对象)的功能库 】一个简单的使用BeautifulSoup库的demo: # coding:utf-8 from bs4 import BeautifulSoup import requests ur 阅读全文

posted @ 2020-02-10 19:48 宥宁 阅读(406) 评论(0) 推荐(0) 编辑

2020年2月9日

spark学习进度9

摘要: 今天准备安装了pyecharts,官网下载速度太慢了,下了半天还没有下载完成,简单了解了一下用pyecharts库画图的方法,继续配置eclipse的环境,因为停电的原因进度太慢了,明天继续努力。 阅读全文

posted @ 2020-02-09 22:55 宥宁 阅读(90) 评论(0) 推荐(0) 编辑

2020年2月8日

spark学习进度8-scrapy框架的安装与使用

摘要: 今天安装并简单了解了scrapy框架,并且安装了scrapy及其所依靠的pywin32,lxml等等,相关教程链接:https://blog.csdn.net/lwx356481/article/details/81224667 安装scrapy速度较慢时,可以将pip install scrapy 阅读全文

posted @ 2020-02-08 22:26 宥宁 阅读(178) 评论(0) 推荐(0) 编辑

2020年2月7日

spark学习进度7-Python爬取大学排名实例

摘要: 利用pc编写python爬取大学排名的数据,如图: import requests from bs4 import BeautifulSoup import bs4 def getHTMLText(url): try: r = requests.get(url, timeout=30) r.rais 阅读全文

posted @ 2020-02-07 21:55 宥宁 阅读(212) 评论(0) 推荐(0) 编辑

2020年2月6日

spark学习进度6-Python爬取数据的四个简单实例

摘要: 今天本来想把昨天安装的intellij配置好,但是一直显示没有网络,网上查了相关资料也没有查出来解决办法。 然后暂停了intellij的配置,开始做了几个Python爬取简单数据的实例,先做了几个最简单的,以后再加大难度(用idle编码): (1)京东商品页面爬取: 链接:https://item. 阅读全文

posted @ 2020-02-06 23:52 宥宁 阅读(371) 评论(0) 推荐(0) 编辑

2020年2月5日

spark学习进度5-利用开发工具IntelliJ IDEA编写Spark应用程序(Scala+Maven)

摘要: 安装好了IntelliJ IDEA,但是很多东西还没有配置好,明天再更新。 下载IntelliJ IDEA并解压; 运行bin目录下的idea.sh文件; 勾选同意; 勾选不发送; 勾选免费试用版; 阅读全文

posted @ 2020-02-05 22:40 宥宁 阅读(211) 评论(0) 推荐(0) 编辑

Scala官网下载不下来问题-已解决

摘要: 在官网下载Scala的时候,下载了很多次都下载失败,后来发现在浏览器种输入http://downloads.typesafe.com/scala/2.11.7/scala-2.11.7.msi就可以很快的下载下来了。版本号都可以更改。 阅读全文

posted @ 2020-02-05 09:10 宥宁 阅读(2186) 评论(0) 推荐(1) 编辑

2020年2月4日

spark学习进度4

摘要: 今天安装好了Scala和eclipse,并在eclipse中安装了maven和Scala的插件,完成了一部分的实验2的内容,明天继续做实验。 阅读全文

posted @ 2020-02-04 22:40 宥宁 阅读(111) 评论(0) 推荐(0) 编辑

2020年2月3日

spark学习进度3:Scala中变量,常量,数据类型,运算符,表达式,循环,方法,函数的基本使用

摘要: scala中定义变量:(1)var 变量名 = 初始化值(2)var 变量名:数据类型 = 初始化值如:var a = 1注意:(1)定义变量的时候需要初始化(2)定义变量的时候可以不指定变量的数据类型,这时系统会根据变量的初始化值推断变量的数据类型 定义常量:(1)val 常量名 = 初始化值(2 阅读全文

posted @ 2020-02-03 19:58 宥宁 阅读(492) 评论(0) 推荐(0) 编辑

上一页 1 2 3 4 5 6 7 8 9 10 ··· 16 下一页

导航