摘要: requests模块:python中原生的一款基于网络请求的模块,作用是模拟浏览器发送请求。如何使用: 指定url - 发起请求 - 获取响应数据 - 持久化存储实战需求:爬取搜狗首页的页面数据 import requests if __name__ == "__main__": # 指定url u 阅读全文
posted @ 2022-01-15 09:59 Sunshine_y 阅读(32) 评论(0) 推荐(0) 编辑
摘要: 爬虫在应用场景中的分类 (1)通用爬虫:抓取系统重要组成部分,抓取的是一整张页面数据。 (2)聚焦爬虫:建立在通用爬虫的基础上,抓取的是页面中的特定内容。 (3)增量式爬虫:检测网站中的更新情况,只会抓取网站中最近更新的内容。 反爬机制 门户网站可以制定相应的策略或者技术手段,防止爬虫程序进行网站数 阅读全文
posted @ 2022-01-14 21:43 Sunshine_y 阅读(42) 评论(0) 推荐(0) 编辑
摘要: 对于CNN的学习,我先从代码部分入手,然后在学理论知识,两者相结合会达到豁然开朗的效果。 设置超参数 EPOCH = 1 # 训练整批数据多少次, 为了节约时间, 我们只训练一次 BATCH_SIZE = 50 LR = 0.001 # 学习率 DOWNLOAD_MNIST = True # 如果你 阅读全文
posted @ 2021-12-04 16:55 Sunshine_y 阅读(136) 评论(0) 推荐(0) 编辑
摘要: CNN基础知识储备: (一)卷积计算 通过这部分的学习,将会清楚卷积是如何计算的。 举个例子,现有一张6×6的灰度图像(灰度图像代表6×6×1的矩阵,RGB图片则是6×6×3,因为它有红绿蓝3个维度),比如 为了检测图像中的垂直边缘,可以构造一个3×3矩阵。在卷积神经网络的术语中,它被称为过滤器,又 阅读全文
posted @ 2021-12-04 16:54 Sunshine_y 阅读(106) 评论(1) 推荐(1) 编辑
摘要: DQN简介 DQN,全称Deep Q Network,是一种融合了神经网络和Q-learning的方法。这种新型结构突破了传统强化学习的瓶颈,下面具体介绍: 神经网络的作用 传统强化学习使用表格形式来存储每一个状态state和状态对应的action的Q值,例如下表表示状态s1对应了两种动作actio 阅读全文
posted @ 2021-12-03 17:15 Sunshine_y 阅读(882) 评论(0) 推荐(0) 编辑
摘要: 每次进行数据训练时,如果数据集过多不适合把整个数据打包进行训练,那么这种时候就需要把训练数据分批进行训练。 设置数据: x = torch.linspace(1, 10, 10) # x data (torch tensor) y = torch.linspace(10, 1, 10) # y da 阅读全文
posted @ 2021-11-26 14:32 Sunshine_y 阅读(81) 评论(0) 推荐(0) 编辑
摘要: 一般来说,神经网络是用来训练数据,做实验等等,但每次关闭神经网络或者关机后,训练好的结果等都自动清除,为了解决这一问题,需要对神经网络训练后的结果进行保存、提取。 一、保存神经网络 搭建神经网络、训练数据、优化等操作都需要在save()函数中进行,代码如下: def save(): #快速搭建 ne 阅读全文
posted @ 2021-11-26 13:44 Sunshine_y 阅读(127) 评论(0) 推荐(0) 编辑
摘要: 快速搭建 无论是搭建回归类型的神经网络也好,分类类型的也罢,都是通过 class Net(torch.nn.Module) 搭建,本文介绍另一种搭建方法,这种方法可以更快速的搭建net 。 #快速搭建 net = torch.nn.Sequential( torch.nn.Linear(2, 10) 阅读全文
posted @ 2021-11-26 13:27 Sunshine_y 阅读(23) 评论(0) 推荐(0) 编辑
摘要: 关系拟合(分类) 一、建立数据集 import torch from torch.autograd import Variable import torch.nn.functional as F import matplotlib.pyplot as plt # make fake data n_d 阅读全文
posted @ 2021-11-25 21:26 Sunshine_y 阅读(39) 评论(0) 推荐(0) 编辑
摘要: 关系拟合(回归) 一、建立数据集 import torch import torch.nn.functional as F # 激励函数都在这 import matplotlib.pyplot as plt #unsqueeze把一维数据转换为二维数据,因为torch只会处理二维数据 x = tor 阅读全文
posted @ 2021-11-25 21:18 Sunshine_y 阅读(84) 评论(0) 推荐(0) 编辑