03 2022 档案

pytorch 常见函数

摘要：概率分布 torch.randn_like() 函数：返回一个与 input 形状相同的服从 N(0,1) 的张量 GPU 相关查看 torch 的版本 torch.__version__ 查看 cuda 是否 available: torch.cuda.is_available() 查看 GPU 阅读全文

posted @ 2022-03-11 14:35 guangheli 阅读(55) 评论(0) 推荐(0) 编辑

深度学习常见优化方法

摘要：数据的标准化当

x [i]

$\mathrm{x[i]}$ 与

x [j]

$\mathrm{x[j]}$ 这两个维度的数值范围偏差过大时梯度下降会难以进行. 梯度下降算法在输入向量的每个维度取值范围相近时更容易找到最低点.

μ = \frac{1}{m} \sum_{i = 1}^{m} x^{(i)}

$\mu = \frac{1}{m} \sum_{i =1}^{m} x^{(i)}$ $x:= 阅读全文

posted @ 2022-03-09 07:57 guangheli 阅读(56) 评论(0) 推荐(0) 编辑

作业 03 - 深层神经网络

摘要：深层神经网络最重要的是要让整个过程向量化以加快运行速度，这里给出矩阵的大小. 假设一共有

L

$\mathrm{L}$ 层，

m

$\mathrm{m}$ 个训练样本，每一层的节点数量为

n [l]

$\mathrm{n[l]}$

W [l] = (n [l], n [l - 1])

$\mathrm{W[l] = (n[l], n[l - 1])}$ , $\mathrm 阅读全文

posted @ 2022-03-04 20:03 guangheli 阅读(43) 评论(0) 推荐(0) 编辑

作业 02 - 双层神经网络实现分类

摘要：双层神经网络作业 01 只用了单层神经网络实现分类，这次用单隐藏层神经网络来实现注：

\times

$\mathrm{\times}$ 代表正常的矩阵乘法，

*

$\mathrm{*}$ 代表数乘或者矩阵对应位置相乘. 输入

m

$\mathrm{m}$ 个训练样本，每个样本有

n [0]

$\mathrm{n[0]}$ 个特征正阅读全文

posted @ 2022-03-04 09:29 guangheli 阅读(128) 评论(0) 推荐(0) 编辑

作业 01 - Logistic Regression 实现分类

摘要：算是第一个大作业吧，实现的还是比较粗糙的. 题目：给定 200 个图片作为训练样本，训练出可以识别一张图片是否是猫的程序考虑

P (Y = 1 | X) = σ (W^{T} X + b)

$\mathrm{P(Y=1|X) = \sigma (W^{T}X+b)}$ , 其中 $\mathrm{\sigma(z) = \frac{1}{1 + exp(-z)} 阅读全文

posted @ 2022-03-01 14:51 guangheli 阅读(30) 评论(0) 推荐(0) 编辑

公告

昵称： guangheli
园龄： 3年7个月
粉丝： 2
关注： 0

+加关注

2025年3月

日

一

二

三

四

五

六

guangheli

03 2022 档案

公告

搜索

常用链接

我的标签

随笔档案

阅读排行榜

推荐排行榜