平凡之上
博观而约取,厚积而薄发! 守得云开见月明。

#P23-P26

 

损失函数与反向误差

Loss function作用:1、计算实际输出和目标之间的差距  2、为我们更新输出提供一定的依据(反向传播)

 #根据需要去选择使用,关注函数的输入和输出。

1.nn.L1Loss()

2.nn.MSELoss()

3.nn.CrossEntropyLoss()    #求交叉熵

 

 N batch_size  C 指数据有多少类

优化器

优化器就是在深度学习反向传播过程中,指引损失函数(目标函数)的各个参数往正确的方向更新合适的大小,使得更新后的各个参数让损失函数(目标函数)值不断逼近全局最小。(梯度是函数上升最快的方向,所以梯度的反方向就是函数下降最快的方向)

backward是更新梯度,optim.step()是根据梯度计算参数

 

现有模型的使用及修改

 

网络模型的保存与读取

 

posted on 2021-11-26 20:45  平凡之上  阅读(20)  评论(0编辑  收藏  举报