摘要：
深度学习--常见激活函数 梯度下降出现问题：局部最小值、鞍点 影响因素： 初始状态 学习率 ：影响收敛速度和收敛精度 动量：如何逃离局部最小值，增加一个惯性 激活函数及其梯度 阶跃函数 Sigmode/logistic 函数 （0，0.5） y=1/(1-e^(-x)) y'=y(1-y) impo 阅读全文
摘要：
深度学习--统计与数据映射 范数 import torch #范数norm 第一范数：绝对值求和 第二范数：平方和后求根号 norm使用要求是浮点数 a=torch.full([8],1.) #tensor([1., 1., 1., 1., 1., 1., 1., 1.]) b=a.view(2,4 阅读全文