08 2024 档案

Datawhale X 李宏毅苹果书 AI夏令营 3.1
摘要：梯度归零的点 临界点 训练损失不再下降 -》 梯度归0 -》 临界点（局部极小/大值、鞍点) 判断临界值种类的方法（计算不太懂，数学忘了一些 L(θ) vs L(θ′) vTHv 正负 判断出来临界点是鞍点的话，还是可以继续训练的，且海森矩阵会告知方向。不过计算量非常大，书里说可以尝试从高纬度判断， 阅读全文
posted @ 2024-08-27 15:43 沙滩炒花蛤 阅读(5) 评论(0) 推荐(0) 编辑