2024年1月4日
神经网络优化篇：详解梯度的数值逼近（Numerical approximation of gradients）
摘要： 在实施backprop时，有一个测试叫做梯度检验，它的作用是确保backprop正确实施。因为有时候，虽然写下了这些方程式，却不能100%确定，执行backprop的所有细节都是正确的。为了逐渐实现梯度检验，首先说说如何计算梯度的数值逼近。 先画出函数\(f\)，标记为\(f\left( \thet 阅读全文
posted @ 2024-01-04 10:16 Oten 阅读(141) 评论(0) 推荐(0) 编辑