摘要：
自动微分 深度学习框架通过自动计算导数，即自动微分（automatic differentiation）来加快求导。 实际中，根据我们设计的模型，系统会构建一个计算图（computational graph）， 来跟踪计算是哪些数据通过哪些操作组合起来产生输出。 自动微分使系统能够随后反向传播梯度。 阅读全文
摘要：
导数和微分 如果的 \(f\) 导数存在，这个极限被定义为: \(f^{\prime}(x)=\lim _{h \rightarrow 0} \frac{f(x+h)-f(x)}{h}\) 如果 \(f^{\prime}(a)\) 存在，则称 \(f\) 在 \(a\) 处是可微（different 阅读全文