摘要：在神经网络结构的学习中，乘加结构是基础，乘法是含量的计算，加法是分量的计算。 计算总和，则自然直观的把每个分量乘以权重（含量的百分比），再把这每个结果（分量）逐个加起来，得到一个整体。 如图： 上图中，y是结果，y 由 x1 和 x2 两个分量组成，x1的有效成分占比是权重 w1 表示，x2 的有效 阅读全文

摘要：问题 方向导数的计算公式： 函数 f 在点 P 沿着方向 u 的方向导数，记作 Duf(P)，可以用梯度和方向向量的点积来计算： Duf(P) = ∇f(P) ⋅ u 其中 ∇f(P) 是函数 f 在点 P 的梯度向量，而 "⋅" 表示向量点积。 推导证明一下方向导数的计算公式 解答 当然，我们来详 阅读全文

摘要：概述 这是理解梯度概念的核心所在。在多元微积分中，梯度是一个向量，其每个分量是函数对各个自变量的偏导数。梯度指向函数值增长最快的方向。 要解释为什么由各个偏导数组成的向量（梯度）指向函数值增长最快的方向，我们需要从多元微积分和方向导数的概念入手。 详解 为了更好地理解，我们逐步分解解释： 1. 从方 阅读全文

摘要：python 实现简单数值梯度 import numpy as np def f2(x): return np.sum(x ** 2) def grad(f, x): h = 1e-4 g = np.zeros_like(x) for i in range(x.size): tmp = x[i] x 阅读全文