12 2016 档案
摘要:EM算法 Jensen不等式 其实Jensen不等式正是我们熟知的convex函数和concave函数性质,对于convex函数,有 $$ \lambda f(x) + (1 \lambda)f(y)\ge f(\lambda x + (1 \lambda)f(y)),\ where\ 0\le\l
阅读全文
摘要:梯度与梯度下降(上升)算法 方向导数与偏导数 设函数z=f(x,y)在点P(x,y)的某一领域U(P)内有定义。自点P引射线l。设x轴正向到射线l的转角为\varphi,并设P'(x+\Delta x, y + \Delta y)为l上的另一点且$P'\in
阅读全文
摘要:Hinge Loss Function Hinge Loss 函数一种目标函数,有时也叫max margin objective。 在Trans系列中,有一个 \max(0,f(h,r,t) + \gamma f(h',r,t')) 这样的目标函数,其中\gamma 0。为了方便理解
阅读全文