2023 年 12月随笔档案 - 诩言Wan

NLP复习之向量语义

摘要：向量语义词汇语义语义概念(sense or concept)是单词含义(word sense)的组成部分，词原型可以是多义的。同义词是指：在某些或者全部的上下文中，单词之间有相同或近似含义可能没有完全相同含义的同义词例子！即使在很多情况下(上下文语境)，单词间的含义是相同的。但仍然有可能

227

0

1

NLP复习之朴素贝叶斯

摘要：朴素贝叶斯分类器和加一平滑计算每个单词的似然值贝叶斯规则：c表示类别，d表示数据

P (c | d) = \frac{P (d | c) P (c)}{P (d)}

例题1 假设句子“I always like foreign films.”中每个单词对应每个类的似然估计如下，请判断该句子属于正面还是负面评

165

0

2

NLP复习之N元文法

摘要：N元文法的统计二元概率方程：

P (w_{n} | w_{n - 1}) = \frac{C (w_{n - 1} w_{n})}{C (w_{n - 1})}

三元概率估计方程：

P (w_{n} | w_{n - 2}, w_{n - 1}) = \frac{C (w_{n - 2; n - 1} w_{n})}{C (w_{n - 2; n - 1})}

146

0

两个题目

摘要：1

u, v \in R^{n}

，矩阵

A = I + u v^{T}

，投影算子

P = I - u u^{T} / u^{T} u

，SM公式

M = A - u v^{T}, M^{- 1} = A^{- 1} + A^{- 1} u v^{T} A^{- 1} / (1 - v^{T} A^{- 1} u)

1、证明：矩阵A的逆是

A^{- 1} = I + a u v^{T}

，并

50

0

拟牛顿法

摘要：1 拟牛顿法牛顿法：

x_{k + 1} = x_{k} - \nabla^{2} f (x_{k})^{- 1} \nabla f (x_{k})

牛顿法的缺陷在于

\nabla^{2} f (x_{k})

难以求取和存储，因此有拟牛顿法(Quasi-Newton methods)，通过在牛顿法的迭代中加入近似求取每

136

0

梯度下降法

摘要：1 梯度下降法

梯度下降法又称最速下降法，是最优化方法中最基本的一种方法。所有的无约束最优化问题都是在求解如下的无约束优化问题：

min_{x \in R^{n}} f (x)

将初始点

x_{0}

逐步迭代到最优解所在的点

x^{*}

，那么考虑搜索点迭代过程：$$x_{t

31

0

友链

摘要：欢迎来到我的友链小屋

10

0

拂云堂诩言

一路星河半盛夏

12 2023 档案

公告

常用链接

我的标签

合集

随笔分类

随笔档案

阅读排行榜

评论排行榜

推荐排行榜

最新评论

拂云堂 诩言