摘要:
本文来自于KBQA-survey的综述类文献 论文写作的大致脉络:本次调查的其余部分组织如下。在第2节中,我们将首先介绍有关任务制定、多个可用数据集和评估协议的初步知识。接下来,我们将在第3节中介绍两种主流的复杂KBQA方法。然后在分类之后,我们在第4节中找出了典型的挑战和解决这些挑战的方法。最后, 阅读全文
摘要:
这里介绍的是skip-gram模型的word embedding 要实现两个功能:(1)将维(2)能够体现相似性 O 表示原始onehot编码 O 点乘Embdding Matrix,一般是300维的。 将两者相乘得到的vector放到神经网络中,希望预测上下文词。 未完待续************ 阅读全文
摘要:
先进行复核的定义: 前向传播: 其中的W[1] = 反向得的传播: 阅读全文
摘要:
作业题目: 实现sigmoid激活函数的求导,求他的梯度。 a = 1+exp(-z) s = 1/a b = exp(-z) a = 1+b c = -z , b = exp(x) 对他们分别求解偏导数: 使用链式求导的规则,最终得到s对z的偏导数。 连式法则: 中间步骤消元: 对上式再次进行化简 阅读全文