04 2023 档案
摘要:最近在看自编码器相关的文章,我对这种算法的原理产生了极大的疑惑,为什么选择loss作为判断异常的标准呢? 我想,原作者肯定是这么想的: 1)只输入正常数据,那么模型将只会学习到正常数据的分布。推理时,模型可以很好地重构正常信号,正常信号引起的loss值会很小。 2)模型没有学习到异常数据的分布,也不
阅读全文
摘要:高斯混合模型是EM算法的优秀实践,表达形式也十分简单,但是其推导确实有点复杂。 推荐几篇不错的文章: (26条消息) ML-朴素贝叶斯-先验分布/后验分布/似然估计_特征条件独立性假设_透明的胡萝卜的博客-CSDN博客 (此篇文章介绍了一些朴素贝叶斯基本知识,建议先看) 高斯混合模型(GMM) -
阅读全文
摘要:傅里叶变换是频谱分析的重要工具,适用于周期性平稳信号,但是对于非平稳信号而言,效果较差。 其实质是卷积求正弦波相关性,由于正弦波不是能量有限信号,对无差别做一个全部卷积,算出来的结果不考虑时间。 小波变换也是频谱分析的重要工具,基函数为能量有限信号,也可以进行时域分析。针对不同的信号,可以更换不同的
阅读全文
摘要:seq2seq中的注意力机制解决了长期梯度消失的问题,LSTM只解决了一部分长短期问题。 transformer中采用的自注意力机制多少借鉴该方法,其最核心的公式如下图所示。 Attention机制详解(一)——Seq2Seq中的Attention - 知乎 (zhihu.com) Q、K、V分别代
阅读全文