摘要：
原文 https://www.cnblogs.com/wacc/p/5495448.html 贝叶斯线性回归 问题背景： 为了与PRML第一章一致，我们假定数据出自一个高斯分布： \[p(t|x,\mathbf{w},\beta)=\mathcal{N}(t|y(x,\mathbf{w}),\bet 阅读全文
摘要：
\(目标\) \(p(t|x, X, T) = \int p(t|x, w)p(w|X, T)dw \tag{1.68}\) \(1.p(t,x, X, T)=\int p(t,x,X,T,w)dw\) \(=\int p(t|x,X,T,w)p(x,X,T,w)dw\) \(=\int p(t|x 阅读全文
摘要：
$ p(w|X, T, \alpha, \beta) \propto p(T|X, w, \beta)p(w|\alpha)$ \(取ln\) \(\ln p(T|X, w, \beta) + \ln p(w|\alpha)\) 回顾 \(\ln p(T|X, w, \beta) = -\frac{ 阅读全文
摘要：
一些数学符号 \(N\) 样本量 \(x_n\) 每一个数据点，或者叫样本点,工程中/训练集中的x_train \(t_n\) 训练集中的y_train CDF 累计概率分布 PDF 概率密度函数 \(\mathcal{D}\) 观测 \(X = (X_1,...,X_N)^T\) \(N个输入\) 阅读全文
摘要：
\(p_{y}(y)=p_{x}(x)\left|\frac{\mathrm{d} x}{\mathrm{d} y}\right|=p_{x}(g(y))\left|g^{\prime}(y)\right| \tag{1.27}\) \(令x=g(y)\) \(f(x)=f(g(y))\) \(观测 阅读全文
摘要：
局部变分方法 利用局部信息进行变分推断 寻找上界或者下界 $比如我们有要求概率P，P可以分解成多个因子p_i的连乘积，那么取出一个p_j ,用一个\tilde p_j取作为p_j的下界，使得p=\prod p_i \ge \tilde p_j \prod_{i\ne j} p_i $ \(f(x)是 阅读全文
摘要：
为什么需要近似推断 现在棘手的问题在于 \(1.计算给定观察x后的隐变量z和参数\theta的后验分布计算\) \(2.计算观测变量的边缘分布\) 两种方法达到近似推断 1.决定性方法，-有解析解，快速，但是求出的是局部解 2.随机性方法，-慢，要采样多次，但是可以得到全局解(有证明的) 决定性推断 阅读全文
摘要：
1.指数族分布的标准形式 \(p(x|\eta) = h(x)g(\eta)exp\{\eta^Tu(x)\}\) \(B站白板推导也有一个指数族分布标准形式，两者是等价的\) \(p(x|\eta) = h(x)exp\{\eta^T\phi(x)- A(\eta)\}\) \(这里的u(x)=\ 阅读全文
摘要：
二维连续函数的傅里叶变换 一维的相关推导见本博客其他章节 这里是二维傅里叶变换的说明 一维离散函数的傅里叶变换 二维离散函数的傅里叶变换 对二维函数的波形没法理解的可以看这张图，u,v就是对应这张图两边的的频率 频谱图和时域图的说明 大家看下的图片，8个字母的时域图和频域图片比较，有些有趣的结论 Z 阅读全文
摘要：
原理见 https://blog.csdn.net/schwein_van/article/details/84336633 https://blog.csdn.net/qq_41747057/article/details/116013500 或者可以见B站视频 https://www.bilib 阅读全文