王朝君BITer

摘要： 误差来自于偏差和方差（bias and variance） 对于随机变量 X，假设其期望和方差分别为 μ 和 σ2。随机采样 N 个随机变量构成样本，计算算术平均值 m，并不会直接得到 μ （除非采样无穷多个样本点）。 假设 m 和 s2 是样本均值和样本方差，由于样本都是随机抽取的，m 和 s2  阅读全文

摘要： 一、主要思想 利用正交变换把可能线性相关变量表示的观测数据，转换为由少数几个线性无关变量（主成分）表示的数据。（重构原始特征空间；线性降维） 要尽可能保留原始数据中的信息，两个思路：最大投影方差、最小投影距离。 完全的无监督，只需要通过方差来衡量信息量（但也是一种局限性）。各个主成分正交，降维后不同 阅读全文

摘要： 一、主要思想 在 L2-norm 的误差意义下寻找对所有观测目标值 Y 拟合得最好的函数 f(X) = WTX 。 其中 yi 是 scalar，xi 和 W 都是 P 维向量（比实际的 xi 多一维，添加一维 xi(0) = 1，用于将偏置 b 写入 W 中） 1. 定义模型：f(X) = WTX 阅读全文

摘要： 决定在博客园上记录自己的课程学习笔记、论文阅读总结、以及个人生活所见所感。 机器学习： 1. 李宏毅老师：http://speech.ee.ntu.edu.tw/~tlkagk/courses.html 诙谐幽默、深入浅出 2. 徐亦达老师：https://github.com/roboticcam 阅读全文