摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 异常检测 对数据建模，形成概率分布函数$p(x)$；检查$p(x_{test})$的值 e.g. 欺诈检测：可以找出行为异常的用户 工业领域 数据中心的计算机监控 1.1 高斯分布 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 聚类算法 1.1 K Means算法 步骤 随机初始化k个簇类中心（cluster centroids）[n维向量]，然后迭代 1. 簇分配：遍历样本，判断其距离哪个簇类中心更近， 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 支持向量机（Support Vector Machine） 从逻辑回归一点一点修改来得到本质上的支持向量机 优化目标 $$ min_{\theta}C\sum_{i=1}^m[y^ 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 机器学习系统的设计 构建一个学习算法的推荐方法为： 1. 从一个 简单 的能 快速 实现的算法开始，实现该算法并用 交叉验证集 数据测试这个算法 2. 绘制学习曲线，决定是增加更多 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 学习建议 误差太大，如何改进？ 使用更多的训练样本→解决高方差 选用更少的特征→解决高方差 选取更多的特征→解决高偏差 增加多项式特征→解决高偏差 减小$\lambda$→解决高偏 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 神经网络学习 1.1 非线性假设 当$n$很大时，用逻辑回归建立非线性假设并不是一个好做法 1.2 模型展示 模仿了大脑中的 神经元 （计算单元）：树突（input）、轴突（out 阅读全文
摘要：
推荐系统（2） 多层模型 全局global 总体偏差：e.g.平均值作为基线 局部local 处理局部影响：e.g.相关性 协调过滤CF 抽取局部模式 Ⅰ协同过滤CF $$ r_{xi} = \frac{\sum_{j \in N(i;x)}S_{ij}·r_{xj}}{\sum_{j \in N( 阅读全文
摘要：
根据Andrew Ng在斯坦福的《机器学习》视频做笔记，已经通过李航《统计学习方法》获得的知识不赘述，仅列出提纲。 1 初识机器学习 1.1 监督学习(x,y) 分类（输出y是离散值） 回归（输入输出是连续值） e.g.垃圾邮件、乳腺癌肿瘤好坏、是否患有糖尿病 1.2 无监督学习(x) e.g. 新 阅读全文
摘要：
《统计学习方法》（第二版）第4章 4 朴素贝叶斯法 生成模型 4.1 学习与分类 1. 基于 特征条件独立假设 学习输入输出的 联合概率分布 2. 基于 联合概率分布 ，利用 贝叶斯定理 求出 后验概率最大 的输出 条件独立假设 $$ P(X=x|Y=c_k)=\prod_{j=1}^n P(X^{ 阅读全文
摘要：
问题描述：n个人围成一圈，每隔k个杀死一个，问最后的幸存者的编号 假设标号是0 ~ n 1，幸存者是f[n] 1、特殊情况：f[1]=0 2、一般情况：f[n] = (f[n 1]+k)%n 游戏开始时排序： 0、1、2、3、4、5、6、7、8……n 1 第一次被杀死的人的标号是k 1，还剩下n 1 阅读全文