摘要：
参考文献： https://www.zhihu.com/question/19911209/answer/245487255 https://www.zhihu.com/question/22913867/answer/250046834 阅读全文
摘要：
看了好多书籍和博客，讲先验后验、贝叶斯公式、两大学派、概率模型、或是逻辑回归，讲的一个比一个清楚 ，但是联系起来却理解不能 基本概念如下 先验概率：一个事件发生的概率 \[P(y)\] 后验概率：一个事件在另一个事件发生条件下的条件概率 \[P(y|x)\] 贝叶斯公式：联合概率公式直接能推导出来的 阅读全文
摘要：
参考文献： http://www.runoob.com/python/python-func-next.html 阅读全文
摘要：
判别模型（discriminative model）和生成模型（generative model）：预测后验概率还是联合概率 判别模型： 直接对输入空间到输出空间的映射h(x)做预测，或者直接对条件概率分布P(y|x)做预测 PM，SVM，NN，KNN，LR，DT 模型一般更准确 不需要预设条件 鲁 阅读全文
摘要：
公式： d = |wx0 + b|/||w||2 推导： 参考文献： https://blog.csdn.net/yutao03081/article/details/76652943 阅读全文
摘要：
基础公式： ∂BA/∂A = BT ∂ATB/∂A = B ∂ATBA/∂A = 2BA 模型函数： hθ(x) = xθ 无正则化损失函数： J(θ) = 1/2(Xθ-Y)2 令偏导∂J(θ)/∂θ等于0，得： θ = (XTX)-1XTY 正则化损失函数： J(θ) = 1/2(Xθ-Y)2+ 阅读全文
摘要：
范数： 非负性：||x|| ≥ 0，且||x|| = 0 当且仅当 x = 0 时成立 齐次性：||k*x|| = |k|*||x|| 三角不等式：||x+y|| ≤ ||x|| + ||y|| 向量范数： ||x||p =(∑|xi|p)1/p ||x||0 = ∑|xi ≠ 0| ||x||1 阅读全文
摘要：
参考文献： https://blog.csdn.net/capecape/article/details/78623897 阅读全文