摘要：基本模型： class Model: def __init__(self): self.pre=None def __call__(self,pre): u=self while u.pre!=None: u=u.pre u.pre=pre return self def forward(self, 阅读全文

摘要：【学习笔记】用numpy实现一个简单的MLP 之前我用numpy实现了多项式逻辑回归，这次打算用同样的数据在MLP上试试 模型结构很简单，就是一个双层的MLP，输入是二维的向量，隐藏层是由三个神经元组成的全连接层（激活函数是tanh），最后通过logistic回归输出类别$\hat y$ 正向及反向 阅读全文

摘要：多项式逻辑回归就是在逻辑回归的基础上将高次项作为特征加进去，以实现高维特征的提取 一、模型构建 多项式逻辑回归模型是由三个子模型组成： （1）添加多项式特征 （2）标准化 （3）逻辑回归 添加多项式特征 将各个特征之间相乘得到新的特征，比如原来的特征是$[x_0,x_1]$ 二次多项式特征是$[1, 阅读全文

摘要：对上帝来说，一切都是确定的，因此概率作为一门学问存在，正好证明了人类的无知。好在人类还是足够聪明的，我们并没有因为事物是随机的而束手无措，我们根据事物的可能性来决定我们的行为。比如，某个人抢银行之前，一定反反复复考虑过各种可能性。如果人们要等到一切都确定后再做，那么你可能什么都做不了，因为几乎一切都 阅读全文

摘要：接触机器学习有一段时间了，对于“似然”与“交叉熵”这两个概念，有多位老师都讲到过，但我对这两个概念的理解一直不怎么清晰，看网上的各种资料也是一头雾水，这两天复习的时候终于有所开悟了，于是记录下自己对这两个概念的一点理解 考虑如下一类问题：给定数据集$[\bm{x_1},\bm{x_2},...,\b 阅读全文