机器学习之感知机
感知机:
1.感知机关键在于损失函数最小化
2.当初值和分类点选择顺序不同时,算得的结果不同。
3.当线性不可分时,感知机算法不收敛,迭代结果震荡。
4.感知机和随机梯度下降。
5.pocket algorithm 口袋算法:每次梯度下降时和“口袋”比较,将损失更小的放到“口袋”里。
6.voted perceptron 投票算法:某个预测向量能产生更多的正确预测值,那就应该有更大的权重。将预测正确作为权重。
遗留问题:
1.感知机两种方法:原始形式和对偶形式,应用上有什么差别?