[机器学习]开始分类第六天
今天开始机器学习进一步学习,有关分类问题的相关知识。
分类问题所关注的数据有较为明显的分类趋势。以二元问题为例。数据以某一边界,分为或者大致分为两个区域,用y来表示两者的值的话,就是y的取值只有0或1两个可能。
分类问题所用到的算法为逻辑回归,就是将值约束在0和1之间。比如sigmoid函数,当x趋近于正无穷时,函数值趋近于1;当x趋近于负无穷时,函数值趋近于0。此时函数值可以表示为预测结果为1或0的可能性。
而在多类分类问题上面,可以采取一对多(one-vs-all)策略,即将每个类别单独计算,把其他类别统一看作负样本,来进行分类任务。
另外,除了梯度下降算法,还有其他优化算法,相比梯度下降算法,优化算法可以不用选择学习率,从而获得更快的收敛速度,但是会更加复杂。