摘要:
考虑一个多分类问题,即预测变量y可以取k个离散值中的任何一个.比如一个邮件分类系统将邮件分为私人邮件,工作邮件和垃圾邮件。由于y仍然是一个离散值,只是相对于二分类的逻辑回归多了一些类别。下面将根据多项式分布建模。考虑将样本共有k类,每一类的概率分别为,由于,所以通常我们只需要k-1个参数即可,为了推... 阅读全文
摘要:
开始,首先下载数据ex4Data.zip假设该数据集代表着一所高中学生中40名被大学录取,而另外40名没有被大学录取。每一个训练样例(x(i),y(i))包含一个学生的两科标准考试成绩以及是否被录取的标签。现在需要建立一个分类模型,要求根据学生的两科考试成绩,来判断学生被录取的概率。画出数据:x =... 阅读全文
摘要:
在逻辑回归之问题建模分析中我们提到最大化参数θ的最大化似然函数可以用梯度下降法,对参数进行更新直至上面的对数似然函数收敛。下面引入另一种方法:牛顿方法。开始,首先我们考虑如何找到一个函数的零点。也就是我们有一个函数:,我们希望找到一个值θ,使得.我们首先随机取某一点(x,f(x)),那么f(x)在该... 阅读全文