摘要:
1.梯度下降算法 (1)如上式的梯度下降算法,α是学习速率,它控制着我们以多大的幅度来更新这个参数θj,这个地方第二部分是偏导数项, (2)例1。我们最小化函数只有一个参数的情形,加入我们的成本函数只有一个参数,如下图关于θ1的成本函数是一个凸函数,我们从函数的任一点上开始做梯度下降,梯度下降就是不 阅读全文
摘要:
1.用梯度下降算法来训练或者学习训练集上的参数w和b,如下所示,第一行是logistic回归算法,第二行是成本函数J,它被定义为1/m的损失函数之和,损失函数可以衡量你的算法的效果,每一个训练样例都输出y,把它和基本真值标签y进行比较 右边展示了完整的公式,成本函数衡量了参数w和b在训练集上的效果。 阅读全文
摘要:
1.Logistic Regression是一个二元分类问题 (1)已知输入的特征向量x可能是一张图,你希望把它识别出来,这是不是猫图,你需要一个算法,可以给出预测值,更正式的y是一个概率,当输入特征x满足条件的时候y就是1。换句话说,如果x是图片,那就需要拿到一张猫图的概率。 (2)Sigmoid 阅读全文
摘要:
1.基本神经网络编程:二分分类算法 (1)从一个例子开始,有一个二分分类问题的例子,假如有这样的一张图片作为输入,现在要输出识别此图的标签,如果是猫则输出1,如果不是猫就输出0,我们用y来表示结果标签。 接下来看看一张图片在计算机中是如何表示的,计算机中要保存一张图片需要三个独立的矩阵,分别保存图片 阅读全文
摘要:
1.到目前为止的神经网络都是基于监督学习的过程。在监督学习中,输入x,习得一个函数,映射到输出y, 2.CNN(Convolutional nerual networks)卷积神经网络主要用于图像领域;RNN(Recurrent neural networks)循环神经网络经常用于处理序列数据,如音 阅读全文
摘要:
1.我们之前已经定义了代价函数J,可以将代价函数J最小化的方法,梯度下降是最常用的算法,它不仅仅用在线性回归上,还被应用在机器学习的众多领域中,在后续的课程中,我们将使用梯度下降算法最小化其他函数,而不仅仅是最小化线性回归的代价函数J。本节课中,主要讲用梯度下降的算法来最小化任意的函数J,下图是我们 阅读全文
摘要:
1.下面是我们惯例的公式,有假设函数、参数和代价函数以及我们优化的目标 和上节课不同的是,对代价函数图形化的时候,这次课我们要保留全部参数theta0和theta1,这里是关于房价的训练集,之前我们只有一个参数theta1,画出来的形状是一个碗状函数,当我们有两个参数的时候,J(theta0,the 阅读全文
摘要:
1.我们希望找到一条与数据拟合的直线,所以我们构造了下面这个假设函数,包括theta0和theta1,随着参数的选择不同,我们会得到不同的直线,和数据相符额直线如下图绿色直线,代价函数是J(theta0,theta1),我们的目标是最小化代价函数 2.为了更好的使得代价函数J可视化,我们使用一个简化 阅读全文
摘要:
一、简介 1.在线性回归中,我们有一个这样的训练集,M代表训练样本的数量,假设函数即用来进行预测的函数是这样的线性函数的形式,我们接下来看看怎么选择这两个参数: 2.如下图中,怎么选择两个参数来更好的拟合数据呢? 我们要尽量选择参数值,使得在训练集中,给出训练集中的x值,合理准确的预测y值。在线性回 阅读全文
摘要:
一、简介:案例仍然是房价预测的例子,监督学习:每个例子都有一个“正确的”答案 1.m表示训练样本的个数 2.(x,y)表示一个训练样本 3.x(i),y(i),这里i这个上标,不是幂指数,而是训练集的一个索引,指的是表格中的第i行 4.监督学习算法的工作流程:(1)首先向算法中提供训练集;(2)学习 阅读全文