摘要: 1.深度前馈网络 定义了一个映射 y = f(x;θ),并且学习参数 θ 的值,使它能够得到最佳的函数近似 2.这种模型被称为前向(feedforward) 在模型的输出和模型本身之间没有反馈(feedback)连接 3.深度(depth) 模型的层数 4.隐藏层(hidden layer) 隐藏层 阅读全文
posted @ 2018-11-30 11:14 大来 阅读(682) 评论(0) 推荐(0) 编辑
摘要: 1.简单的配方 特定的数据集、代价函数、优化过程和模型 2.线性回归算法 X 和 y 构成的数据集 代价函数 最常见的代价函数是负对数似然,最小化代价函数导致的最大似然估计 代价函数也可能含有附加项,如正则化项 模型是 p model (y | x) = N(y;x ⊤ w + b,1) 优化算法可 阅读全文
posted @ 2018-11-30 10:48 大来 阅读(162) 评论(0) 推荐(0) 编辑
摘要: 1.SGD 代价函数通常可以分解成每个样本的代价函数的总和 阅读全文
posted @ 2018-11-30 10:40 大来 阅读(115) 评论(0) 推荐(0) 编辑
摘要: 1.表示 低维表示、稀疏表示和独立表示 低维表示尝试将 x 中的信息尽可能压缩在一个较小的表示中 稀疏表示将数据集嵌入到输入项大多数为零的表示中 独立表示试图分开数据分布中变化的来源,使得表示的维度是统计独立的 2.主成分分析 SVD 3.k-均值聚类 阅读全文
posted @ 2018-11-30 10:31 大来 阅读(476) 评论(0) 推荐(0) 编辑
摘要: 1.概率监督学习 2.支持向量机 SVM 这个模型也是基于线性函数 w ⊤ x + b 的 支持向量机不输出概率,只输出类别 3.最近邻回归 4.决策树 阅读全文
posted @ 2018-11-30 10:13 大来 阅读(348) 评论(0) 推荐(0) 编辑