摘要: 1. 什么是流形 1. 两个例子: 现在我们想表示一个圆, 在平面直角坐标系中,这个圆可以被一个二维点集{(x,y)| x^2 + y^2 流形学习的观点是认为,我们所能观察到的数据实际上是由一个低维流形映射到高维空间上的。由于数据内部特征的限制,一些高维中的数据会产生维度上的冗余,实际上只需要比较 阅读全文
posted @ 2019-02-14 21:28 hzhang_NJU 阅读(2530) 评论(0) 推荐(0) 编辑
摘要: 1. Q1 1. 统计文件中的字符串及其出现次数,按指定格式输出 2. 核心难点讲解:TODO 2. 代码:https://github.com/NjuHaoZhang/MLFall2017_HungYILee/tree/master/hw0 2. Q2 1. 图像亮度调低:把所有点的(r,b,b) 阅读全文
posted @ 2019-02-14 21:24 hzhang_NJU 阅读(186) 评论(0) 推荐(0) 编辑
摘要: 1. 来源一: hw0. https://blog.csdn.net/lala_623625/article/details/78842007 hw1. https://samaelchen.github.io/2017/10/11/machine_learning_hw01/ hw2: https 阅读全文
posted @ 2019-02-14 21:22 hzhang_NJU 阅读(207) 评论(0) 推荐(0) 编辑
摘要: 1. 理解卷积 参考: [1]. https://www.zhihu.com/question/22298352/answer/228543288 [2]. https://www.zhihu.com/question/22298352/answer/34267457 [3]. https://ww 阅读全文
posted @ 2019-02-14 21:18 hzhang_NJU 阅读(233) 评论(0) 推荐(0) 编辑
摘要: 1 . Why Deep? 李宏毅的解释:Modularization 【模块化的益处】 https://zhuanlan.zhihu.com/p/22888385 【另一个知乎大佬】 阅读全文
posted @ 2019-02-14 21:17 hzhang_NJU 阅读(115) 评论(0) 推荐(0) 编辑
摘要: 0. Introduction ML的RoadMap Regression问题中的Errot :Where does the error come from? 一种解释:Errot = bias + variance 【偏差+方差】 所以,如果能做出:Bias and Variance of Est 阅读全文
posted @ 2019-02-14 21:12 hzhang_NJU 阅读(320) 评论(0) 推荐(0) 编辑
摘要: 1. Some tips of Architecture 1. in order to ensure the spatial size satisfy that : input volume == output volume e.g. 5x5 in, 5x5 out. there is a simp 阅读全文
posted @ 2019-02-14 21:09 hzhang_NJU 阅读(770) 评论(0) 推荐(1) 编辑
摘要: 0. curse of high dimension 1. the historty of object detection 2. iccv2009 multiclass 1. Sharing invariances object recognition is invariant to rotati 阅读全文
posted @ 2019-02-14 21:07 hzhang_NJU 阅读(146) 评论(0) 推荐(0) 编辑
摘要: 1. keras.utils下面的api CustomObjectScope 提供一个无法转义的 范围。 语句中的代码将能够通过名称访问自定义对象。 对全局自定义对象的更改会在封闭的 语句中持续存在。 在 语句结束时, 全局自定义对象将恢复到 语句开始时的状态。 HDF5Matrix 使用 HDF5 阅读全文
posted @ 2019-02-14 20:58 hzhang_NJU 阅读(462) 评论(0) 推荐(0) 编辑
摘要: 1. keras封装了Scikit learn,并提供了高层API 1. 你可以使用Keras的顺序模型(仅限单一输入)作为Scikit Learn工作流程的一部分,通过在此找到的包装器: 。有两个封装器可用: , 这实现了Scikit Learn 分类器 接口, , 这实现了Scikit Lear 阅读全文
posted @ 2019-02-14 20:57 hzhang_NJU 阅读(306) 评论(0) 推荐(0) 编辑
摘要: 1. keras中的约束项 1. 模块的函数允许在优化期间对网络参数设置约束(例如非负性)。约束是以层为对象进行的。具体的 API 因层而异,但 ,`Conv1D Conv2D Conv3D` 这些层具有统一的 API。约束层开放 2 个关键字参数: 用于主权重矩阵。 用于偏置。 2. keras内 阅读全文
posted @ 2019-02-14 20:56 hzhang_NJU 阅读(949) 评论(0) 推荐(0) 编辑
摘要: 1. 模型可视化 1. 模块提供了一些绘制Keras模型的实用功能(使用 )。以下实例,将绘制一张模型图,并保存为文件: 有两个可选参数: (默认为False) 控制是否在图中输出各层的尺寸。 (默认为True) 控制是否在图中显示每一层的名字。 2. 此外,你也可以直接取得 对象并自己渲染它。 i 阅读全文
posted @ 2019-02-14 20:56 hzhang_NJU 阅读(347) 评论(0) 推荐(0) 编辑
摘要: 1. 正则化层 1. 正则化器允许在优化过程中对层的参数或层的激活情况进行惩罚。 网络优化的损失函数 也包括 这些惩罚项。( 但不包括 诸如Dropout/人为加Noise这类的正则化)。惩罚是 以层为对象 进行的。具体的 API 因层而异,但 ,`Conv1D Conv2D Conv3D` 这些层 阅读全文
posted @ 2019-02-14 20:55 hzhang_NJU 阅读(1428) 评论(0) 推荐(0) 编辑
摘要: 1. 模型初始化 初始化定义了设置 Keras 各层权重随机初始值的方法。用来将初始化器传入 Keras 层的参数名取决于具体的层。通常关键字为 和 : 内置的初始化工具 (是 模块的一部分) Initializer 初始化器基类:所有初始化器继承这个类。 Zeros 将张量初始值设为 0 的初始化 阅读全文
posted @ 2019-02-14 20:54 hzhang_NJU 阅读(1624) 评论(0) 推荐(0) 编辑
摘要: 1. 后端Backend Keras 是一个模型级库,为开发深度学习模型提供了 高层次 的构建模块。它不处理诸如张量乘积和卷积等低级操作。相反,它依赖于一个专门的、优化的张量操作库来完成这个操作,它可以作为 Keras 的「后端引擎」。相比单独地选择一个张量库,而将 Keras 的实现与该库相关联, 阅读全文
posted @ 2019-02-14 20:52 hzhang_NJU 阅读(270) 评论(0) 推荐(0) 编辑
摘要: 1. 关于Application Keras 的应用模块(keras.applications)提供了带有预训练权值的深度学习模型,这些模型可以用来进行预测、特征提取和微调(fine tuning)。当你初始化一个预训练模型时,会自动下载权值到 目录下。 2. keras内置的Model 在 Ima 阅读全文
posted @ 2019-02-14 20:51 hzhang_NJU 阅读(3471) 评论(0) 推荐(0) 编辑
摘要: 1. CIFAR10 小图像分类数据集 50,000 张 32x32 彩色训练图像数据,以及 10,000 张测试图像数据,总共分为 10 个类 别。 2. CIFAR100 小图像分类数据集 50,000 张 32x32 彩色训练图像数据,以及 10,000 张测试图像数据,总共分为 100 个类 阅读全文
posted @ 2019-02-14 20:50 hzhang_NJU 阅读(699) 评论(0) 推荐(0) 编辑
摘要: 1. 回调函数的使用 回调函数是一个函数的合集,会在 训练 的阶段中所使用。你可以使用回调函数来查看 训练模型的内在状态和统计 。你可以传递一个列表的回调函数(作为 关键字参数)到 或 类型的 方法。在 训练 时,相应的回调函数的方法就会被在 各自的阶段 被调用。 2. keras支持的回调函数 1 阅读全文
posted @ 2019-02-14 20:48 hzhang_NJU 阅读(1136) 评论(0) 推荐(0) 编辑
摘要: 1. 激活函数的使用 激活函数可以通过设置 单独的激活层 实现,也可以在 构造层对象 时通过传递 参数实现 2. keras支持的激活函数 1. softmax 2. elu (指数线性单元) 3. selu (可伸缩的指数线性单元) SELU 等同于: ,其中 alpha 和 scale 是预定义 阅读全文
posted @ 2019-02-14 20:47 hzhang_NJU 阅读(456) 评论(0) 推荐(0) 编辑
摘要: 1. 优化器的使用 1. 优化器(optimizer)是编译Keras模型的所需的两个参数之一: 2. Keras优化器的公共参数 参数 和`clipvalue`能在所有的优化器中使用,用于控制梯度裁剪(Gradient Clipping): 3. keras支持的Optimizers 1. SGD 阅读全文
posted @ 2019-02-14 20:46 hzhang_NJU 阅读(1817) 评论(0) 推荐(0) 编辑