摘要:
涉及问题:1.每个图如何卷积:(1)一个图如何变成几个?(2)卷积核如何选择?2.节点之间如何连接?3.S2-C3如何进行分配?4.16-120全连接如何连接?5.最后output输出什么形式?①各个层解释: 我们先要明确一点:每个层有多个Feature Map,每个Feature Map通过一种卷... 阅读全文
摘要:
人脸验证算法Joint Bayesian详解及实现(Python版)Tags: JointBayesian DeepLearning Python本博客仅为作者记录笔记之用,不免有很多细节不对之处。还望各位看官能够见谅,欢迎批评指正。博客虽水,然亦博主之苦劳也。如对代码有兴趣的请移步我的Github... 阅读全文
摘要:
本文介绍多层感知机算法,特别是详细解读其代码实现,基于python theano,代码来自:Multilayer Perceptron,如果你想详细了解多层感知机算法,可以参考:UFLDL教程,或者参考本文第一部分的算法简介。经详细注释的代码:放在我的github地址上,可下载。一、多层感知机(ML... 阅读全文
摘要:
Stochastic Gradient Descent (SGD)SGD的参数在使用随机梯度下降(SGD)的学习方法时,一般来说有以下几个可供调节的参数:Learning Rate 学习率Weight Decay 权值衰减Momentum 动量Learning Rate Decay 学习率衰减再此之... 阅读全文
摘要:
理解dropout注意:图片都在github上放着,如果刷不开的话,可以考虑FQ。转载请注明:http://blog.csdn.net/stdcoutzyx/article/details/49022443开篇明义,dropout是指在深度学习网络的训练过程中,对于神经网络单元,按照一定的概率将其暂... 阅读全文
摘要:
首先PO上主要Python代码(2.7), 这个代码在Deep Learning上可以找到. 1 # allocate symbolic variables for the data 2 index = T.lscalar() # index to a [mini]batch 3 ... 阅读全文
摘要:
一、多层感知机MLP1、MLP概述对于含有单个隐含层的多层感知机(single-hidden-layer Multi-Layer Perceptron, MLP),可以将其看成是一个特殊的Logistic回归分类器,这个特殊的Logistic回归分类器首先通过一个非线性变换Φ(non-linear ... 阅读全文
摘要:
Scan是干什么的函数scan是Theano中迭代的一般形式,所以可以用于类似循环(looping)的场景。 如果你熟悉Reduction和map两个函数,这两个都是scan的特殊形式,即将某函数依次作用一个序列的每个元素上。 函数scan的输入也是一些序列(一维数组,或者多维数组,以第一维为lea... 阅读全文
摘要:
有了前面的准备,可以用Theano实现一个逻辑回归程序,逻辑回归是典型的有监督学习。为了形象,这里我们假设分类任务是区分人与狗的照片。首先是生成随机数对象[python]view plaincopyimportnumpyimporttheanoimporttheano.tensorasTrng=nu... 阅读全文
摘要:
theano 模块 MLP示例,有需要的朋友可以参考下。theano教程Example: MLP:约定数组为列向量,层级:将多层传感器定义为一连串的层级,每个层级定义为一个类。类属性包括:权重、偏差矢量、以及计算这一层输出的函数。如果不使用Theano,我们可能希望输出函数会接收一个向量并返回图层的... 阅读全文