随笔分类 - 深度学习
摘要：A Statistical View of Deep Learning(IV): Recurrent Nets and Dynamical SystemsRecurrent neural networks (RNNs) are now established as one of the key to...
阅读全文
摘要：A Statistical View of DeepLearning (III): Memory and KernelsMemory,the ways in which we remember and recall past experiences and data to reason about ...
阅读全文
摘要：Can deep learning help you find the perfect girl?One of the first things I did when I moved to Montreal was installingTinder. For those of you not fam...
阅读全文
摘要：A Statistical View of Deep Learning(II): Auto-encoders and Free EnergyWith the success ofdiscriminative modellingusing deep feedforward neural network...
阅读全文
摘要：A Statistical View of DeepLearning (I): Recursive GLMsDeep learningand the use of deep neural networks [1] are now established as a key tool for pract...
阅读全文
摘要：Why GEMM is at the heart of deeplearningI spend most of my time worrying about how to make deep learning with neural networks faster and more power ef...
阅读全文
摘要：The Derivation About CNN and Antoencoder公式推导本人用latex写的关于CNN和autoencoder的推导，前向和反向传播的推导都有证明。pdf下载地址The Derivation about CNN and Antoencoder The Derivat...
阅读全文
摘要：专家观点碰撞：深度学习能否取代其他机器学习算法摘要：深度学习在最近两年非常火爆，但深度学习能否取代其他机器学习算法？纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点，CSDN编辑将其翻译如下，并加上一些国内人工智能专家的观点，供大家参考。【编者按】深度学习在最近两年非常火爆，但深...
阅读全文
摘要：降噪自动编码器（Denoising Autoencoder)起源：PCA、特征提取....随着一些奇怪的高维数据出现，比如图像、语音，传统的统计学-机器学习方法遇到了前所未有的挑战。数据维度过高，数据单调,噪声分布广，传统方法的“数值游戏”很难奏效。数据挖掘？已然挖不出有用的东西。为了解决高维度的问...
阅读全文
摘要：栈式自动编码器(Stacked AutoEncoder)起源：自动编码器单自动编码器，充其量也就是个强化补丁版PCA，只用一次好不过瘾。于是Bengio等人在2007年的 Greedy Layer-Wise Training of Deep Networks中，仿照stacked RBM构成的DBN...
阅读全文
摘要：限制Boltzmann机（Restricted Boltzmann Machine）起源：Boltzmann神经网络Boltzmann神经网络的结构是由Hopfield递归神经网络改良过来的，Hopfield中引入了统计物理学的能量函数的概念。即，cost函数由统计物理学的能量函数给出，随着网络的训...
阅读全文
摘要：深度神经网络结构以及Pre-Training的理解Logistic回归、传统多层神经网络1.1 线性回归、线性神经网络、Logistic/Softmax回归线性回归是用于数据拟合的常规手段，其任务是优化目标函数：h(θ)=θ+θ1x1+θ2x2+....θnxn线性回归的求解法通常为两种：①解优化多...
阅读全文
摘要：CNN训练Cifar-10技巧关于数据集 Cifar-10是由Hinton的两个大弟子Alex Krizhevsky、Ilya Sutskever收集的一个用于普适物体识别的数据集。Cifar是加拿大政府牵头投资的一个先进科学项目研究所。说白了，就是看你穷的没钱搞研究，就施舍给你。Hinton、Be...
阅读全文
摘要：Decision Boundaries for Deep Learning and other Machine Learning classifiersH2O, one of the leading deep learning framework in python, is now availabl...
阅读全文
摘要：【深度学习系列4】深度学习及并行化实现概述摘要：深度学习可以完成需要高度抽象特征的人工智能任务，如语音识别、图像识别和检索、自然语言理解等。深层模型是包含多个隐藏层的人工神经网络，多层非线性结构使其具备强大的特征表达能力和对复杂任务建模能力。训练深层模型是长期以来的难题，近年来以层次化、逐层初始化为...
阅读全文
摘要：【深度学习系列3】 Mariana CNN并行框架与图像识别本文是腾讯深度学习系列文章的第三篇，聚焦于腾讯深度学习平台Mariana中深度卷积神经网络Deep CNNs的多GPU模型并行和数据并行框架。将深度卷积神经网络（Convolutional Neural Networks, 简称CNNs）用...
阅读全文
摘要：【深度学习系列2】Mariana DNN多GPU数据并行框架本文是腾讯深度学习系列文章的第二篇，聚焦于腾讯深度学习平台Mariana中深度神经网络DNN的多GPU数据并行框架。深度神经网络（Deep Neural Networks, 简称DNN）是近年来机器学习领域中的研究热点[1][2]，产生了广...
阅读全文
摘要：【深度学习系列1】 深度学习在腾讯的平台化和应用实践引言：深度学习是近年机器学习领域的重大突破，有着广泛的应用前景。随着Google公开Google Brain计划，业界对深度学习的热情高涨。腾讯在深度学习领域持续投入，获得了实际落地的产出。我们准备了四篇文章，阐述深度学习的原理和在腾讯的实践，介绍...
阅读全文
摘要：语义分析的一些方法作者：火光摇曳语义分析的一些方法（上篇）语义分析的一些方法（中篇）语义分析的一些方法（下篇）语义分析，本文指运用各种机器学习方法，挖掘与学习文本、图片等的深层次概念。wikipedia上的解释：In machine learning, semantic analysis of a ...
阅读全文
摘要：Why are very few schools involved in deep learning research? Why are they still hooked on to Bayesian methods?First, this question assumes that every ...
阅读全文
