摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld 技术交流QQ群:433250724,欢迎对算法、技术、应用感兴趣的同学加入双调排序是data-independent的排序, 即比较顺序与数据无关的排序方法, 特别适合做并行计算,例如用GPU、... 阅读全文
posted @ 2017-07-30 23:29 DownUp 阅读(1986) 评论(1) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术、应用感兴趣的同学加入。 文章索引::”机器学习方法“,”深度学习方法”,“三十分钟理解”原创系列2017年3 月,谷歌大脑负责人 Jef... 阅读全文
posted @ 2017-07-29 21:45 DownUp 阅读(3427) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、机器学习技术感兴趣的同学加入。后面陆续写一些关于神经网络加速芯片设计的paper,前面已经写了ISSCC2017,当然,因为只有利用不加班的下... 阅读全文
posted @ 2017-07-02 20:45 DownUp 阅读(754) 评论(0) 推荐(0) 编辑
摘要: 今年去参加了ASPLOS 2017大会,这个会议总体来说我感觉偏系统和偏软一点,涉及硬件的相对少一些,对我这个喜欢算法以及硬件架构的菜鸟来说并不算非常契合。中间记录了几篇相对比较有趣的paper,今天简单写一篇。SC-DCNN: Highly-Scalable Deep Convol... 阅读全文
posted @ 2017-05-30 22:35 DownUp 阅读(357) 评论(0) 推荐(0) 编辑
摘要: 上一篇我们介绍了:深度学习方法(十二):卷积神经网络结构变化——Spatial Transformer Networks,STN创造性地在CNN结构中装入了一个可学习的仿射变换,目的是增加CNN的旋转、平移、缩放、剪裁性。为什么要做这个很奇怪的结构呢?原因还是因为CNN不够鲁棒,比如... 阅读全文
posted @ 2017-04-19 22:44 DownUp 阅读(591) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、机器学习技术感兴趣的同学加入。今天具体介绍一个Google DeepMind在15年提出的Spatial Transformer Networ... 阅读全文
posted @ 2017-04-03 23:45 DownUp 阅读(396) 评论(0) 推荐(0) 编辑
摘要: 线性插值先讲一下线性插值:已知数据 (x0, y0) 与 (x1, y1),要计算 [x0, x1] 区间内某一位置 x 在直线上的y值(反过来也是一样,略):y−y0x−x0=y1−y0x1−x0y=x1−xx1−x0y0+x−x0x1−x0y1上面比较好理解吧,仔细看就是用x和x... 阅读全文
posted @ 2017-03-25 00:20 DownUp 阅读(765) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、机器学习技术感兴趣的同学加入。上一篇讲了深度学习方法(十):卷积神经网络结构变化——Maxout Networks,Network In Ne... 阅读全文
posted @ 2017-03-15 23:30 DownUp 阅读(394) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。最近接下来几篇博文会回到神经网络结构的讨论上来,前面我在“深度学习方法(五):卷积神经网络CNN经典模型整理Lenet,... 阅读全文
posted @ 2017-03-11 16:52 DownUp 阅读(470) 评论(0) 推荐(0) 编辑
摘要: A 288μW Programmable Deep-Learning Processor with 270KB On-Chip Weight Storage Using Non-Uniform Memory Hierarchy for Mobile Intelligence单位:Mi... 阅读全文
posted @ 2017-03-08 23:03 DownUp 阅读(199) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。深度学习最大的贡献,个人认为就是表征学习(representation learning),通过端到端的训练,发现更好的... 阅读全文
posted @ 2017-03-06 00:03 DownUp 阅读(660) 评论(0) 推荐(0) 编辑
摘要: 神经网络的训练算法,目前基本上是以Backpropagation (BP) 反向传播为主(加上一些变化),NN的训练是在1986年被提出,但实际上,BP 已经在不同领域中被重复发明了数十次了(参见 Griewank (2010)[1])。更加一般性且与应用场景独立的名称叫做:反向微分... 阅读全文
posted @ 2017-03-04 22:33 DownUp 阅读(433) 评论(0) 推荐(0) 编辑
摘要: 这是一个导读,可以快速找到我记录的关于人工智能(深度学习)加速芯片论文阅读笔记。ISSCC 2017 Session14 Deep Learning Processors:ISSCC 2017关于Deep Learning Processors的Slides笔记,主要参考了[1]中的笔记,自己根据p... 阅读全文
posted @ 2017-02-20 21:53 DownUp 阅读(353) 评论(0) 推荐(0) 编辑
摘要: A 0.62mW Ultra-Low-Power Convolutional-Neural-Network Face-Recognition Processor and a CIS Integrated with Always-On Haar-Like Face Detector单位... 阅读全文
posted @ 2017-02-19 23:53 DownUp 阅读(279) 评论(0) 推荐(0) 编辑
摘要: ENVISION: A 0.26-to-10 TOPS/W Subword-Parallel Dynamic-Voltage-Accuracy-Frequency-Scalable CNN Processor in 28nm FDSOI单位:EAST-MICAS, KU Leuven... 阅读全文
posted @ 2017-02-18 21:48 DownUp 阅读(346) 评论(0) 推荐(0) 编辑
摘要: A 28nm SoC with a 1.2GHz 568nJ/Prediction Sparse Deep-Neural-Network Engine with >0.1 Timing Error Rate Tolerance for IoT Applications单位:Harva... 阅读全文
posted @ 2017-02-15 00:02 DownUp 阅读(232) 评论(0) 推荐(0) 编辑
摘要: 转载请注明,本文出自Bin的专栏http://blog.csdn.net/xbinworld,谢谢!DNPU: An 8.1TOPS/W Reconfigurable CNN-RNN Processor for General-Purpose Deep Neural Networks... 阅读全文
posted @ 2017-02-12 23:42 DownUp 阅读(257) 评论(0) 推荐(0) 编辑
摘要: 最近ISSCC2017大会刚刚举行,看了关于Deep Learning处理器的Session 14,有一些不错的东西,在这里记录一下。A 2.9TOPS/W Deep Convolutional Neural Network SoC in FD-SOI 28nm for Intell... 阅读全文
posted @ 2017-02-12 03:29 DownUp 阅读(377) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.NET/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。上一篇博文深度学习方法(八):Encoder-Decoder模型,基本Sequence to Sequence模型描述了... 阅读全文
posted @ 2017-02-04 00:27 DownUp 阅读(627) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。Encoder-Decoder(编码-解码)是深度学习中非常常见的一个模型框架,比如无监督算法的auto-encoding就... 阅读全文
posted @ 2017-01-19 00:07 DownUp 阅读(1263) 评论(0) 推荐(0) 编辑
摘要: 什么是像素?中文全称为图像元素。像素仅仅只是分辨率的尺寸单位,而不是画质。从定义上来看,像素是指基本原色素及其灰度的基本编码。 像素是构成数码影像的基本单元,通常以像素每英寸PPI(pixels per inch)为单位来表示影像分辨率的大小。例如300x300PPI分辨率,即表示水平方向与垂直方向... 阅读全文
posted @ 2016-09-10 19:52 DownUp 阅读(1682) 评论(0) 推荐(0) 编辑
摘要: 在电影《微微一笑很倾城》中,肖奈大神在玻璃上写了一堆公式,提到平方根倒数速算算法,这个到底是一个什么算法?笔者看电影的时候打开手机学了一下,发现该算法的作者真乃神人!今天有空,就把该算法写一写。在3D图形编程中,经常要求平方根的倒数,即1/Sqrt(x),如果用一般的代码(float)(1.0/sq... 阅读全文
posted @ 2016-09-03 12:22 DownUp 阅读(509) 评论(0) 推荐(0) 编辑
摘要: 为什么写技术博客对新人如此重要?」。希望对在职者有所帮助,也对新人有所启发。 台湾和大陆的对比 首先谈谈台湾情况,Programmer 在台湾不叫程序员,而是程式设计师,从搜索引擎找台湾程序员,往往得到的是内地搜索结果。过去程式设计师在台湾地位很高,但近十年来,年轻一代越来越不热衷编程,台湾资讯工程 阅读全文
posted @ 2016-04-13 09:50 DownUp 阅读(165) 评论(0) 推荐(0) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。纳什均衡(或者纳什平衡),Nash equilibrium ,又称为非合作博弈均衡,是博弈论的一个重要策略组合,以约翰·... 阅读全文
posted @ 2016-03-20 00:52 DownUp 阅读(4675) 评论(0) 推荐(1) 编辑
摘要: 欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群:433250724,欢迎对算法、技术感兴趣的同学加入。继续前面关于深度学习CNN经典模型的整理,之前介绍了CNN网络Lenet,Alexnet,Googlenet,VGG,D... 阅读全文
posted @ 2016-03-16 00:39 DownUp 阅读(590) 评论(0) 推荐(0) 编辑
摘要: 前面两篇介绍了SOM的基本概念和算法,第一部分,第二部分,本篇具体展开一下应用中的一些trick设定。SOM设计细节输出层设计 输出层神经元数量设定和训练集样本的类别数相关,但是实际中我们往往不能清除地知道有多少类。如果神经元节点数少于类别数,则不足以区分全部模式,训练的结果势必将相... 阅读全文
posted @ 2016-03-15 00:21 DownUp 阅读(656) 评论(0) 推荐(0) 编辑
摘要: 上一篇介绍了一些自组织神经网络的基本概念,第一部分,这一篇讲下SOM的概念和原理,是本文的第二部分。1、SOM背景1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网,简称SOM网,又称Kohonen网。Kohonen认为:一个神经网络接受外界输入模式时,... 阅读全文
posted @ 2016-03-08 22:50 DownUp 阅读(1058) 评论(0) 推荐(1) 编辑
摘要: 自组织神经网络介绍:自组织特征映射SOM(Self-organizing feature Map),第一部分 自组织神经网络介绍:自组织特征映射SOM(Self-organizing feature Map),第二部分 自组织神经网络介绍:自组织特征映射SOM(Self-organi... 阅读全文
posted @ 2016-03-07 23:21 DownUp 阅读(640) 评论(0) 推荐(0) 编辑
摘要: 索尔克研究所发布的数据表明,人脑记忆容量可达到PB级别,相当于整个互联网的数据量,这项研究也揭开了人脑高效节能之谜。发现也将有助于计算机科学家开发超精密的、高效节能的计算机,尤其是那些配置深度学习和人工神经网络的机器,这些程序能够胜任复杂的学习和分析,例如语音识别、图像识别和翻译。 ... 阅读全文
posted @ 2016-03-01 21:52 DownUp 阅读(260) 评论(0) 推荐(0) 编辑
摘要: 证明定理:喝醉的酒鬼总能找到回家的路,喝醉的小鸟则可能永远也回不了家。假设有一条水平直线,从某个位置出发,每次有 50% 的概率向左走1米,有50%的概率向右走1米。按照这种方式无限地随机游走下去,最终能回到出发点的概率是多少?答案是100% 。在一维随机游走过程中,只要时间足够长,我们最终总能回到... 阅读全文
posted @ 2016-02-21 16:40 DownUp 阅读(1133) 评论(0) 推荐(0) 编辑