摘要: 使用Anaconda3,目前已经有了python环境,安装rpy2后可在notebook中自由切换python与R语言,具体步骤如下: 1,安装rpy2 pip install rpy2 2,添加环境变量 R_HOME:R软件主目录 R_USER:C:/Users/Administrator(默认用 阅读全文
posted @ 2020-09-03 23:17 我的锅 阅读(1406) 评论(0) 推荐(0) 编辑
摘要: 前提:我使用的anaconda 步骤: 创建新的R环境 conda.bat create -n r r-essentials(现在3版本不能直接使用conda命令) 激活环境 activate r 更新jupyter-core(截止2020-7-9,否则下面一步进行不了)pip install ju 阅读全文
posted @ 2020-07-09 22:42 我的锅 阅读(1104) 评论(0) 推荐(0) 编辑
摘要: 结论:蒸馏是个好方法。 模型压缩/蒸馏在论文《Model Compression》及《Distilling the Knowledge in a Neural Network》提及,下面介绍后者及使用keras测试mnist数据集。 蒸馏:使用小模型模拟大模型的泛性。 通常,我们训练mnist时,t 阅读全文
posted @ 2019-11-28 16:40 我的锅 阅读(3406) 评论(2) 推荐(0) 编辑
摘要: 先说结论:没经过仔细调参,打不开论文所说代码链接(fq也没打开),结果和普通卷积网络比较没有优势。反倒是BN对网络起着非常重要的作用,达到了99.17%的测试精度(训练轮数还没到过拟合)。 论文为《Training Very Deep Networks》,一说其在resnet前发表,resnet模仿 阅读全文
posted @ 2019-11-27 21:37 我的锅 阅读(483) 评论(0) 推荐(0) 编辑
摘要: 很多框架都会提供一种Pipeline的机制,通过封装一系列操作的流程,调用时按计划执行即可。比如netty中有ChannelPipeline,TensorFlow的计算图也是如此。 下面简要介绍sklearn中pipeline的使用: from sklearn.pipeline import Pip 阅读全文
posted @ 2019-11-27 10:39 我的锅 阅读(1775) 评论(0) 推荐(0) 编辑
摘要: 算法流程参考:https://blog.csdn.net/nickkissbaby_/article/details/81066643 解释及可视化参考:https://blog.csdn.net/weixin_40170902/article/details/80092628 下面简要总结一下: 阅读全文
posted @ 2019-11-26 11:17 我的锅 阅读(334) 评论(0) 推荐(0) 编辑
摘要: GAN由论文《Ian Goodfellow et al., “Generative Adversarial Networks,” arXiv (2014)》提出。 GAN与VAEs的区别 GANs require differentiation through the visible units, 阅读全文
posted @ 2019-11-21 21:11 我的锅 阅读(4292) 评论(0) 推荐(0) 编辑
摘要: 1,TensorFlow-cpu优化 当你使用cpu版TensorFlow时(比如pip安装),你可能会遇到警告,说你cpu支持AVX/AVX2指令集,那么在以下网址下载对应版本。 https://github.com/fo40225/tensorflow-windows-wheel 具体使用git 阅读全文
posted @ 2019-11-21 12:17 我的锅 阅读(1081) 评论(0) 推荐(0) 编辑
摘要: VAEs最早由“Diederik P. Kingma and Max Welling, “Auto-Encoding Variational Bayes, arXiv (2013)”和“Danilo Jimenez Rezende, Shakir Mohamed, and Daan Wierstra 阅读全文
posted @ 2019-11-20 23:54 我的锅 阅读(1296) 评论(1) 推荐(0) 编辑
摘要: 论文《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》 以下陆续介绍bert及其变体(介绍的为粗体) bert自从横空出世以来,引起广泛关注,相关研究及bert变体/扩展喷涌而出,如EL 阅读全文
posted @ 2019-11-19 19:10 我的锅 阅读(3925) 评论(0) 推荐(0) 编辑