摘要:
使用Anaconda3,目前已经有了python环境,安装rpy2后可在notebook中自由切换python与R语言,具体步骤如下: 1,安装rpy2 pip install rpy2 2,添加环境变量 R_HOME:R软件主目录 R_USER:C:/Users/Administrator(默认用 阅读全文
摘要:
前提:我使用的anaconda 步骤: 创建新的R环境 conda.bat create -n r r-essentials(现在3版本不能直接使用conda命令) 激活环境 activate r 更新jupyter-core(截止2020-7-9,否则下面一步进行不了)pip install ju 阅读全文
摘要:
结论:蒸馏是个好方法。 模型压缩/蒸馏在论文《Model Compression》及《Distilling the Knowledge in a Neural Network》提及,下面介绍后者及使用keras测试mnist数据集。 蒸馏:使用小模型模拟大模型的泛性。 通常,我们训练mnist时,t 阅读全文
摘要:
先说结论:没经过仔细调参,打不开论文所说代码链接(fq也没打开),结果和普通卷积网络比较没有优势。反倒是BN对网络起着非常重要的作用,达到了99.17%的测试精度(训练轮数还没到过拟合)。 论文为《Training Very Deep Networks》,一说其在resnet前发表,resnet模仿 阅读全文
摘要:
很多框架都会提供一种Pipeline的机制,通过封装一系列操作的流程,调用时按计划执行即可。比如netty中有ChannelPipeline,TensorFlow的计算图也是如此。 下面简要介绍sklearn中pipeline的使用: from sklearn.pipeline import Pip 阅读全文
摘要:
算法流程参考:https://blog.csdn.net/nickkissbaby_/article/details/81066643 解释及可视化参考:https://blog.csdn.net/weixin_40170902/article/details/80092628 下面简要总结一下: 阅读全文
摘要:
GAN由论文《Ian Goodfellow et al., “Generative Adversarial Networks,” arXiv (2014)》提出。 GAN与VAEs的区别 GANs require differentiation through the visible units, 阅读全文
摘要:
1,TensorFlow-cpu优化 当你使用cpu版TensorFlow时(比如pip安装),你可能会遇到警告,说你cpu支持AVX/AVX2指令集,那么在以下网址下载对应版本。 https://github.com/fo40225/tensorflow-windows-wheel 具体使用git 阅读全文
摘要:
VAEs最早由“Diederik P. Kingma and Max Welling, “Auto-Encoding Variational Bayes, arXiv (2013)”和“Danilo Jimenez Rezende, Shakir Mohamed, and Daan Wierstra 阅读全文
摘要:
论文《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》 以下陆续介绍bert及其变体(介绍的为粗体) bert自从横空出世以来,引起广泛关注,相关研究及bert变体/扩展喷涌而出,如EL 阅读全文