摘要:
前言 前段时间更新自己电脑上的tf1.4到1.9,没想到踩了这么多坑。。。特意记录下来希望可以帮到大家 删除旧版本 如果你电脑上没有安装旧版本的tf,就可以忽略这一步。我是因为想要升级到最新版本,所以需要先卸载旧版本。旧版本是用anaconda安装的,卸载很简单,首先进入安装tf的环境,我的环境是“ 阅读全文
摘要:
Summary 本文提出超越神经架构搜索(NAS)的高效神经架构搜索(ENAS),这是一种经济的自动化模型设计方法,通过强制所有子模型共享权重从而提升了NAS的效率,克服了NAS算力成本巨大且耗时的缺陷,GPU运算时间缩短了1000倍以上。在Penn Treebank数据集上,ENAS实现了55.8 阅读全文
摘要:
Title 文章标题 Summary 写完笔记之后最后填,概述文章的内容,以后查阅笔记的时候先看这一段。 Research Objective 作者的研究目标 Problem Statement 问题陈述,要解决什么问题? Method(s) 解决问题的方法/算法是什么? Evaluation 作者 阅读全文
摘要:
定义 无偏估计 :估计量的均值等于真实值,即具体每一次估计值可能大于真实值,也可能小于真实值,而不能总是大于或小于真实值(这就产生了系统误差)。 估计量评价的标准 (1) 无偏性 如上述 (2) 有效性 有效性是指估计量与总体参数的离散程度。如果两个估计量都是无偏的,那么离散程度较小的估计量相对而言 阅读全文
摘要:
在计算loss的时候,最常见的一句话就是 tf.nn.softmax_cross_entropy_with_logits ,那么它到底是怎么做的呢? 首先明确一点,loss是代价值,也就是我们要最小化的值 tf.nn.softmax_cross_entropy_with_logits(logits, 阅读全文
摘要:
摘要 本文提出了一种新方法,可以基于简单的爬山过程自动搜索性能良好的CNN架构,该算法运算符应用网络态射,然后通过余弦退火进行短期优化运行。 令人惊讶的是,这种简单的方法产生了有竞争力的结果,尽管只需要与训练单个网络相同数量级的资源。例如使用该算法,在单个GPU上训练12个小时就可以将CIFAR 1 阅读全文
摘要:
# 总结 | Problem | Introduction | | | | | P | 能在**多项式时间**里**找到**一个解决算法 | | NP | 能在**多项式时间**里**验证**一个解是否正确 | | NPC | 1.首先必须是一个**NP问题** 2.所有的NP问题都能**reduc 阅读全文
摘要:
摘要 神经网络在多个领域都取得了不错的成绩,但是神经网络的合理设计却是比较困难的。在本篇论文中,作者使用 递归网络 去省城神经网络的模型描述,并且使用 增强学习 训练RNN,以使得生成得到的模型在验证集上取得最大的准确率。 在 CIFAR 10 数据集上,基于本文提出的方法生成的模型在测试集上得到结 阅读全文
摘要:
推荐一下自己的survey工作 "《AutoML: A Survey of State of the Art》" ,有任何修改意见欢迎留言或者邮件告知。 以下内容是对 "AutoML技术现状与未来展望讲座" 的总结。 1.机器学习定义 《西瓜书》中的直观定义是:利用经验来改善系统的性能。(这里的经验 阅读全文
摘要:
本文为 "Awesome AutoML Papers" 的译文。 1、AutoML简介 Machine Learning几年来取得的不少可观的成绩,越来越多的学科都依赖于它。然而,这些成果都很大程度上取决于人类机器学习专家来完成如下工作: 数据预处理 Preprocess the data 选择合适 阅读全文