摘要: auto ml主要是提供end-to-end的解决方案,目前也存在很多算法去解决最优解搜索的问题,常见的例如: grid search... 就AutoML的流程而言,可以参考下图: 整个过程中,柱形表示的是:数据,模型,以及要tune的数据对, 如:(lr, accuracy) 用户需要预设定一些 阅读全文
posted @ 2019-03-08 08:55 大球和二憨 阅读(159) 评论(0) 推荐(0) 编辑
摘要: 目标检测(object detection)的基本思路: 检测(detection)+ 定位(localization) 目标检测在很多场景有用,如无人驾驶和安防系统。 传统方法 特征提取算法(如:haar特征,HOG特征)+分类器(如:svm) 深度学习方法 R-CNN (Regions with 阅读全文
posted @ 2018-09-06 21:24 大球和二憨 阅读(671) 评论(0) 推荐(0) 编辑
摘要: 推荐系统在电商等平台使用广泛,这里讨论wide&deep推荐模型,初始是由google推出的,主要用于app的推荐。 概念理解 Wide & Deep模型,旨在使得训练得到的模型能够同时获得记忆(memorization)和泛化(generalization)能力: 记忆(memorization) 阅读全文
posted @ 2018-09-06 16:42 大球和二憨 阅读(5847) 评论(0) 推荐(0) 编辑
摘要: 训练过程中需要适时的调整参数,以获得比较好的模型,下面介绍几种调参方式: 参数初始化 初始化参数对结果的影响至关重要,一定要做参数初始化,否则会出现收敛速度变慢,影响收敛结果,甚至造成nan的问题,下面介绍几种初始化方法 Xavier 初始化参数对结果的影响至关重要,一定要做参数初始化,否则会出现收 阅读全文
posted @ 2018-08-20 17:50 大球和二憨 阅读(822) 评论(0) 推荐(0) 编辑
摘要: 过拟合和欠拟合是在网络训练中常常碰到的问题 过拟合(overfit):训练误差小,但是对于测试集上的误差很大。可能模型过于复杂,训练中只”记住”了训练样本,然而其泛化误差却很高。 欠拟合(underfit):训练误差很大,无法找到合适的函数描述数据集 下面介绍这两种情况下常用的一些trick方法 过 阅读全文
posted @ 2018-08-17 18:53 大球和二憨 阅读(1877) 评论(0) 推荐(0) 编辑
摘要: 下面介绍深度学习算法中常用的一些概念。 (1)层(Layer) 神经网络是由多层组成的,层(Layer)就是接受加权输入、经过非线性激励函数变换、作为输出传递给下一层的容器。 一层通常只含一种激励函数,如池化、卷积等等。第一层和最后一层分别称为“输入层”和“输出层”,中间的都称作“隐藏层”。 (2) 阅读全文
posted @ 2018-08-16 17:33 大球和二憨 阅读(274) 评论(0) 推荐(0) 编辑
摘要: 了解深度学习前,我们先理解下平时经常在各大新闻通稿中常听到的“人工智能”。人工智能就是研究用计算机实现人类的智能, 如去模仿人类的知觉,推理,学习能力等。从而让计算机能够像人一样思考和行动,有图像识别(机器识别出猫猫狗狗),人机对话(机器感知到 人类的语义和情感并给出反馈),围棋的人机对弈(Alph 阅读全文
posted @ 2018-08-16 17:12 大球和二憨 阅读(391) 评论(0) 推荐(0) 编辑
摘要: Homebrew 安装python 安装pip ps: 安装完之后注意在PATH中指定pip的路径 安装tensorflow 安装中可能会出现timeout error,此时可以尝试: 或者 安装keras 验证安装是否正确 自此,tensorflow安装完毕,后面会逐渐用tensorflow写一些 阅读全文
posted @ 2018-08-15 18:42 大球和二憨 阅读(2033) 评论(0) 推荐(0) 编辑
摘要: RNN(Recurrent Netural Network)循环神经网络,用来处理和预测序列数据,在语音识别,语言描述,翻译等领域有很好的运用。 传统神经网络结构如CNN是假设所有的input之间是相互独立的,output之间也相互独立,但实际中会存在由前面几个字去推测后面的词,这个时候CNN的假设 阅读全文
posted @ 2018-08-07 18:26 大球和二憨 阅读(2150) 评论(0) 推荐(0) 编辑
摘要: 1. 以python package 安装scipy Try to install it as a python package using pip as follows If you want to run a python 3.x script, install scipy by: 注意添加到P 阅读全文
posted @ 2017-07-18 13:59 大球和二憨 阅读(177) 评论(0) 推荐(0) 编辑