摘要:一、优化器 1.SGD/SGDOptimizerSGD 是实现 随机梯度下降 的一个 Optimizer 子类,是 梯度下降 大类中的一种方法。 当需要训练大量样本的时候,往往选择 SGD 来使损失函数更快的收敛。 2.Momentum/MomentumOptimizer Momentum 优化器在
阅读全文
摘要:一、概述 一个机器学习的框架,提供了深度学习需要的神经网络,激活函数等主要功能。 基础概念 Program 一次模型训练就是一个program,通过执行器执行,默认环境下是执行fluid.default_startup_program(),用户对计算的描述都将写入一段Program。Fluid 中的
阅读全文
摘要:1.概述 一篇文章的每个词都是以一定的概率选择了某个主题,并从这个主题中以一定的概率选择某个词而组成的。 P(单词|文档) = P(单词|主题)*P(主题|文档) 生成过程 对于语料中每篇文档,主题模型定义如下生成过程: (1).对每一篇文档,从主题分布中抽取一个主题; (2).从上述被抽到的主题所
阅读全文
摘要:1.概述 强化学习可以理解为逐渐得到最好结果的一个过程,类似与半监督学习,整个过程是在不断的逼近结果。强化学习是状态与动作直接的映射。目标是最大化奖赏的数值。 一个简单的例子是迷宫问题,动作就是选择下一步去哪儿,状态就是离重点的距离,如果这个点不能达到距离这个值就是-1 2.奖赏的折扣 对于未来的奖
阅读全文
摘要:1.二进制操作 逐位元素操作:bitwise_and,bitwise_or,bitwise_xor,invert,left_shift,right_shift 打包二进制:packbits,unpackbits 输出格式:binary_repr 2.字符串操作 字符串操作:add,multiply,
阅读全文
摘要:1.集合操作 包含去重,交,并,差集操作 2.排序、搜索和计数 sort,where,argmin,argmax,count_nonzero,argwhere 3.线性代数 np.linalg库,包含 svd,qr,cholesky,eig(特征值和特征向量),inv(逆矩阵),slove(解矩阵方
阅读全文
摘要:ndarray np的一个核心类,它描述了相同类型的“项目”集合。可以使用例如N个整数来索引项目。每个项目占用相同大小的内存块, 并且所有块都以完全相同的方式解释。 如何解释数组中的每个项目由单独的数据类型对象指定, 其中一个对象与每个数组相关联。除了基本类型(整数,浮点数 等 )之外, 数据类型对
阅读全文
摘要:1.概述 有一组数据D,这组数据来自来个高斯分布,并且模型是两个高斯分布的求和或混合, G1 = N(u1,σ1) G2 = N(u2,σ2) y = pG1 + (1-p)G2 其中u1,u2,σ1,σ2,p均为未知数 2.求解过程 3.主题模型LDA,PLSA 对于语料库中的每篇文档,LDA定义
阅读全文
摘要:1.概述 回归树就是用树模型做回归问题,每一片叶子都输出一个预测值。预测值一般是该片叶子所含训练集元素输出的均值, 即 𝑐𝑚=𝑎𝑣𝑒(𝑦𝑖|𝑥𝑖∈𝑙𝑒𝑎𝑓𝑚)cm=ave(yi|xi∈leafm)。 2.构建过程 回归树采用平方和损失函数 每次选择一个切分变量j和切分点s
阅读全文
摘要:DataFrame 1.概述 dataframe是pandas的核心功能,核心values通过numpy的ndarray来维护,在此基础上实现了columns和index功能。 2.Attributes and underlying data index索引,即行的名称,columns列名称,axe
阅读全文
摘要:1.Series序列 一维的数组数据,构建是传二维数据会报错,数据具有索引,构建时如果不传索引,默认为数字rang索引。 series存在列名和索引,sr.at[0]是通过列名来定位数据(iat定位行和列),sr.loc通过索引来定位数据(iat定位行和列)。 Conversion series可以
阅读全文
摘要:一.概述 word2vec用于处理文本字符串,类似的功能如sklearn的CountVectorizer,TfidfVectorizer,HashingVectorizer CountVectorizer用每个词出现的次数做为向量的值,如特征空间内宫n个词,特征向量i中如果第j个word出现了n次则
阅读全文
摘要:pandas.io 1.概述,主要从txt,json,pkl,csv,excel中读取数据,读取的数据最终转化为pandas.core.frame.DataFrame类型的df 先来看总的api from pandas.io.clipboards import read_clipboard #读剪切
阅读全文