摘要：
在一个连续的时间周期内随机变量发生变化，比如一个月内股票价格走势、每年的销售额、每小时进出园区的车辆等，这些都称为时间序列。时间序列分析通过分析过去一段时间内随机变量的走势，预测未来随机变量走势，时间分析对数据是有要求的，首先需要时间序列本身是平稳的，在满足平稳性后还需检查是否为白噪音：白噪音数据在 阅读全文
摘要：
傅里叶变换是用三角函数表示目标函数，傅里叶变换广泛的应用在信号处理、偏微分方程、热力学、概率统计等领域：大到天体观测，小到我们手机中图片、音频应用等，没有傅里叶变换就没有如今丰富多彩的信息化时代。在人工智能领域中，可利用傅里叶变换证明中心极限定理，而中心极限定理是概率学最重要的基石；傅里叶变换本质是 阅读全文
摘要：
前面介绍了决策树和集成算法的相关知识，本章介绍的GBDT(Gradient Boosting Decision Tree)是这两个知识点的融合，GBDT所采用的树模型是CART回归树，将回归树改造后，GBDT不仅用于回归也可用于分类，GBDT与SVM支持向量机被认为是泛化能力较强的模型。名称中的提升 阅读全文
摘要：
对抗生成网络GAN（Generative Adversarial Networks）是由蒙特利尔大学Ian Goodfellow在2014年提出的机器学习架构，与之前介绍的神经网络不同，GAN最初是作为一种无监督的机器学习模型，对抗生成网络的变体也有很多，如GAN、DCGAN、CGAN、ACGAN等 阅读全文
摘要：
上篇介绍了RNN循环神经网络，上篇在最后说明了RNN有梯度爆炸和梯度消失的问题，也就是说RNN无法处理长时间依赖性问题，本篇介绍的LSTM（长短时记忆网络）是应用最多的循环神经网络，当提到循环神经网络时一般都特指LSTM，如果以将RNN视为一种思想，那么LSTM是循环神经网络的具体实现。通过‘门’运 阅读全文
摘要：
循环神经网络常用来做时序分析，即根据现有的按发生顺序排列的数据来预测未来的走势，循环神经网络大量用于语音分析、语言翻译、金融分析、内容推荐等领域，循环神经网络是一个大的分类，代表模型是RNN（循环神经网络）、LSTM（长短时记忆网络）,与之前介绍的全连接神经网络、卷积神经网络不同，循环神经网络在反向 阅读全文
摘要：
卷积神经网络(Convolutional Neural Networks, CNN)是应用最多、研究最广的一种神经网络，卷积神经网络（以下简称CNN）主要用于图片分类，自动标注以及产品推荐系统中。以CNN实现图片分类为例，图像经过多个卷积层、池化层复合而成的组件后，实现图像降维并提取到主要特征，最后 阅读全文
摘要：
数据在计算机中存储的形式是矩阵，大数据、机器学习、人工智能算法对数据处理，最后都体现为线性代数对矩阵的处理。许多场合中，需要对数据降维以便提取主要特征，本篇介绍利用svd奇异值分解实现这些功能。svd是在机器学习领域有着广泛应用，它不光可以用于降维算法中的特征分解，还可以用于推荐系统、自然语言处理、 阅读全文
摘要：
有时候需要利用计算机生成指定连续分布的随机数，比如指数分布、正态分布、伽马分布等，一般我们会用相同数量的[0,1]之间均匀分布的随机数去生成其他形式连续分布随机量。本篇适用于连续的概率分布函数，并不适合于生成离散分布的随机数，首先介绍并证明并以下定理。 一、定理:有连续随机变量x,x的累积分布函数y 阅读全文
摘要：
KKT（Karush-Kuhn-Tucker）条件有时也称KT条件，最初发现此定理的是Kuhn，Tucker两人，后来发现Karush在1939年的一篇文章中已经有过这个定理表述，所以常以取三人名字命名为KKT条件。不带约束的非线性规划问题可以用梯度法、模式搜索法获得最优解，带约束的线性规划可以通过 阅读全文