摘要：
和普通的机器学习算法一样，DNN也会遇到过拟合的问题，需要考虑泛化，之前在【Keras】MLP多层感知机中提到了过拟合、欠拟合等处理方法的问题，正则化是常用的手段之一，这里我们就对DNN的正则化方法做一个总结。 1. DNN的L1&L2正则化 想到正则化，我们首先想到的就是L1正则化和L2正则化。L 阅读全文
摘要：
在之前的【【深度学习】DNN神经网络模型】一文中弄清楚MLP基础由来，本次进一步基于sklearn机器学习库来实现该过程。 首先看一下简单的MLP实例： 下面同样基于手写MNIST数据集来进行MLP实例： MLP参数众多，以下一一说明： hidden_layer_sizes :元祖格式，长度=n_l 阅读全文
摘要：
感谢博主们的辛勤付出，泡泡糖nana与Leo_Xu06的精彩博文，让我受益匪浅。 XGBoost是近年来很受追捧的机器学习算法，由华盛顿大学的陈天奇提出，在国内外的很多大赛中取得很不错的名次，要具体了解该模型，可以移步官方文档，本文介绍其在Widows系统下基于Git的python版本的安装方法。 阅读全文
摘要：
1. CNN的基本结构 首先我们来看看CNN的基本结构。一个常见的CNN例子如下图： 图中是一个图形识别的CNN模型。可以看出最左边的船的图像就是我们的输入层，计算机理解为输入若干个矩阵，这点和DNN基本相同。 接着是卷积层（Convolution Layer）,这个是CNN特有的，我们后面专门来讲 阅读全文
摘要：
1、PCA分类介绍 在scikit-learn中，与PCA相关的类都在sklearn.decomposition包中。最常用的PCA类就是sklearn.decomposition.PCA。 原理：线性映射（或线性变换），简单的来说就是将高维空间数据投影到低维空间上，那么在数据分析上，我们是将数据的 阅读全文
摘要：
1、accuracy_score【Precision准确率】 分类准确率分数是指所有分类正确的百分比。分类准确率这一衡量分类器的标准比较容易理解，但是它不能告诉你响应值的潜在分布，并且它也不能告诉你分类器犯错的类型。分类准确率针对我们预测结果而言的，它表示的是预测为正的样本中有多少是对的。那么预测为 阅读全文
摘要：
1、过拟合 处理过拟合的方法有： a>减少特征，降低模型的复杂度 b>减小调试参数 c>增加训练数据量 常用的调参方法就是通过在惩罚函数中新增一个正则化参数C来控制分类边界对样本的辨识度，如果是用权重的二次方，则是L2正则化，如果是|W|/C则是L1正则化。 L2损失函数： 2、欠拟合 处理方式正好 阅读全文
摘要：
MACD指标 算法原理 一、DIF的实质 DIF=收盘价的短期指数移动平均与长期指数移动平均的差值，当两条EMA线交叉时，DIF线正好穿越0轴。 1、DIF上穿0轴，表明EMA（CLOSE，SHORT）线上穿EMA（CLOSE,LONG）线，市场处于多头行情中。 2、DIF下穿0轴，表明EMA（CL 阅读全文
摘要：
首先，看一下神经网络反向传播优化流程图： 反向传播算法实现了一个迭代的过程。每次迭代的开始，都选取一部分训练数据batch。然后，这个batch的样例会通过前向传播算法得到神经网络模型的预测结果。因为训练数据都是有正确答案标注的，所以可以计算出当前神经网络模型的预测答案与正确答案之间的差距。最后，基 阅读全文
摘要：
神经网络结构的输出为所有输入的加权和，这导致整个神经网络是一个线性模型。如果将每一个神经元的输出通过一个非线性函数，那么整个神经网络的模型也就不再是线性的了，使得神经网络可以更好地解决较为复杂的问题。这个非线性函数也就是激活函数。 神经网络中激活函数的主要作用是提供网络的非线性建模能力，如不特别说明 阅读全文