数据归一化问题讨论

一、参考数据归一化汇总的帖子

需要说明的事并不是任何问题都必须事先把原始数据进行规范化,也就是数据规范化这一步并不是必须要做的,要具体问题具体看待,测试表明有时候规范化后的预测准确率比没有规范化的预测准确率低很多.就最大最小值法而言,当你用这种方式将原始数据规范化后,事实上意味着你承认了一个假设就是测试数据集的每一模式的所有特征分量的最大值(最小值)不会大于(小于)训练数据集的每一模式的所有特征分量的最大值(最小值),但这条假设显然过于强,实际情况并不一定会这样.使用平均数方差法也会有同样类似的问题.故数据规范化这一步并不是必须要做的,要具体问题具体看待.

二、使用梯度下降法求解最优解的方法,尽量训练前归一化处理,否则容易引起梯度消失/爆炸(自己按)

典型的(深度)神经网络

posted @ 2018-03-04 15:13  钢珠子  阅读(317)  评论(0编辑  收藏  举报