常用数据的标准化方法 （转）

数据的标准化（normalization）是将数据按比例缩放，使之落入一个小的特定区间。这样去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。其中最典型的就是0-1标准化和Z标准化： 

1、0-1标准化(0-1 normalization)

也叫离差标准化，是对原始数据的线性变换，使结果落到[0,1]区间，转换函数如下：

其中max为样本数据的最大值，min为样本数据的最小值。这种方法有一个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。

 

2、Z-score 标准化(zero-mean normalization)

也叫标准差标准化，经过处理的数据符合标准正态分布，即均值为0，标准差为1，其转化函数为：

其中μ为所有样本数据的均值，σ为所有样本数据的标准差。

如果利用3σ进行规一化，落在 [-1 , 1] 之间的概率是99.7%，在实际应用中我们将落在[-1 , 1] 区间之外的值均设成-1和1，以保证所有的数值均落在[-1 , 1] 范围之内。matlab代码示例如下：

d = rand(1,100000);

%gaussian normlization
t = (d-mean(d))/(3*std(d));

% len0 = length(find(t>3*std(t))) + length(find(t<-3*std(t)));
% len = length(d);
% ratio = len0/len; % close to 0

t(t>1) = 1;
t(t<-1) = -1;

 

注：是否要进行标准化，要根据具体实验定。如果特征非常稀疏，并且有大量的0（现实应用中很多特征都具有这个特点），Z-score 标准化的过程几乎就是一个除0的过程，结果不可预料。