关于神经网络(matlab)归一化的整理

关于神经网络归一化方法的整理

由于采集的各数据单位不一致，因而须对数据进行[-1，1]归一化处理，归一化方法主要有如下几种，供大家参考：（by james）

1、线性函数转换，表达式如下：

y=(x-MinValue)/(MaxValue-MinValue)

说明：x、y分别为转换前、后的值，MaxValue、MinValue分别为样本的最大值和最小值。

2、对数函数转换，表达式如下：

y=log10(x)

说明：以10为底的对数函数转换。

3、反余切函数转换，表达式如下：

y=atan(x)*2/PI

归一化是为了加快训练网络的收敛性，可以不进行归一化处理

归一化的具体作用是归纳统一样本的统计分布性。归一化在0-1之间是统计的概率分布，归一化在-1--+1之间是统计的坐标分布。归一化有同一、统一和合一的意思。无论是为了建模还是为了计算，首先基本度量单位要同一，神经网络是以样本在事件中的统计分别几率来进行训练（概率计算）和预测的，归一化是同一在0-1之间的统计概率分布；

当所有样本的输入信号都为正值时，与第一隐含层神经元相连的权值只能同时增加或减小，从而导致学习速度很慢。为了避免出现这种情况，加快网络学习速度，可以对输入信号进行归一化，使得所有样本的输入信号其均值接近于0或与其均方差相比很小。

归一化是因为sigmoid函数的取值是0到1之间的，网络最后一个节点的输出也是如此，所以经常要对样本的输出归一化处理。所以这样做分类的问题时用[0.90.10.1]就要比用[100]要好。

但是归一化处理并不总是合适的，根据输出值的分布情况，标准化等其它统计变换方法有时可能更好。

关于用premnmx语句进行归一化：

premnmx语句的语法格式是：[Pn,minp,maxp,Tn,mint,maxt]=premnmx(P,T)

其中P，T分别为原始输入和输出数据，minp和maxp分别为P中的最小值和最大值。mint 和maxt分别为T的最小值和最大值。

premnmx函数用于将网络的输入数据或输出数据进行归一化，归一化后的数据将分布在[-1,1]区间内。

我们在训练网络时如果所用的是经过归一化的样本数据，那么以后使用网络时所用的新数据也应该和样本数据接受相同的预处理，这就要用到tramnmx。

下面介绍tramnmx函数：

[Pn]=tramnmx(P,minp,maxp)

其中P和Pn分别为变换前、后的输入数据，maxp和minp分别为premnmx函数找到的最大值和最小值。

（by terry2008）

matlab中的归一化处理有三种方法

1.premnmx、postmnmx、tramnmx

2.restd、poststd、trastd

3.自己编程

具体用那种方法就和你的具体问题有关了（by happy）

pm=max(abs(p(i,:)));p(i,:)=p(i,:)/pm;

和

for i=1:27

p(i,:)=(p(i,:)-min(p(i,:)))/(max(p(i,:))-min(p(i,:)));

end可以归一到01之间

0.1+(x-min)/(max-min)*(0.9-0.1)其中max和min分别表示样本最大值和最小值。这个可以归一到0.1-0.9

mapminmax归一化

原文地址：有关mapminmax的用法详解作者：faruto

有关mapminmax的用法详解

============外一篇有关mapminmax的用法详解

by faruto==================================

几个要说明的函数接口:

[Y,PS]=mapminmax(X)

[Y,PS]=mapminmax(X,FP)

Y=mapminmax('apply',X,PS)

X=mapminmax('reverse',Y,PS)

用实例来讲解,测试数据x1=[124],x2=[523];

>>[y,ps]=mapminmax(x1)

y=

-1.0000-0.3333 1.0000

ps=

name:'mapminmax'

xrows:1

xmax:4

xmin:1

xrange:3

yrows:1

ymax:1

ymin:-1

yrange:2其中y是对进行某种规范化后得到的数据,这种规范化的映射记录在结构体ps中.让我们来看一下这个规范化的映射到底是怎样的?

Algorithm

It is assumed that X has only finite real values,and that the elements of each row are not all equal. y=(ymax-ymin)*(x-xmin)/(xmax-xmin)+ymin;

[关于此算法的一个问题.算法的假设是每一行的元素都不想相同,那如果都相同怎么办?实现的办法是,如果有一行的元素都相同比如xt=[111],此时xmax=xmin=1,把此时的变换变为y=ymin,matlab内部就是这么解决的.否则该除以0了,没有意义!]

也就是说对x1=[124]采用这个映射f:2*(x-xmin)/(xmax-xmin)+(-1),就可以得到y= [-1.0000-0.3333 1.0000]

我们来看一下是不是:对于x1而言xmin=1,xmax=4;

则y(1)=2*(1-1)/(4-1)+(-1)=-1;

y(2)=2*(2-1)/(4-1)+(-1)=-1/3=-0.3333;

y(3)=2*(4-1)/(4-1)+(-1)=1;

看来的确就是这个映射来实现的.

对于上面algorithm中的映射函数其中ymin,和ymax是参数,可以自己设定,默认为-1,1;

比如:

>>[y,ps]=mapminmax(x1);

>>ps.ymin=0;

>>[y,ps]=mapminmax(x1,ps)

y=

00.3333 1.0000

ps=

name:'mapminmax'

xrows:1

xmax:4

xmin:1

xrange:3

yrows:1

ymax:1

ymin:0

yrange:1

则此时的映射函数为:f:1*(x-xmin)/(xmax-xmin)+(0),是否是这样的这回你可自己验证.O(∩_∩)O

如果我对x1=[124]采用了某种规范化的方式,现在我要对x2=[523]采用同样的规范化方式[同样的映射],如下可办到:>>[y1,ps]=mapminmax(x1);

>>y2=mapminmax('apply',x2,ps)

y2=

1.6667-0.33330.3333

即对x1采用的规范化映射为:f:2*(x-1)/(4-1)+(-1),(记录在ps中),对x2也要采取这个映射.

x2=[5,2,3],用这个映射我们来算一下.

y2(1)=2(5-1)/(4-1)+(-1)=5/3=1+2/3=1.66667

y2(2)=2(2-1)/(4-1)+(-1)=-1/3=-0.3333

y2(3)=2(3-1)/(4-1)+(-1)=1/3=0.3333

X=mapminmax('reverse',Y,PS)的作用就是进行反归一化,讲归一化的数据反归一化再得到原来的数据:

>>[y1,ps]=mapminmax(x1);

>>xtt=mapminmax('reverse',y1,ps)

xtt=

124

此时又得到了原来的x1(xtt=x1);