基于改进遗传算法的BP神经网络自适应优化设计概要

象,“过拟合”现象直接影响网络的泛化能力,使得网 络最终失去实用价值.所以算法的设计应当使得E 2

小于一个给定误差ε,满足网络输出的可靠性. 2 算法的设计

本算法通过使用EG A在由B P网络初步确定的基本解空间上(网络连接权和神经元阀值的取值范围,通过对基因的选择,交叉变异操作.对样本个体不断择优进化,直至进化K(总的进化代数由初始时给定代后,选取个体中适应度最大的个体来确定网络的结构和网络的初始权值和阀值.

1基因编码

基因编码正像遗传基因代表了DNA中的必要信息一样,它在将问题参数表示成一串有意义的符号的过程中代表了有关这一问题的必要信息.本文中编码生成的码串由开关系数编码、权重系数编码两部分组成.开关系数编码表示隐含层神经元与输入输出神经

元的连接状态,开关系数编码串长l 1

可由初始隐含层神经元的个数来确定.而实际隐含层神经元的个数由开关系数编码中1的个数确定.权重系数编码表示网

络的连接权,采用浮点数编码,串长l 2

=m×l1+l1×nl2(其中m为输入节点的个数,n为输出节点个数.编码按一定的顺序级联成一个长串,每个串对应一组网络结构、连接权.

2基本解空间的确定

采用三层B P网络来初步确定基本解空间(网络连接权和神经元阀值的取值范围,首先设定网络的

训练次数以及网络的训练误差ε 1,输入训练样本进行

训练,之后再输入检测样本得到误差ε 2

,在误差ε1和 ε 2

都比较满意时,把连接权值中的最大值和最小值分 别记为u max 和u m in

,以该区间[u m in?δ1,u max+δ2](其 中δ

1,2

为调节参数作为连接权的基本解空间. 3初始化样本群体

该步骤的关键是设定群体规模,即基因编码组合 数目.群体规模作为遗传算法的主要控制参数之一,对 于遗传算法的效能的发挥是有很大影响的.在本文中 初始群体由L个个体构成,每个个体由两部分组成,第 一部分是串长为l 1

的0-1串表示初始开关系数;第 二部分是区间[u m in?

δ1,u max+δ2]上的l2个均匀分

布随机数表示初始权值系数.设定群体规模,即设定基 因编码组合数目.我们先随机生成一定数目的基因个 体,然后从中挑出最好的个体加到初始群体中.这个规 模不断迭代,直至初始群体规模达到了网络预先设定 的规模.

4适应度函数计算

在遗传算法中,对适应度函数的唯一要求是针对 输入可以计算出能加以比较的非负结果.因此这里采 用网络的误差函数作为适应度函数,并认为误差大的 个体其适应度小,具体表示为 F(w,v,θ,r=10-6 N1 k=1 6n t=1

[y k(t-^y k(t]2(3

计算群体中每个个体的适应度,由开关系数编码得到 网络的隐节点个数,由权重系数码得到网络的连接权, 输入训练样本,按照(3式计算每个个体的适应度. 5引入竞争的选择继承

选择继承的目的是为了从当前群体中选出优良的 个体,使它们有机会作为父代产生后代的个体.判断个 体优良与否的准则就是各自的适应度.计算完各个体 的适应度后,选择适应度大的个体遗传到下一代,从而 使问题的解越来越接近于最优解空间.经典的选择继