人工神经网络基本概念 - 图文

人工神经网络的学习规则

人工神经网络最有价值的特性就是它的自适应功能，这种自适应功能是通过所谓的学习或训练实现的

人工神经网络的学习规则可分为如下几种：?相关规则：仅依赖于连接间的激活水平改变权重，

如Hebb规则及其各种修正形式等

?纠错规则：依赖于输出节点的外部反馈改变网络权

重，如感知器学习规则、δ规则等

?竞争学习规则：类似于聚类分析算法，学习表现为

自适应于输入空间的事件分布，如矢量量化算法、SOM算法、以及的ART训练算法

?随机学习规则：利用随机过程、概率统计和能量函数的关系来调节连接权，如模拟退火

（SimulatedAnnealing）算法。此外,基于生物进化规则的基因遗传（Genetic Algorithm GA）算法在某种程度上也可视为一类随机学习算法。

神经网络的学习规则多种多样，可归结为以下两类：

?有指导学习?无指导学习

?有指导学习不但需要学习用的输入事例，同时还要求与之对应的表示所需期望输出的目标矢量。进行学习时，首先计算一个输入矢量的网络输出，然后同相应的目标输出比较，比较结果的误差用来按规定的算法改变加权。如上述纠错规则以及随机学习规则就是典型的有指导学习。

?无指导学习不要求有目标矢量，网络通过自身的“经历”来学会某种功能，在学习时，关键不在于网络实际输出怎样与外部的期望输出相一致，而在于调整权重以反映学习样本的分布，因此整个训练过程实质是抽取训练样本集的统计特性。如纠错规则和竞争学习规则。

?在工程实践中，有指导学习和无指导学习并不是相互冲突的，目前已经出现了一些融合有指导学习和无指导学习的训练算法。

?如在应用有指导学习训练一个网络后，再利用一些后期的无指导学习来使得网络自适应于环境的变化。