BBO-BP组合神经网络模型的建立
BBO-BP 组合神经网络模型的建立
自然界中的生物均具有群体行为,种群中的简单个体通过团体协作来实现复杂的工作,这种群
智能现象吸引着越来越多的学者。他们模拟借鉴生物群体智能机制,研究相应的群智能优化算
法理论并开发高智能的信息处理系统,以解决人类运用传统方法难以解决的问题。遗传算法、
粒子群优化算法、蚁群算法及免疫算法等均为群智能优化算法。神经网络是从生理角度模拟人
类行为的一种智能技术。该技术已在各行业得到广泛应用.可将传统的工程系统和人工智能处理
技术混合起来,通过学习、训练和记忆,拟合输入变量与输出变量间的非线性映射。由于神经
网络训练常用的学习算法--- 传统 BP 算法具有固有的缺陷而影响着应用效果,造成神经网络收敛
速度慢且易陷入局部极小值。目前 BP 网络的改进方法有在梯度法基础上改进学习算法、网络
拓扑结构优化以及融入其他优化算法等。
鉴于群智能优化算法的优良特性,很多学者应用群智能优化算法代替 BP 算法进行神经网络的
训练。周颖等提出了一种人工免疫学习算法,将其用于 RBF 神经网络隐层中心点数和位置的
调整; 田文杰等将蚁群算法和神经网络结合起来,应用于设备故障专家系统的知识获取并进行
诊断推理; 文献[6]将粒子群优化算法用于优化神经网络的连接权值和阈值,并将优化好的神经
网络应用于故障诊断中。
基于对生物物种迁移、变异行为的研究,以生物地理学归纳计算为理论的生物地理优化算法(
Biogeography-based Optimization,BBO ) 是一种新型的群智能优化算法。鉴于其他群智能优化
算法在神经网络训练中的应用,笔者将生物地理优化算法与 BP 神经网络相结合,建立 BBO-
BP 组合神经网络模型,充分发挥 BBO 解决优化问题的优势,克服连接权值随机导致神经网络
易陷入局部极小值的缺点,缩短训练时间。
1 生物地理优化算法
生物地理优化算法就是根据生物地理学阐述的生物物种在地理上分布的特点,使用生物地理学
的分配机制( 即迁移模型、变异生新) ,以适宜度最优为求解目的,来解决工程问题.具体说就
是,待优化问题的解对应着生物地理学中栖息地的特征向量SIV,其中的各种自然因素相当于优
化问题解向量的分量;待优化问题的度量函数值 f (xi ) ( i =1,2,…,n ) 对应着生物地理学
中的栖息地适宜度指数HIS, 好解类似于高 HIS 的栖息地,差解类似于低HIS 的栖息地;优化
算法中的信息交互机制对应着栖息地的移近移出机制,设计了基于概率的个体迁移算子实现信
息共享,每个个体通过计算得到各自的移进概率 λi 和移出概率 μi,通过该数值来控制个体信息
的移动概率。同时,为增加群体多样性,设计变异算子,根据栖息地容纳种群数量的不同,计
算相应的变异率,对栖息地进行变异操作,从而扩大解集。
生物地理优化算法的精髓即迁移操作和变异操作,利用迁移操作与其他栖息地进行信息交换,
进而对解空间进行广域搜索; 利用变异操作来模拟自然突变,根据栖息地 i 的种群迁移率对栖
息地的特征向量进行突变进而更新解集。
迁移操作。迁移模型采用的是简化线性模型,设栖息地的数量为 n, 群体大小为 NP,优化问题的
维度为 D, 最大物种数为 Smax、最大迁出率为Emax 、最大迁入率为Imax,具体的流程为:for i
= 1 to NP do 用概率 λi 选取xiif (0,1 )之间的均匀随机数小于 λithenfor j = 1 to NP do 用概率 μi
选取xjif (0,1 )之间的均匀随机数小于 μithen 从xj 中随机选取一个 SIV σ 用σ 替换xj 中的一
个随机 SIVend ifend forend ifend for 变异操作。最大变异率为mmax,迁移率为Ps,精英个体保存
数量为 k,BBO 变异操作的核心问题就是如何根据栖息地拥有种群数量的概率给出相应的突变
率,具体的流程为:for i = 1 to NP do 计算概率 pi 用概率 pi 选取SIV xi (j)if (0,1 )之前的
均匀随机数小于 mithen 用一个随机产生的 SIV 替换xi (j)end ifend for
2 生物地理优化算法与其他群智能算法的比较
虽然BBO 算法和其他智能算法一样,都属于模拟自然选择和生物进化机制的智能优化算法,
但是该算法和其他算法有本质区别,以下为与其他算法的比较。
2. 1 与遗传算法的比较
BBO 也会在解之间实现信息的共享,但在进化过程中并不产生新的子代,算法利用移进概率
来决定栖息地是否需要引入特征变量以及进入的比例,并且移进的特征变量来自其他不同的个
体;而遗传算法通过染色体来共享信息,通过交叉变异重组基因单元来产生新的子代,它不能
根据适应值来控制交叉基因,并且交叉的基因片段来自于同一个体。
2. 2 与蚁群算法( ACO ) 的比较
BBO 是通过迁移机制来改进解的适应度,它并不直接产生新的解集,只是依赖迁移机制来修
改这些解;而ACO 是通过蚂蚁之间信息素的交换和相互协作来实现优化,在每次迭代过程中
要产生新的解集,每一代都会产生一系列方法,而 BBO 则会保持方法不变。
2. 3 与粒子群优化算法( PSO ) 的比较
BBO 同粒子群优化算法最为相似,都是通过个体间的知识分享来达到优化的目的,都将产生
的优质方案保存到下一代,每一个方案都和邻近个体进行信息交互,进而进行调整。但BBO
采用了根据不同栖息地种群数量来选择不同操作强度的物种激励机制,从而通过迁移机制调整
解集来改进解的适应度,而 PSO 是通过调整粒子的速度和位置来改进粒子的适应度。另一方
面粒子群的解更可能聚在一起,而 BBO 的解没有任何内在聚类的趋势。
从这些不同之处可以看出BBO 算法是一种独特的群智能优化算法。
笔者采用典型的 Sphere 单峰函数和 Rastrigin 多峰函数进行测试,并与典型的群智能算法---蚁
群优化算法、遗传算法和粒子群优化算法进行仿真性能比较。算法对于各个测试函数优化的平
均运行结果如图 1、2 所示。【图 1.图2】
表1 列出了测试函数过程中每一个算法的平均极小值( 表示算法的平均性能) 和最好极小值
(表示算法的最好性能) .【表 1】
摘要:
展开>>
收起<<
BBO-BP组合神经网络模型的建立自然界中的生物均具有群体行为,种群中的简单个体通过团体协作来实现复杂的工作,这种群智能现象吸引着越来越多的学者。他们模拟借鉴生物群体智能机制,研究相应的群智能优化算法理论并开发高智能的信息处理系统,以解决人类运用传统方法难以解决的问题。遗传算法、粒子群优化算法、蚁群算法及免疫算法等均为群智能优化算法。神经网络是从生理角度模拟人类行为的一种智能技术。该技术已在各行业得到广泛应用.可将传统的工程系统和人工智能处理技术混合起来,通过学习、训练和记忆,拟合输入变量与输出变量间的非线性映射。由于神经网络训练常用的学习算法---传统BP算法具有固有的缺陷而影响着应用效果,...
相关推荐
-
2022-10-15 114
-
2023-02-25 144
-
2023-02-25 72
-
2023-02-25 77
-
2023-05-24 133
-
2023-05-24 295
-
2023-05-24 118
-
2023-05-24 103
-
2023-05-24 73
-
2024-03-02 33
作者:闻远设计
分类:其它行业资料
价格:免费
属性:5 页
大小:223.21KB
格式:DOCX
时间:2024-03-17