您好,欢迎来到微智科技网。
搜索
您的当前位置:首页一种基于邻域的多目标进化算法

一种基于邻域的多目标进化算法

来源:微智科技网
维普资讯 http://www.cqvip.com 第28卷第6期 2008年6月 计算机应用 Computer Applications Vo1.28 No.6 June 2008 文章编号:1001—9081(2008)06—1570—05 一种基于邻域的多目标进化算法 李密青,郑金华,罗 彪,伍 军,文诗华 (湘潭大学信息工程学院,湖南湘潭411105) (1imitl008@126.coin)  。摘要:种群维护是多目标进化算法的重要组成部分。针对维护方法和运行效率的矛盾,提出一种基于邻域的 多目标进化算法(NMOEA)。定义了一个反映个体之间邻近程度的指标——邻域包含关系,利用此关系对个体进行 分布适应度分级的赋值,并用动态方法快速地对种群进行维护。通过7个测试问题和3个方面的测试标准,结果表明 新算法在较快速地接近真实的最优面的同时,拥有良好的分布性。 关键词:多目标进化算法;多目标优化问题;种群维护;分布适应度;邻域 中图分类号:TP18 文献标志码:A Multi-objective evolutionary algorithm based 0n neighborhood U Mi—qing,ZHENG Jin—hua,LUO Biao,WU Jun,WEN Shi—hua (Instit ̄e ofInformation Engineering,Xiangtan University,Xiangtan Hunan 411105,China) Abstract:Population maintenance is an importnat issue in multi—objective evolutionary algoirthms.For the deficiency that the maintenance methods of good distirbution usually have a high time complexity,a multi-objective evolutionary lagoirthm based on neighborhood(named NMOEA)was proposed.This measure deifned a criteiron—neighborhood containing relation, which represented the close degree of individuals.And it Was used to assign diversity fitness in a dynamic method that maintained the population rapidly.By examining three performance metrics on seven test problems,the new algorithm can approach the true Pareto front fsat,and has good distirbution, Key words:multi-・objective evolutionary algorithm;multi-・objective optimization problem;population maintenance; diversity rnak;neihgborhood 0 引言 [5—6]利用快速排序和擂台赛法构造非支配集;文献[7]用 占优树来减少个体的比较次数,提出了一种快速的基于占优 进化算法(Evolutionary Algoirthm,EA)是一类模拟生物 树的多目标进化算法。以上这些方法都是围绕怎样构造非支 自然选择与自然进化的随机搜索算法,因其适用于求解高度 配集的,算法虽然在时间上得到了较大提高,但收敛性和分布 复杂的非线形问题而得到了非常广泛的应用。在解决只有单 性的改进并不明显。 个目标的复杂系统优化问题时,进化算法的优势得到了充分 为了在拥有较快速度的同时,取得好的收敛性和分布性 展现。然而,现实世界中的优化问题通常是多属性的,一般是 结果,本文提出一种基于邻域的多目标进化算法(NMOEA)。 对多个目标的同时优化,且被同时优化的多个目标之间通常 该方法首先定义了一个反映个体邻近程度的指标——邻域包 是相互冲突的,如在企业生产活动中,产品质量与生产成本是 含关系,然后利用邻域包含关系对个体进行分布适应度分级 两个相互冲突的目标。为了达到总目标的最优化,通常需要 的赋值,并且用动态方法快速地对种群进行维护,最后通过进 对相互冲突的子目标进行综合考虑,即对各个子目标进行折 行多个函数实验,测试和讨论了算法的性能。实验结果表明 中。由此,针对多目标优化问题(Multi—objective Optimization 算法具有良好的收敛性、分布性和时间效率。 Problem,MOP),出现了多目标进化算法(Multi ̄Objective Evolutionary lAgorithm,MOEA)…。 1 基本概念 近年来,进化计算界相继提出了大量有效的多目标进化 算法。最有代表性的主要有:NSGA-II 2 和SPEA2 3 J。NSGA— 最小化与最大化问题可以相互转化,因此,仅以最小化多 II有很快的运行效率,但解集的分布性并不理想;SPEA2能很 目标问题为研究对象。多目标问题的一般描述为: 好地维持解集的分布性,但速度较慢。 给定决策向量X=( ,, :,…, ),它满足下列约束: 多目标进化算法的研究目标主要是使算法种群快速收 g ( )≥0;i=1,2,…,|}i (1) 敛,并且广泛而均匀分布于问题的非劣最优域。其中算法的 h (X)=0;i=1,2,…l (2) 时间效率是一个重要的因素。国内学者在这方面进行了大量 设有r个优化目标,且这r个优化目标是相互冲突的,优 的研究:文献[4]提出了基于排序集合快速求解算法;文献 化目标可表示为: 收稿日期:2007—12—21;修回日期:2008—02—20。 基金项目:国家自然科学基金资助项目(60773047);国家863计划项目 (2001AA114060);留学回国人员科研启动基金资助项目(教外司留[2005]546号);湖南省自科基金资助项目(05JJ30125);湖南省教育厅重点 科研资助项目(06A074)。 作者简介:李密青(1981一),男,湖南常德人,硕士研究生,主要研究方向:进化计算; 郑金华(1963一),男,湖南邵阳人,教授,博士生导 师,主要研究方向:进化计算、智能科学;罗彪(1984一),男,湖南邵阳人,硕士研究生,主要研究方向:进化计算;伍军(1982一),男,湖南邵 阳人,硕士研究生,主要研究方向:进化计算;文诗华(1981一),男,湖南衡阳人,硕士研究生,主要研究方向:进化计算。 维普资讯 http://www.cqvip.com 第6期 /’(X)= (X), (X),…, 李密青等:一种基于邻域的多目标进化算法 )) 1571 行删除,算法时间复杂度为0(r )。该方法具有动态性,每 移出一个个体,外部种群中个体的分布情况都会发生变化,这 样算法虽能很好地维持解集的分布性,但具有很高的时间复 杂度。 . 寻求X =( , ,…, ),使 念: ’)在满足约束(1) 和(2)的同时达到最小。MOEA经常用到如下几个基本概 定义1个体的Pareto支配关系。设P和q是进化群体 Pop中的任意两个不同的个体,我们称P支配q,则必须满足下 列2个条件: 1)对所有的子目标,P不比q差,即 (P)≤ (q)(k=1, 2,…,r); 3 基于邻域的多目标进化算法 首先我们定义一个反映个体邻近程度的指标——邻域包 含关系。 定义5 个体的邻域包含关系。设P和q是进化群体Pop 中的任意两个不同的个体,对一距离r,若q在以P为圆心,以r 2)至少存在一个子目标,使P比q好。即jl E{1,2,…, r},使fAp)< (q)。 其中r为子目标的数量。此时称P为非支配的,q为被支配 的。表示为p q,其中“ ”是支配关系。 定义2 Pareto最优解。给定一个多目标优化问题min 7( ),称X n是最优解,若VX n,满足下列条件之一: 1)^ (X)=fi(X )); 2)至少存在一个 E,,,={1,2,…,r},使: (X)> ( )。 其中n是满足式(1)和式(2)的可行解集,即: n:{X E R l g ( )≥0,h。( )=0;(i:1,2,…, ; = 1,2,…,1)} 定义3 Pareto最优面(边界)。给定一个多目标优化问题 ariny(X)和它的最优解集{X },它的Pareto最优面定义为: PF ={ ( )= (X) (X),… ( ))f E {X }} (3) 定义4 非支配集。设有解集P,P中的个体q不被任何其 他个体支配,则q是P中的非支配个体;JP的非支配个体构成 的子集称为P的非支配集NDset。即NDset={q l q E P且 jp EP,使p q}。 2 相关工作 在进化过程中,种群中的非支配个体数可能大于外部种 群的大小,此时需要对外部种群进行维护,通常的做法是根据 非支配个体的密度信息移出部分个体。维护方法的好坏不仅 决定着最终解集的分布情况,还很大程度上影响算法的搜索 能力 。对此,学者们提出了很多行之有效的方法,如 NPGA 采用了适应度共享机制来对种群进行修剪,它根据 小生境数目这一参数连续地更新适应度共享函数,以便获得 非支配边界上均匀分布的结果,但当共享适应度与锦标赛选 择相结合时,算法在执行过程中可能会出现混沌行为; PESA_l。。采用了一种超网格技术对种群进行维护,它将目标 空间分成若干个hyper—box,每个个体就与某个网格相关联, 网格里的个体数目称为挤压因子,在进入归档集的过程中,挤 压因子大的个体将被清除掉;NSGA—II利用个体的聚集距离 来对种群进行维护,通过计算进化群体中每个个体的聚集距 离,构造了一个偏序集,对聚集距离较小的个体进行淘汰,其 时间复杂度为0(rNlb N)。但随着维数的增大,构造的这种聚 集距离很难精确地反映个体的密度信息,并且由于构造方法 的静态性,没有考虑已经移出个体对种群分布情况的影响。 算法虽然有很好的时效性,但分布结果并不理想。SPEA2用 剪切方法对外部种群进行维护。选择第k个最近邻的个体进 为半径的区域内,则称P邻域包含q,记为p ,q。 容易发现邻域包含关系具有以下几个性质: 性质1 关系 ,具有反自反性。 性质2关系 ,具有对称性。 性质3 关系 ,不具备传递性。 我们依据性质1,2,3就对个体进行分布适应度赋值,为 了能精确地表示个体的分布情况,我们把个体的分布适应度 分为两级(D D )。具体方法如下: 算法1计算个体的分布适应度 for each {i.D u=O; i.D k2:0; } //个体分布适应度初始化 for each {temp=ind[i]; //ind[ ]为一存储个体邻域内信息的链表 for eachj {if(i!=J&&distance(i )<r) //若 在i的邻域内,则调整i的分布适应度 {insert(temp,』); i.D kl=i.D kl+1; //为整型 i.D m=i.D 越+distance(ij); //为浮点型 Ie p temp一>child; }  }从算法1中容易看出,i.D 。为邻域内个体数,值小表明i 周围个体比较稀少; .D 为邻域内个体与i的距离之和,对于 D 。相同的个体,其D 值大表明其距离周围个体相对较 远。在图1中,对于个体B与E,最Dry, 。=3,五D =2,E周 围个体密度要低于B周围个体密度;对于个体C与,,它们有相 同的D k。值,e D k。= D k2=3,但c D k2< D k2,表 明在其邻域内距离,的个体要远于距离C的个体。 图1 个体分布适应值示例 算法1对空间中的非支配个体进行了分布适应度赋值, 下面我们根据个体的分布适应值对种群进行维护,其具体方 维普资讯 http://www.cqvip.com

l572 法如下: 计算机应用 第28卷 名的MOEA(SPEA2 j,NSGA.II ,EPS—MOEA Ll )相比较。 算法2种群维护 while(I Q I>M) //当非支配个体数目大于归档集时 { =findmax(),Y=findseemax(); ’ //分别找出D 最大,次大的个体 if( .D, kl> DmlIk1)delete( ), = ; 实验运行在1.7 GHz CPU 256 MB内存Windows XP环境下, 选取了7个测试函数。SCH” 被认为是在MOP领域具有代 表性的测试函数,FON¨ 是一个可变决策变量维数的测试函 数,ZDT是由文献[14]提出来的一系列测试函数,这些函数 是具有代表性的测试函数,其中ZDT1、ZDT2较易收敛,ZDT3 为非连续的,ZDT4、ZDT6较难收敛且ZIYI'6为非均匀分布。 //淘汰D kl大的个体 elseif( .DmlIkl= D, kl&& .Brank2< D舢k2) delete( ), = ; //若D u相同,淘汰D k2小的个体 else delete(Y),j ,,; 在实验中,四种算法都采用实数编码,交叉概率0.8,变异概 率0.01,种群规模为100,被评价个体的数目为20000,算法的 运行代数为评价个体的数目除以种群规模。每种算法对各个 temp=ind[ ]; while(temp一>child!=NULL) //调整z邻域内其他个体的分布度适应值 测试函数运行1O次,结果取平均值。 {(temp一>index).Dra|Ikl:(temp一>index).D l一1 多目标优化的三个基本目标为收敛性,分布性和运行时 (temp一>index).Dra :(temp一>index).D肿k2一 间。在多目标优化中解集的评价方法也是一个重要而复杂的 distance( .temp一>index) 问题¨ ,研究者们提出了很多有效的方法¨ -16,18-19]。在这 temp temp一>child: 里采用Generational Disdance(GD) 来估计算法的最终边界 Q I=I Q I一1: 与全局非劣最优区域的趋近程度,计算如下: } 从算法2中可以看出,维护方法总是淘汰D 最大的个 体,若D 。相同,则淘汰D 小的个体。对于图1中的情况, GD √ /n (4) n是解集中个体的数目,d 是每个个体到全局非劣最优解的 若归档集大小为5,种群维护过程如图2所示,个体C与F有 最小欧几里得距离。GD的值越小就说明解集越靠近全局非劣 相同的D …但e D 小于 D ,所以淘汰C,并调整日, D的分布适应值,得到图2(a)的情况,B、D的D 。降为2,此 最优区域,如果GD=0就说明算法的解都在全局非劣最优区 时整个群体中F具有最大的D F被淘汰,得到图2(b)的 域上,这是最理想的情况。分布性评价采用Schott提出的方 情况。 法” ,其函数定义如下: 算法2采用动态的方法维护种群,虽然增加一定的时问 厂 —=— _ 开销,但种群分布性得到了较好的保持。算法1的时间复杂 SP=√ V‘ ‘● 1 (d—d1) (5) 度为0( fv2),算法2在最坏情况下时间复杂度为0(r』v2),所 d。=min(If ( )一 ( )I+ ( )一 ( )I)(i,J=1, 以种群维护的总时问复杂度为0(rN2),逊于NSGA—II,好于 2,…,n),d是所有d 的平均值。当算法获得的非劣解完全均 SPEA2。下面我们给出整个算法的具体流程。 匀地分布在目标空问时,SP:0。 表1显示了四种算法在7个测试函数上的收敛度,分布 度,运行时问结果。在每个评价指标中,第一列为均值,第二 列为标准差,加粗数据为最优值。从表1中可以发现,在收敛 性方面,对较易收敛的测试函数SCH,FON,ZDT1和ZDT2四 种算法性能相差不大,在SCH,FON上NMOEA要略优于其他 三种算法,在ZDT1,ZDT2上EPS.MOEA,SPEA2分别拥有最 (a)淘汰C ~ (b)淘汰F 图2种群维护过程 好的收敛度。对非连续或较难收敛的测试函数ZDT3,ZDT4 NMOEA借鉴NSGA.和ZDT6,NMOEA拥有较稳定的收敛度,特别对于其他两种算 .II采用了分层构造非支配集的方 法 。 法很难收敛的测试函数ZDT4,NMOEA能收敛到真实的最 1)算法参数设定。内部种群R规模为Ⅳ,外部种群Q的最 优面。 . 大规模肘,中间种群P的规模 +Ⅳ,交叉概率P ,变异概率 从表1中可以发现,在分布性方面,NMOEA和SPEA2比 P ,算法搜索的最大代数 n一,令进化代数gen=1。 较接近,好于其他两种算法,NMOEA在SCH,ZDT3,ZDT4上 2)随机产生一个初始种群R,同时初始化外部种群Q,并 有最好的分布性,SPEA2在FON,ZDT1,ZDT2,ZDT6上有最好 使之为空。 的分布性,但SPEA2对非连续函数ZDT3很难收敛真实的最 3)合并 、Q 到P ,将P 中的个体按支配的关系 优面,这是由其基于密度的修剪方法决定的。图3~图5为 逐层加入到Q +。中。当加入第i层非支配集S后的总个体数 四种算法在部分测试函数上最终边界分布。 大于 时,按上面给出的方法对外部种群进行维护。若gen+ 1=gen ,将Q +。中的个体作为返回结果,程序结束。 四种算法在运行时间方面,EPS—MOEA具有最快的速度, 4)对Q +。执行锦标赛选择操作,对选中的个体执行交 NSGA—II、NMOEA次之,SPEA2最差。 叉和变异操作。并将结果保存到 +,中,gen=gen+1,转 通过分析和比较发现:在趋近最优前沿方面和运行效率 3)。 方面,四种算法性能相差不大,NMOEA的稳定性要略好于其 4实验与分析 他三种算法;在保持解集的分布性方面,NMOEA与SPEA2相 当,优于其他两种算法;在运行时间方面EPS.MOEA最快, 为了检验所提出NMOEA的有效性,将其与另外3个著 NSGA—I1次之,HOMEA要好于SPEA2。 维普资讯 http://www.cqvip.com 第6期 李密青等:一种基于邻域的多目标进化算法 1573 表1算法性能比较 1-0 0.8 0.6 0.4 0.2 0.0 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 { { (a)NSGA-I1 (b)SPEA2 (c)EPS—MOEA (d)NMOEA 图3 4种算法在FON上的最终边界 1.2 0.6 0.0 —0.6 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 { { fa)NSGA-I1 (b)SPEA2 (c)EPS—MOEA (d)NMOEA 图4 4种算法在ZDT3上的最终边界 1.4 1.2 1.O 0.8 0.6 0.4 0.2 0.0 图5 4种算法在ZDT4上的最终边界 维普资讯 http://www.cqvip.com 1574 计算机应用 第28卷 Proceedings of the Parallel Problem Solving from Nature VI Confer- 5 结语 ence.Berlin:Springer-Vedag,2000:839—848. 种群维护是多目标进化算法的重要组成部分,维护方法 【l1】DEB K,MOHAN M,MISHRA S.A fast mulit—objective evolution・ 的好坏决定着最终解集的分布状况。针对维护方法和运行效 ary algorithm for ifnding well-spread pareto-optimal solutions,Karl- 率的矛盾,本文设计了一种基于邻域的种群维护方法 GAL Report No.2 ̄3002【R】.2003. NMOEA。定义了一个反映个体邻近程度的指标——邻域包 【12】 Van VELDHUIZEN D A,LAMONT G B.Muhiobjective evolution- 含关系,利用邻域包含关系对个体进行分布适应度分级的赋 ary al ̄rihtm test suites【C】//Proceedings ofthe 1999 ACM Sym- posium on Applied Computing.New York:ACM Press,1999:351 值,并且用动态方法快速地对种群进行维护。将其与 —357. NSGA.II,SPEA2和EPS.MOEA进行比较实验,结果表明 【13】 FONSECA C M,FLEMING P J.Multiobjcetive genetic alogrithms NMOEA具有良好的搜索性能。 made easy:Selection,sharing,and mating restriction【C】//Pro- 参考文献: ceedings of the First International Conference on Genetic Alogrithms 【1】郑金华.多目标进化算法及其应用【M】.北京:科学出版社, in Engineering Systems:Innovations and Applications.Washing- 2o07. ton:IEEE Press.1995:42—52. 【2】DEB K,PRATAP A,AGARWAL S,et a1.A fast and elitist mul・ 【14】DEB K.Mulit-objective genetic algorihtms:Problem dififculites tiobjective genetic algorithm:NSGA-II【J】.IEEE Transactions on nad construction of test problems【J】.Evolutionary Computation, Evolutionary Computation,2002,6(2):182—197. 1999,7(3):205—230. 【3】 ZITZLER E,LAUMANNS M,THIELE L.SPEA2:Improving the 【15】 Van VELDHUIZEN D A,LAM0NT G B.Multiobjective evolution- strength Pareto evolutionaryalgorihtm,TIK—Report103【R】.2001. 【4】 曾三友,李晖,丁立新,等.基于排序的非劣集合快速求解算 ary alogrihtm test suites【C】//Proceedings ofthe 1999 ACM Sym- opsium on Applied Computing.New York:ACM Press,1999:351 法【J】.计算机研究与发展,2004,41(9):1565—1571. —357. 【5】 郑金华,史忠植,谢勇.基于聚类的快速多目标遗传算法【J】.计 算机研究与发展,2004,41(7):1081—1087. 【16】DEB K.Mulit-objective optimiaztion.using evolutionary algorithms 【6】 郑金华,蒋浩,邝达,等.擂台赛法则构造多目标Pareto最优解 【M】.Chiehester,Englnad:John Wiley&Sons,2001. 集的方法研究【J】.软件学报,2007,18(6):1287—1297. 【17】ZITZLER E,LAUMANNS M,THIELE L,et a1.Why quality as・ 【7】 石川,李清勇,史忠植.一种快速的基于占优树的多目标进化算 sessment of muhiobjective optimizers is diifeuh【C】//Proceedings 法【J】.软件学报,2007,18(3):505—516. of the Genetic and Evolutionary Computation Conference 【8】LAUMANNS M,THIELE L,DEB K,et a1.Combining convergence (GECCO'2002).San Francisco,Caliofmia:Morgan Kanfmann nad diversity in evolutionary multiobjective optimization【J】.Evolu- Publishers.2002:666—673. tionary computation,2002,10(3):263—282. 【18】 FARHANG-MEHR A,AZARM S.An ifnormation・theoretic entor- 【9】HORN J,NAFPLIOTIS N,GOLDBERG D E.A niched pareto ge- PY metric for assessing multi-objective optimiaztion solution set netic Mgorihtm for multiobjective optimiaztion【C】//Proceedings of quality【J】.Journal of Mechanical Design,2003,125(4):655— hte First IEEE Conference on Evolutionary Computation,IEEE 663. World Congress on Computational Intelligence.Piscataway,New 【19】 ZHENG JIN-HUA,LI MI-QING.A diversity metric for MOEAs Jersey:IEEE Service Center。1994,1:82—87. 【C】//7th International Conference on Optiimzation:Techniques 【10】CORNEDW,KNOWLES JD,OATES M J.The pareto envelope・ and Applications(ICOTA7).KobeJapan:Universal Academy based selection algorihtm for multiobjeetive optimization【C】// Press.2007:451—452. (上接第1569页) 表1 LSI。PLSI。LPI和FLPI的计算时间s 参考文献: [1】XU W,LIU X,GONG Y.Document clustering based on nonnega- tive matirx factorization【C】//Proceedings of 2003 International Conference on Research and Development in Ifnormation Retrieval (S1GIR'03).2003:267—273. 【2】HOFMANN T.Probabilistie latent semantic indexing【C】//Pro- eeedings of 1999 International Conference on Research nad Develop- ment in Ifnormation Retrieval(SIGIR99).1999:50—57. 【3】 CHUNG F R K.Spectral Graph Theory,volume 92 of Regional Conference Series in Mathematics.AMS,1997. 注:}表示由于内存LPI不适用 【4】GOLUB G H,LOAN C F V.Matirx computations【M】.3rd ed. 4 结语 Johns Hopkins University Press,1996. 【5】HASTIE T,TIBSHIRANI R,FRIEDMAN J.The elements fo statis. 本文提出了一种基于LPI的优化的局部保留索引算法 tical learning:Data mining,ifnerence,and prediction【M】.New FLPI,其显著减少了LPI的计算复杂性。理论分析显示,当 York:Springer・Verlag,2001. 减小到0时,FLPI能给出和LPI相同的解。对监督学习,当训 【6】PENROSE R.A generalized inverse for matrices【C】//Proceedings 练集小时,通常倾向于选择一个更平滑的基函数,带有 (> of the Cambridge Philosophical Society.1955,51:406—413. 0)的FLPI能获得比LPI更优的性能。然而,如何自动评价 [7】 CHANG C-C,LIN C J.LIBSVM:A library for support vector ma・ 一个最优的 将是今后进一步研究的关键问题。 chines【EB/OL】.http://www.csie.ntu.edu.tw/一cjlin/libsvm. 

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- 7swz.com 版权所有 赣ICP备2024042798号-8

违法及侵权请联系:TEL:199 18 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务