非线性最优化问题中若干重要算法的理论研究

非线性最优化问题中若干重要算法的理论研究

屈彪[1]2002年在《非线性最优化问题中若干重要算法的理论研究》文中研究说明本文主要是对非线性最优化问题中的若干重要算法的理论分析作了探讨,包括约束最优化问题中的梯度投影方法以及求解变分不等式和互补问题的几类算法,主要是集中在这几种算法的收敛性分析上。 第一章是绪论部分,简单介绍了变分不等式与互补问题,本文所研究的内容,以及本文的主要工作。 第二章研究了通过广义D-间隙函数求解变分不等式问题的一种方法的收敛性和误差界估计。我们知道,通过广义D-间隙函数,可以将变分不等式问题转化为一个无约束极小化问题。近来,Peng和Fukushima提出了一种混合Newton类型的方法来极小化一个特殊的广义D-间隙函数,在本章中,我们将这种方法用来极小化一般形式的广义D-间隙函数g_(αβ)。我们证明了算法具有更强的收敛性质。在合适的条件下,证明了算法的全局收敛性和局部二次收敛性。更进一步,当广义D-间隙函数g_(αβ)中的参数β取值于某一区间时,证明了函数g_(αβ)对于强单调变分不等式而言,具有有界的水平集,同时,给出了算法的一个误差界估计,它部分回答了Yamashita等人提出的一个问题。 第叁章对求解互补问题的阻尼Gauss-Newton方法作了研究,这种方法最早是由Subramanian提出的。本章主要研究了阻尼Gauss-Newton方法的全局收敛性,在较弱的条件下,获得了一个更强的全局收敛结果,该结果推广了相应文献中算法的全局收敛性结果。同时,我们给出了一种不需要线性搜索的新的步长选择方法,研究了在此步长规则下的阻尼Gauss-Newton方法,得到了一个更好的全局收敛结果。 第四章对求解互补问题的可微的无约束优化法作了研究。在将互补问题转化为一个无约束优化问题的基础上,给出了一种求解互补问题的混合方法,证明了该算法的全局收敛性。 第五章研究了求解约束最优化问题的梯度投影方法,在步长的选取时采用了一种新的策略,这种策略不需要进行传统的线搜索且包含步长取常数这种特例,在较弱的条件下,证明了梯度投影方法的全局收敛性。进一步给出了目标函数f(x)是凸函数和拟凸函数时的更强的收敛性结果。第六章是结论部分,主要对本论文的内容作了简单的概括和分析。

赵勇[2]2017年在《关于多信源网络中线性网络编码的费用最优化问题》文中进行了进一步梳理网络通信已经成为现代社会的重要组成部分。随着网络编码理论的提出,彻底地改变了之前人们对数据信息传输的认识,大大增大了网络的最大组播速率。关于网络编码的研究最开始主要集中在网络编码方案的设计,如何构造具体而且有效的编码方案。然而为了使网络编码更具实用价值,我们不得不在现在已有的研究成果上更进一步地去考虑关于网络编码的优化问题。虽然我们已经有了非常多关于单信源网络编码的研究,不过由于多信源网络的复杂性并不是单信源的简单迭加,因此目前对多信源网络的研究尚处在初步阶段,而且针对多信源网络的网络编码优化问题更是一个很大的挑战。本文我们就针对具体的无圈无延迟的多信源网络,提出适当的连续流的网络编码模型。并且提出求解这一类优化问题的算法,设计仿真模拟得到实验结果成果进一步表明我们提出的算法的可实现性。在本文中,针对在多信源网络拓扑下,关于网络编码的资源消耗最小化问题,我们首先考虑一种新的方法来间接地构造线性网络编码,基于我们提出的线形网络组合模型,提出一个有约束的非凸优化问题。然后对于这一类非常复杂的问题,我们只能将其转化为近似凸优化问题,再利用罚函数等消除约束,最后通过无约束的算法求解,又或者是先用罚函数来消除约束,再利用遗传算法地有效结合算法来求出最优解。作为对比,我们也可以利用对偶理论的思想来进一步得到该问题的全局最优解的下界。最后我们基于以上提出的算法,模拟出相应的多信源网络拓扑,设计仿真实验,对模型以及算法的可行性收敛性进行数值分析。通过实验结果来验证我们提出的线性网络编码构造方案的有效性,以及通过该算法可以达到一个网络资源花费的最小化。

景慧丽[3]2009年在《无约束最优化问题的算法研究与实现》文中研究说明无约束最优化计算方法是数值计算领域中十分活跃的研究课题之一,快速地求解无约束最优化问题,除了其自身的重要性外,还体现在它也构成一些约束最优化问题的子问题。因此,对于无约束最优化问题,如何设计快速有效的算法一直都是优化工作者十分关心的问题。论文研究求解无约束最优化问题的非线性共轭梯度法,提出了两类新的非线性共轭梯度方法,并讨论了这些方法的全局收敛性和数值表现。论文的主要工作如下:(1)我们首先简要的介绍了求解无约束最优化问题的发展现状,回顾了论文将要研究的问题的背景和已有结果,并介绍了论文的主要工作。(2)我们将传统的HS算法和Dai-Yuan算法相结合,充分利用两者的优势,提出了求解无约束最优化问题的一类混合型非线性共轭梯度算法。我们证明了该算法当采用Wolfe型线性搜索方法时,不需要给定下降条件就具有全局收敛性,并用数值结果说明了这类算法的有效性。(3)我们提出了几种改进的Armijo型线性搜索方法和一种改进的非线性共轭梯度方法即MPRP方法。我们证明了MPRP方法在改进的Armijo型线性搜索方法3下求解非凸极小化问题的全局收敛性。MPRP方法的一个最重要的特征是能产生充分下降方向,即搜索方向d k满足d kT gk= ?gk2,这种性质不依赖所采用的线性搜索方法,这也是论文提出的算法与已有的非线性共轭梯度法的主要区别之一。此外,当采取精确线性搜索方法时,MPRP方法退化为标准的PRP方法。最后用数值结果说明了这类算法的有效性。

李锦[4]2012年在《小生境混合蛙跳算法研究与应用》文中研究指明由于实际工程问题的复杂性,大量的优化问题都是非常难解的。近年来,一类基于生物群体性智能行为的智能优化算法,因为不依赖问题的梯度信息,且具有跳出局部极值点的潜在能力,已引起越来越多研究者的关注。混合蛙跳算法是一种模拟青蛙觅食行为的智能优化算法,具有参数少,鲁棒性强,简单易于理解等特点。但对于一些复杂问题的求解,混合蛙跳算法仍存在收敛速度较慢、易陷入局部极值的缺陷。本文针对经典混合蛙跳算法容易早熟、收敛速度慢、寻优精度低的缺点,在研究了其寻优机制后,提出了一种采用小生境技术的混合蛙跳算法——小生境混合蛙跳算法(NSFLA)。运用基于限制竞争选择策略的小生境技术,使各子种群动态地形成了互相独立的搜索空间,抑制了由于群体协同导致的趋同性,增强了算法的全局寻优能力,提高了收敛速度;在解的更新公式中,设计了一种自适应调节移动步长的因子,引导解向最优解方向移动,加快了算法的收敛速度;采用种群淘汰机制,随机初始化已陷入局部最优的子种群,避免了算法早熟收敛的情况。实验结果表明,小生境混合蛙跳算法的性能明显优于经典混合蛙跳算法,能避免算法早熟,有效地提高了算法的寻优精度和收敛速度。针对小生境混合蛙跳算法,如何合理地选择和调整控制参数是影响算法性能的关键。在后续的研究工作中,将从算法参数的设置方面着手,进一步改善小生境混合蛙跳算法的性能。另外,还可考虑改进算法初始种群的设计方法和局部搜索策略。

王晓翠[5]2007年在《基于遗传算法的微分方程求解问题的研究》文中进行了进一步梳理遗传算法提供了一种求解非线性、多模型、多目标等复杂系统优化问题的通用框架,它不依赖于问题的具体领域,已经广泛应用于函数优化、组合优化、自动控制、机器学习等科技领域。自然科学和工程技术中的许多问题被归结为微分方程这一数学形式,而微分方程通常难以解析求解。本文提出了利用最小二乘原理将微分方程的求解问题转化为求函数最小值的最优化问题,然后利用遗传算法进行进化计算求解常微分和偏微分方程,仿真实验验证了该方法的可行性。本论文首先分析了课题的研究背景及意义,总结了国内外的研究现状,指出了现阶段求解微分方程的几种方法,并在此基础上进一步确立了利用遗传算法来求解微分方程作为本论文的主要研究内容。其次,阐述了遗传算法的基本实现机理,并对遗传算法的特点及应用进行了比较详细的叙述,同时简要介绍了MATLAB遗传算法工具箱。再次,在详细论述了遗传算法理论的基础上,研究了遗传算法在求解微分方程中的应用。分别介绍了常微分方程及偏微分方程求解问题转化为最优化问题的基本过程,针对常微分方程和偏微分方程分别提出了方程解析解的构造方法,利用遗传算法进行进化计算,并通过实例说明了遗传算法中各个参数的设置方法,最终求得方程的近似最优解。最后通过具体实例分析了该方法的求解过程,对结果进行了相应的误差分析,验证了该方法的可行性。最后对本课题的研究进行了总结和进一步展望。

梁军[6]2008年在《粒子群算法在最优化问题中的研究》文中研究说明优化技术是一种以数学为基础,用于求解各种组合优化问题的应用技术。最优化问题是人们在工程技术、科学研究、和经济管理等诸多领域中经常碰到的问题,它是指在满足一定的约束条件下,寻找一组参数值,使目标函数达到最大或最小。最优化问题根据其目标函数、约束条件的性质以及优化变量的取值范围可以分为许多类型,例如:根据目标函数和约束条件是否均为线性表达式,把最优化问题划分为线性规划问题和非线性规划问题。针对不同的最优化问题,提出了许多不同的优化方法,如牛顿法、共轭梯度法、Polar-Ribiere法、拉格朗日乘子法等。这些优化算法能很好地找到问题的局部最优点,是成熟的局部优化算法。但是随着人类生存空间的扩大以及认识与改造世界范围的拓展,人们发现由于问题的复杂性、约束性、非线性、建模困难等特点,解析性优化算法已不能满足人们的要求,需要寻找一种适合于大规模并行且具有智能特征的优化算法。现代进化类方法如人工神经网络、遗传算法、禁忌搜索法、模拟退火法和蚁群算法等在解决大规模的问题时体现出强大的潜力,它们可以在合理的时间限制内逼近优化问题的较好可行解。其中,遗传算法和蚁群算法被称为智能优化算法,其基本思想是通过模拟自然界生物的行为来构造随机优化算法。近年来,另一种智能优化算法—粒子群算法(particle swarm optimization,简称PSO)越来越受到学者的关注。粒子群算法是美国社会心理学家James Kennedy和电气工程师Russell Eberhart在1995年共同提出的,它是受到鸟群社会行为的启发并利用了生物学家Frank Heppner的生物群体模型而提出的。它用无质量无体积的粒子作为个体,并为每个粒子规定简单的社会行为规则,通过种群间个体协作来实现对问题最优解的搜索。由于算法收敛速度快,设置参数少,容易实现,能有效地解决复杂优化问题,在函数优化、神经网络训练、图解处理、模式识别以及一些工程领域都得到了广泛的应用。不过,尽管粒子群算法发展有十几年了,但是无论在理论上还是在实践上都尚未成熟。粒子群算法也和其它全局优化算法一样,有易陷入局部极值点,进化后期收敛慢,精度较差等缺点。如何加快粒子群算法的收敛速度和提高算法的收敛精度,一直是大多数研究者关注的重点。加快收敛速度的措施主要有如何选择最优的算法参数,以及与其它优化算法结合来对粒子群算法的主要框架加以修正。在提高收敛精度,防止粒子早熟方面,主要有设法保持种群的多样性,或引入跳出局部最优点的机制等措施。现已有的改进粒子群算法有模糊自适应PSO算法(FAPSO),杂交PSO算法(HPSO),离散二进制PSO算法,协同PSO算法,免疫粒子群优化算法等。本文在综述了粒子群算法及其发展过程的基础上,对现有文献进行了研究和分析,针对连续问题和离散问题分别提出了两种改进算法。在对连续问题的改进算法中,用一种无约束条件的随机变异操作代替速度公式中的惯性部分,并且使邻居最优粒子有条件地对粒子行为产生影响,提高了粒子间的多样性差异,从而改善了算法能力。本文主要以函数优化为例,通过对Sphere、Rosenbrock、Girewank等几类经典测试函数进行测试,来说明算法的有效性。PSO算法虽然被广泛应用于连续问题的优化,但在求解离散优化问题方面还是一种全新的尝试。本文在对离散问题的分析中,以矩形件优化排样具体问题为例,提出了针对离散问题的改进算法,该算法对解码方式进行了改进,并且融合了遗传算法中的交叉和变异思想,使其能快速地达到优化目的。最后,通过对这两种改进算法的分析研究,发现了几种针对粒子群算法的改进策略。无论是连续问题还是离散问题运用这几种改进策略都可以得到较好的优化。改进策略如下:对粒子行为有条件地增加邻居最优粒子的影响,可以提高粒子间的多样性差异。增加变异操作。对每个新生成的粒子增加变异操作,使用不同的变异策略对粒子进行变异。定义一个阀值,对粒子使用不同的更新策略进行更新。总之,论文对粒子群算法做了较为全面深入的分析和讨论,采用了几种改进策略,使其能有效地应用在连续问题和离散问题中。最后,论文进行了总结,并提出了进一步的研究方向。

田英杰[7]2005年在《支持向量回归机及其应用研究》文中认为支持向量机是数据挖掘中的新方法。它是建立在统计学习理论基础之上的通用学习方法,并且已表现出很多优于已有方法的性能。目前在理论研究和实际应用两方面支持向量机正处于飞速发展的阶段。 处理分类问题和回归问题的支持向量机分别称为支持向量分类机(SVC)和支持向量回归机(SVR),支持向量回归机无论在理论还是应用研究方面都没有支持向量分类机的研究工作深入和广泛,本文针对以下几个方面对支持向量回归机的理论和应用进行了研究和探讨: 1.模型选择问题决定了支持向量机实际应用的成功与否。对支持向量分类机,已经有了一些文献探讨如何选择最优参数,其最常用的评价标准是LOO误差界。对支持向量回归机目前还没有相应的结果。本文推导出叁个支持向量回归机算法的LOO误差界,并在此基础上给出了一个新的支持向量回归机算法——LOO支持向量回归机; 2.本文给出了一个广义支持向量回归机模型,该模型的优化问题中含有一个可灵活选取的函数,通过该函数的不同选取,使其能够包含若干种已有的支持向量回归机模型,并且该广义模型不再要求核函数具有正定性,从而拓广了核函数的选择范围;把支持向量回归机中的原始凸二次规划问题转化为光滑的无约束问题,构建了无约束支持向量回归机,使得许多成熟有效的无约束最优化算法能够应用到支持向量回归机中去; 3.对标准的ε-SVR,我们给出了其两个导出途径:一是把回归问题转化为分类问题,利用SVC求解,推导出ε-SVR的原始最优化问题;二是对回归问题给出了相应于分类问题的间隔概念,利用最大间隔的思想推导出ε-SVR的原始问题; 4.目前支持向量回归机的研究都是基于有限维空间的优化理论,而对于无穷维空间则没有讨论。本文对无穷维空间中支持向量回归机的原始最优化问题和对偶问题的解的关系,给出了严谨的理论证明,完善了支持向量回归机的优化理论基础; 5.对小流域土壤侵蚀的预报问题,本文利用研究的理论结果建立小流域土壤侵蚀SVR预报模型,并根据最小化LOO误差界选择最优参数。与传统预报模型的比较结果表明了SVR预报模型的可行性和有效性,从而为支持向量回归机在新领域的应用做了有意义的尝试。

刘金魁[8]2016年在《无约束最优化问题与非线性方程组的若干解法研究》文中指出本文主要研究求解大规模无约束最优化问题的非线性共轭梯度法和谱梯度法及它们的推广形式,并进一步扩展和构建求解大规模非线性单调方程组问题的无导数投影法,建立方法的全局收敛性定理,并利用大量的数值试验展示方法的有效性和稳定性。我们首先在第1章回顾了将要研究问题的背景和已有结果,然后阐述了本文的选题动机和主要工作。在第2-3章,我们从不同角度研究了求解无约束优化问题的杂交LS-DY共轭梯度法和叁项HS共轭梯度法,分别记为HLSDY方法和TMHS方法。这两种方法的重要性质是HLSDY方法的搜索方向即满足D-L共轭条件又与牛顿搜索方向一致,TMHS方法的搜索方向即满足传统共轭条件又具有充分下降性质。重要的是,这些性质不依赖于线搜索条件。在精确线搜索下,HLSDY方法和TMHS方法分别退化为传统的LS方法和HS方法。对于非线性共轭梯度法,搜索方向的性质对于算法的收敛性研究和数值效果具有重要影响,我们在HLSDY方法中采用了着名的Powell重新开始准则,在强Wolfe线搜索条件下也证明了HLSDY方法能产生充分下降方向,且对一般无约束最优化问题具有全局收敛性。在适当的假设条件下,我们证明了TMHS方法在标准Wolfe线搜索下用于求解无约束最优化问题的全局收敛性。通过对CUTEr函数库中大量的无约束测试问题进行试验,大量数值结果表明,HLSDY方法和TMHS方法是非常有效的。我们在第4章提出一种修正的谱梯度法,该方法的一个重要特征是在没有任何线搜索时总能产生充分下降方向。在Armijo线搜索条件下,所提方法对求解无约束最优化问题具有全局收敛性。特别是,我们结合两阶段法将该方法应用于脉冲噪音去噪问题。在两阶段算法的第一阶段,采用自适应中值滤波方法来检测图像中的噪声点;在第二个阶段中采用修正的谱梯度法求解一个极小化问题来恢复检测到的噪声点。在第5章,基于一种修正的HS方法,我们首先提出一种求解大规模无约束优化问题的叁项共轭梯度法,该方法的搜索方向满足D-L共轭条件,并在一定条件下与无记忆BFGS方法的搜索方向保持一致。然后,在Solodov和Svailter提出的投影技术基础上,我们推广上述方法建立求解大规模无约束非线性单调方程组问题的叁项无导数投影法,记为TTDFP方法。在适当的假设条件下,我们证明了TTDFP方法的全局收敛性和R-线性收敛速度。在第6章,基于传统DY方法的稳定性和多元谱梯度方法的有效性,我们讨论了求解大规模非线性方程组问题的无导数多元谱DY型投影法,记为MSDYP方法。在适当的假设条件下,无需借助评价函数,我们证明了MSDYP方法对带凸约束条件的非线性单调方程组是全局收敛的,并且具有R-线性收敛速度。在第7章,针对压缩感知中的1正则化问题,在CGD方法的基础上我们研究了一种修正的无导数投影法。在适当的条件下,我们建立了方法的全局收敛性定理,并且给出了数值试验结果。最后,简要总结了本文内容,并且提出了一些遗留的问题和今后准备思考的问题。

田野[9]2010年在《粒子群优化算法及其应用研究》文中提出在经济计划、工程设计、生产制造、交通运输、信息处理等领域存在着大量的最优化问题,即在众多可行的决策方案中寻求最优方案。有效解决这些问题不仅具有重要的社会意义,而且也能产生巨大的经济效益。最优化作为一个独立的数学分支,其目的就是为了解决最优化问题,而具体解决最优化问题的方法就被称为最优化方法。传统的优化方法,如牛顿法、迭代法等是以数学为基础,对问题的描述有严格的要求,通常要求问题的目标函数和约束条件是连续可微的。而随着先进制造技术的发展,实际的优化问题变得越来越复杂,这使得传统的优化方法越发显得无能为力,因此,亟待寻求面向复杂问题的新优化方法。进化计算源于人们对自然界或生物界一些现象的观察和模拟。相对于传统的优化方法,以进化计算为代表的仿生智能优化方法通常对各类复杂优化问题具有很强的适应性、鲁棒性和并行处理等优点,并被广泛地应用于科学研究和工业生产等众多领域。粒子群算法作为进化算法中的一种,由于其参数较少、且易于实现等特点,因此一经提出,就在许多领域得到了成功的应用。本文基于粒子群算法,对单目标规划和生产调度等问题进行了研究,提出了一些优化算法,并通过大量的实验对算法的性能进行了验证,实验结果表明,本文提出的算法能够有效地克服粒子群算法过早收敛,同时求解质量也有了明显的改进。主要研究内容如下:1、以单目标非线性规划问题为研究对象,提出了一种混合的粒子群算法PSO-EM。该算法结合了粒子群算法的自我改进的思想(每个粒子都通过信息交互不断地进行学习)和类电磁机制算法的吸引-排斥机制,粒子群算法和类电磁机制算法交替执行,在执行完粒子群算法后,将类电磁机制算法的吸引-排斥机制作用于粒子的当前个体最优,迫使粒子的当前个体最优再次向更好的位置移动。因此,粒子的当前个体最优的更新不仅依赖当前群体最优,也受到其他粒子的当前个体最优的影响,通过这种方式来加快算法的收敛速度。实验结果表明,PSO-EM算法无论是在收敛速度、收敛精度以及成功率上都有了明显的提高。2、提出了一种基于多群体的改进粒子群算法IMPSO求解单目标非线性规划问题。该算法采用有偏(类似人才层次结构)的群体划分方式,将整个群体划分为叁个规模不均等的子群体,不同的子群体采取不同的速度更新策略。最优子群体(better-population)的目的是加快收敛速度,最差子群体(worse-population)的目的是为了有机会探寻更大的搜索空间,减少陷入局部极值的可能。而次优子群体(middle-population)的作用则是为了实现对搜索空间进行更大范围探索和已确定搜索范围内开采间的平衡。同时,通过引入变异策略来进行局部精细搜索,并利用不同群体间的交叉来维护群体的多样性,避免早熟收敛。通过与一些经典的粒子群算法以及有代表性的新粒子群算法的实验对比,验证了算法的有效性和高效性。3、置换流水车间调度问题是比较典型的生产调度问题,要求多个作业在不同的机器上进行加工,并且每台机器上的所有作业的加工顺序都必须相同。针对该问题,提出一种混合粒子群算法HDCPSO。HDCPSO算法利用迭代贪心算法(Iterated Greedy Algorithm,IG)的作业毁坏(Destruction)与构造(Construction)机制来对粒子的当前个体最优进行变异操作,并且通过引入个体徘徊的概念来控制变异发生的条件,防止粒子过早地发生停滞,降低群体早熟收敛的概率。其次,算法采用了粒子重新初始化策略,通过对部分较差粒子(适应度较差或者多样性较差)进行重新初始化以保证群体的多样性。同时,采用了基于插入邻域的局部搜索机制,通过对最优个体的插入邻域进行搜索,试图找到更好的解来提高算法的收敛速度。针对不同规模问题,与现有一些算法的实验对比表明,HDCPSO算法无论在求解质量,还是稳定性方面都优于对比算法。4、针对两阶段装配调度问题,提出离散粒子群算法DPSO。两阶段装配调度问题可以认为是流水调度问题的扩展,整个作业的加工分为两个阶段,每个操作都要在不同的机器上进行加工,最后一个操作要在第二阶段进行处理,并且每个作业的最后一个操作只有在第一阶段的操作加工完成后才能开始在第二阶段的机器上进行加工。本文中首先重新定义了粒子的速度,并根据速度相应地修改了粒子的移动。为了避免算法过早地陷入局部极值,增加了对粒子的自适应变异操作,引入了个体强度,利用个体强度来控制个体变异,并根据个体适应度来决定变异的模式。同时,通过基于交换邻域的搜索机制来强化个体的局部搜索能力,提高算法的收敛速度。最后在不同规模的问题上进行实验对比,验证了算法的有效性,该算法在最优解质量上优于其他对比算法,并且在执行时间上也具有较强的竞争力。近年来,对粒子群优化算法及其应用的研究已经得到了国内外众多学者的关注,并且涌现了大量的改进算法和新的应用。本文对粒子群算法求解规划问题和生产调度问题进行了研究,并提出了一些更有效的优化算法。在粒子群算法的改进、混合等研究以及在更多领域的应用上,本文的研究工作具有一定的理论意义和应用价值。

陈漠[10]2015年在《用于最优化问题的改进粒子群优化算法研究》文中研究表明最优化理论与算法是一门由数学发展而来的学科,它的研究内容是在众多可行方案中确定并选择最优方案在人类发展的历史中,学者们针对于不同的最优化问题,提出了各种各样的优化方法,如早期的牛顿法,共轭梯度法,拉格朗日乘子法等等,这些成熟的局部优化算法能够很好地找到问题的局部最优解但随着人类生存空间的扩大,不断涌现的新问题具有更高的复杂性ǐ约束性ǐ非线性ǐ以及建模困难方面的问题,这些用于解决求局部最优解的解析性优化算法已经不能够满足人们的要求了,人们亟需一种适合于大规模并行,并且具有智能特征的优化算法,随机型优化算法应运而生随机型优化算法中比较典型的遗传算法,模拟退火法,人工神经网络,群智能算法等在大规模最优化问题的处理中表现出了强大的潜力,相较于其他算法,它们可以在更短的时间内搜索到优化问题的较优解近些年来,群智能算法之一——粒子群优化算法(ParticleSwarmOptimization,PSO)逐渐得到人们的关注最初它是受到鸟群觅食行为的启发而被提出的,算法使用无质量无体积的粒子作为个体,在逐代演化中,个体之间进行通过个体间并行的通信以及协作搜索问题的最优解由于算法收敛速度快,所需参数少,能够解决传统优化算法不能解决的复杂问题,因此被广泛地应用在函数优化ǐ神经网络训练ǐ以及一些工程问题中但尽管自粒子群优化算法被提出至今已经有20年的发展历史,却无论在理论上还是实际应用中都尚未成熟,也具有和其他随机型优化算法相同的缺点:容易过早收敛,容易陷入局部最优,以及求解精度差等因此提高种群多样性,防止算法早熟,以及提高算法的求解精度成为大多数研究者的关注焦点本文在综述了最优化理论以及粒子群算法的基础上,针对粒子群优化算法容易早熟的缺点,对算法的收敛时期进行了优化首先受梦境起因启发,提出一种昼夜两阶段的梦境粒子群优化算法,主要通过夜间阶段对粒子获取到的位置信息进行扭曲,而在白天阶段按照扭曲过后的信息进行移动达到令算法缓慢收敛,逃离局部最优解的目的之后在梦境粒子群的基础上,提出一种基于传染病模型的梦境粒子群优化算法,利用了粒子间的距离信息,将其通过传染过程应用到粒子的做梦能力上本文也提出了一种利用流体力学经典理论的粒子群改进算法,将粒子视作互相具有压力作用的流体,赋予其密度,压力等属性,按照伯努利定律进行演化通过在基准函数测试中对本文所提出的改进算法与其他粒子群算法进行的寻优效果以及收敛性分析等对比实验,证明叁种改进算法寻优结果优于一些典型的粒子群改进算法虽然传染病粒子群算法参数较梦境粒子群多,但在控制收敛时期方面具有可控性流体力学粒子群算法开销较大,但在多模问题上能求得较好的解最后,通过对粒子群算法改进算法的研究,提出了一些进一步优化的方案,进行了总结,并提出了进一步的研究方向,如理论证明算法参数选择的有效性,进一步使用其他传染病模型以及相关改进算法,将流体粒子群模型从笛卡尔坐标系映射至势流坐标系,以及将优化算法应用到不同领域的实际问题中,进一步研究针对不同问题的改进策略,利用不同问题的特点设计出相应有效的算法等

参考文献:

[1]. 非线性最优化问题中若干重要算法的理论研究[D]. 屈彪. 大连理工大学. 2002

[2]. 关于多信源网络中线性网络编码的费用最优化问题[D]. 赵勇. 北京邮电大学. 2017

[3]. 无约束最优化问题的算法研究与实现[D]. 景慧丽. 西安科技大学. 2009

[4]. 小生境混合蛙跳算法研究与应用[D]. 李锦. 西安电子科技大学. 2012

[5]. 基于遗传算法的微分方程求解问题的研究[D]. 王晓翠. 河北工业大学. 2007

[6]. 粒子群算法在最优化问题中的研究[D]. 梁军. 广西师范大学. 2008

[7]. 支持向量回归机及其应用研究[D]. 田英杰. 中国农业大学. 2005

[8]. 无约束最优化问题与非线性方程组的若干解法研究[D]. 刘金魁. 重庆大学. 2016

[9]. 粒子群优化算法及其应用研究[D]. 田野. 吉林大学. 2010

[10]. 用于最优化问题的改进粒子群优化算法研究[D]. 陈漠. 吉林大学. 2015

标签:;  ;  ;  ;  ;  ;  ;  ;  

非线性最优化问题中若干重要算法的理论研究
下载Doc文档

猜你喜欢