黎健玲[1]2003年在《线性互补约束优化问题一个超线性收敛的序列线性方程组算法》文中研究指明由于带互补约束的优化问题在经济、工程技术、对策决策等领域有着广泛的应用，因此，对此类问题的研究备受关注． 本学位论文讨论的是带线性互补约束优化问题．早期，有些学者试图将此类问题转化为标准光滑的非线性规划问题(简记为SSNP)来求解，但J．V．Outrata，M．Kocvara等人在1998年指出了等价的SSNP在任何可行点处都不满足比较弱的Mangasarian-Fromotitz约束规格，因此，通过用已有的求解SSNP的一些方法如序列二次规划(简记为SQP)类算法、序列线性方程组(简记为SSLE)类算法解等价的SSNP来获得线性互补约束问题的解，会有相当的困难． 本学位论文提出一个求解线性互补约束优化问题的新算法——SSLE算法．该算法的主要思想是：首先利用一个广义互补函数和摄动技术将问题转化为一族含参数的一般非线性优化问题，然后利用特殊形式的罚函数作为效益函数，建立问题的一个序列线性方程组算法．该算法在每次迭代时所需解的叁个线性方程组具有相同的系数，因此计算量要比现有的SQP方法有所减少；在与一些文献平行的假设条件(如二阶充分条件)下，论文证明了算法不仅具有全局收敛性，而且还具有强收敛性和超线性收敛性．论文最后对算法进行了初步的数值试验，试验结果表明所给出的算法在实际计算中是行之有效的．
马凤明[2]2003年在《求解广义互补问题的一个超线性收敛算法》文中研究指明广义互补问题(GNCP)是求x~*∈R~n满足其中F和G是R~n到R~m的连续映射，K是R~m中的非空闭凸锥，K°表示K的极锥。 在本文中，我们考虑m=n，F和G均为R~n上的连续可微函数，K为R~n中的多面体锥的情形。此时，存在A∈R~(s×n)，B∈R~(t×n)使得容易证明K的极锥K°有如下表示形式： 本文利用Fischer函数Φ：R~2→R~1对任意将GNCP转化为一个方程系统和无约束优化问题。 定义如下向量函数Φ：R~(n+s+t)→R~(n+s+t)和实值函数f：R~(n+s+t)→R：其中对任意 iii则如下结论显然成立． 定理1．1．IX＊为＊＊＊P的解当且仅当存在XED；杉E抒，使得 I（X＼ ＊w＝0． 本文包含两部分．第一部分即第一章，主要包括GNCP问题的背景，发展现状，一些基本定义及其性质，a及函数q和f的性质． 第二部分即第二章，主要包括如下内容： O）解的存在性与唯一性 定理2．1．2若函数尸叫连续，且存在v＞0使得 （F问一F（州”（G问一出）叁 门丁一 ＊’；VX；gE严．则＊＊＊P（只G，x有唯一解． 仰稳定点条件 定理2．2＊设。”二（X”；人Z；人打 为 。。RW＋。／（匀的稳定点，尸（x＊）可逆，o（x＊）r（x＊） 且在B的零空间 上正定，则x＊为 GNCP（F G儿）的解． 定理2．2．2设几＝Bx．若（X”，入）为 1。。、、、。、．＿。 min 厂丫x．人〕＝子nl中乙Pjx｝，入门卜＋H GG：x）一人川1 2”’的稳定点，F如勺非奇异，以（X＊）r（X＊8一且为＊矩阵，则X＊为＊＊＊P（F G人）的解． 切非奇异性条件 定理2．3．二若X”二（X＊，X，以E抄十’十‘；尸（X＊）与＊（X＊）可逆，B为行满秩矩阵，＊尸J川o丁川－‘厂为A主阵，贝VEaWk）任意非奇异． 定理2．3．2 对优化问题 1，＿，、一、。、，＿．、。，、t、、 min f了x、川＝享门陋《AFjx），工川厂＋门G（x）一A’川卜） 2”’tv若（X”八“）E”十’；ok“）非奇异，A厂’（X”）卜（X“｝‘厂为P－矩阵，则任意VEOW（了“，A”）非奇异． 凹算法及其收敛性 算法2·4＊ 步 1：选取初始点 z’e Rn一刊；参数 a；0 E＊；1）和。＞0；令k＝0． 步2二 若11D／二＆）巨叁Z，停止吕 否贝豆I， 转步3回 步3：任选V‘Ea叭）．取矿ER时叫‘为如下线性方程组的 解《V）V‘＋ ＃hi N一（V）W（二‘） 其中。＝【 （ZM】． 步4：令。k为满足如下条件的最小非负整数 ／（z‘＋a叱勺＜／（。勺十尸amw（。勺”d‘ 今。‘“’·二。‘＋二＊。矿；k：＝k十人转步2． 定理2．4二 设杠呵为算法产生的无穷点列，则卜呵的任一聚点都是无约束最优化问题 D口In 了Q z】 gERn十3刊的稳定点． 定理2．4．2设｛Z‘｝为算法产生的点列，Z“为｛Z‘｝的一个聚点，且为州一0的＊几正则解，则以下结论成立 1）整个点列｛／｝超线性收敛于Z”． 2）若 F’和 G’k）均 LIPschitzian 连续，则 ｛z‘｝Q二次收敛于。”． 间数值实验 在给出数值实验之前，先给出一种计算aQ卜F…叫；入）中的元素的方法．通过数值实验可以证明本文的算法是有效的． 引理2．5．I 对子XERn和入ERs，选取。ERs使得对满足条件士l；＝0和＊八X）J；二0的指标S；有衅一0． 令 W＝（D。AF＊Db＊ 人 7 v其中 IAF（xll。u；1． a。＝＝ r一 1．b。＝＝ HH一二若 ｝］卜＊F（X）IZ＞0和 IAF‘00X。o O。＝一二二叁二兰兰土一一1．6。＝＿一 1若 卜I卜卜厂（x）］Z二0．则 W E odi（AF（xX入1X进一步， W 6 OBdi（AF（x），AI）· 仰讨论一种特殊情形 讨论B二0；A为对称非奇异矩阵的情形，此时八＊
谭玲[3]2009年在《均衡约束数学规划问题的光滑化算法研究》文中指出均衡约束数学规划问题(简称MPEC ),也称为均衡约束优化问题或者均衡问题,起源于经济问题,与着名的stackelberg对策论有着紧密联系,也是双层规划论问题的一般化推广.这一类问题在工程设计,交通运输,经济均衡以及多层规划等诸多领域有着广泛的应用,目前己经成为国际优化领域最为活跃的研究课题之一,近几年其研究越来越受到人们的广泛关注.但是由于均衡约束条件的存在,导致其与一般的非线性规划(NLP)的显着区别是,标准的非线性规划(NLP)约束规范条件在MPEC的可行域上不再成立.从而以此为基础的标准的非线性规划(NLP)的最优性条件及算法理论已不能用于对均衡约束问题的求解,这也是求解均衡约束问题的最大困难和算法复杂性的根本原因.本文主要做了以下叁方面工作:首先借助带扰动项的F-B互补函数和半惩罚函数,将线性均衡约束优化问题转化为一般约束规划问题.结合共轭投影技术和SQP方法的思想,提出了一个共轭投影梯度算法,该算法不需要求解二次规划子问题,也避免了计算广义投影型辅助方向,每步迭代只需要计算一次显式的主搜索方向,并且根据克服Maratos效应的要求自动产生显式的修正方向,从而进一步简化算法的结构以及计算工作量.在适当的假设条件下证明了算法具有全局收敛性和超线性收敛性.其次,通过磨光技术,将非线性均衡约束优化问题转化为在求解意义上与原问题等价的光滑问题,基于逐步逼近的思想,提出一个光滑逼近SQP算法.在每步迭代中,通过求解一个线性约束二次规划问题和显式修正方向产生主方向,计算显式公式来得到高阶修正方向,避免了Maratos效应.在不需要上层互补的假设条件下证明了算法具有全局收敛性和强收敛性且具有超线性收敛速度.最后,对文章所提出的两个算法分别进行了数值实验,实验结果表明了算法的有效可行性.
李曼荔[4]2010年在《求解组合优化问题的神经计算方法》文中认为大脑是一个复杂神秘的体系,它指导着生物的一切智能行为,包含了生物的思想、认知、学习和记忆等所有智能。许多优秀的科学家与研究者希望可以通过模拟生物大脑的结构与运行机制来构造出具有智能行为的模型与方法。毫无疑问,这些研究将给整个科学界甚至社会带来巨大而深远的影响。自从上个世纪八十年代人工神经网络重新崛起以来,科学家们在这个方面的研究取得了大量令人振奋的研究成果。其应用已经涉及到经济、军事、工程、医学以及科学的各个领域;并在模式识别、图像处理、自动控制、非线性优化等方面取得了重要成果;国际知名企业如Microsoft、Intel、IBM等公司都有着不少神经计算方面的产品,这些都表明了神经计算方法重要的科学研究地位。神经计算方法是求解组合优化问题的一种重要工具,而人工神经网络的动力学分析是应用的主要理论基础。通常情况下,递归神经网络的稳定形势包含单稳定与多稳定两种模式。而组合优化问题的最优解往往并不是单一的,因此,在本文中我们将讨论一些递归神经网络的多稳定的状态,并研究它们在解决组合优化问题的能力与性能。本文的研究内容与主要创新成果包含以下几个方面:(1)研究了TSP问题的神经计算方法,提出了一类LV网络,并构造了一个新的能量函数,分析了网络的多稳定性,使得这类LV网络可以成功解决TSP问题。利用能量函数等方法,从理论上建立了网络稳定的平衡点与TSP可行解之间的一一对应的关系,给出了网络可以收敛到TSP可行解的充分必要条件。通过模拟结果显示,这类LV网络能有效的解决TSP问题。(2)研究了列竞争神经网络在优化问题中的应用,提出了一种新的约束表达方式,从理论上解决了原有的CCM模型很难逃离局部极小值的问题。基于新的能量函数,给出了网络收敛到可行解的参数设置条件。并证明了在网络陷入局部极小的时候,可以在下一步自动跳出局部极小,进而寻找新的优化解。实验证明,本方法在一定程度上改善了解的质量,并能保证网络不会陷入局部极小。(3)研究了非线性互补问题(NCP)的神经计算方法,提出了一类LT网络并成功应用于解决非线性互补问题。本文从神经计算的角度出发,将NCP问题转化为一类不带约束的优化问题,并构造合适的能量函数,使得LT网络可以快速收敛到NCP问题的解答。实验结果证明LT网络可以快速有效地解决NCP问题。(4)研究了解决矩阵不等式的神经计算方法。本文基于矩阵不等式的性质与特征,提出了一类LT网络并利用这类网络来求解矩阵不等式的解答。将矩阵不等式的解答转化为一类能量函数的极小点,并利用设计的LT网络来求解能量函数的极小点。本文证明了LT网络的稳定的平衡点与能量函数的极小点时一一对应的。因此LT网络来解决矩阵不等式可以得到其所有的解答。这些成果的取得,将对组合优化问题的神经计算方法的研究起到积极的推动作用。
刘群锋[5]2011年在《最优化问题的几种网格型算法》文中研究指明本文着重研究了求解最优化问题的两种网格型算法.一类是求解局部最优化问题的直接搜索算法,另一类是求解有界约束的全局最优化问题的DIRECT(DIvidingRECTangle)算法.在第2章,我们在Coope-Price直接搜索算法框架下,提出了一种混合非单调下降条件,并针对该条件提出一种网格步长的分区域更新策略.在此基础上提出Mix-DSCG算法,该算法在数值表现上比原始的DSCG算法更可靠(reliable),在收敛理论上需要的条件更简洁.具体来说, Mix-DSCG算法使用混合非单调下降条件,不允许网格步长增加,从而不需要假设网格步长的极限为0就能保证收敛性,在第3章,我们以最小正基为基础,引进单纯形梯度和下降型无导数共轭梯度方向,在Coope-Price直接搜索框架内构建了MDSCG算法.在通常的条件下可以证明MDSCG算法的收敛性.数值结果表明, MDSCG算法对使用最大正基的DSCG算法以及着名的Nelder-Mead单纯形法等算法具有优势.在第4章,我们将多重网格思想应用到求解全局最优化问题的DIRECT算法中,提出了一种基于多重网格搜索的全局优化算法,称为MGGO算法.迄今为止,我们尚未见到有关的研究工作,我们所做的工作是将多重网格思想应用到全局最优化问题中的首次尝试.在仅假设目标函数Lipschitz连续的条件下,我们证明了MGGO算法的全局收敛性.与原始DIRECT算法和其他一些相关算法的数值比较表明, MGGO算法是一种很有效的确定性全局最优化算法.同时,数值实验结果也表明, MGGO算法对参数比较敏感,这一点非常类似于求解线性方程组的几何多重网格法.在第5章,本文还研究了带残差校正的多重网格法的收敛性.我们把多重网格方法看成是一种扰动的两重网格方法,得到了一个描述多重网格方法的收敛因子与两重网格的收敛因子的不等式.该不等式表明,对于带残差校正的多重网格法W-循环,存在收敛因子的一个与网格层数无关的一致上界/(1 ),其中< 0.5是两重网格法的收敛因子的上界.我们证明无论残差校正发生在哪些层上, /(1 )始终是带残差校正的多重网格W-循环的收敛因子的一致上界.同时我们还证明,当0.5 < < 1时,只要适当选取循环系数,带残差校正的多重网格法的收敛因子总存在一个与层数无关的一致上界,且该上界总小于W循环的上界/(1 ).这一结果表明,即使两重网格法收敛得不是很好,只要适当选取循环次数,多重网格的总体收敛因子仍存在较小的与层数无关的一致上界.所做的数值实验验证了适当的残差校正对多重网格法的收敛加速,并验证了两重网格法收敛得更快时多重网格法也收敛得更快.此博士论文得到了国家自然科学基金(10971058, 11071087)的资助.此博士论文用软件打印.
余航[6]2013年在《基于多特征集成的SAR图像分割算法研究》文中认为随着合成孔径雷达(SAR)系统的迅速发展,获得的SAR图像数据也越来越多,而对SAR图像理解与解译能力则相对滞后。SAR图像分割是SAR图像解译的关键部题之一,也是SAR图像自动理解与解译的基础和前提,受到各国研究者的广泛关注,成为近年来的研究热点。相比于其它种类图像(如光学或红外图像),SAR图像所固有的特点(如相干斑噪声明显,同类目标差异较大,异类目标非常接近,多尺度目标的同时存在,数据规模庞大等)给分割工作带来了严峻的挑战。因此,开展SAR图像分割问题的研究对于促进SAR技术的发展具有重要意义。本论文针对SAR图像的特点,从特征提取到算法设计,完整的对SAR图像分割问题进行研究,提出了多种基于多特征集成的SAR图像分割算法。本论文主要创新点概括如下：1.提出了一种基于上下文分析的非均衡合并SAR图像分割算法。该算法采用了自底向上(Bottom-up)和自上而下(Top-down)相结合的策略。在自底向上方面,本算法集成了多种SAR图像特征,这些特征从不同的角度出发来刻画和表示SAR图像中的目标；在自上而下方面,本算法根据格式塔理论,提出了叁条规则来对超像素的上下文进行分析,对不同的特征进行组织和集成。这叁条规则体现了借鉴于认知心理学的先验知识,实现了一种新颖的、有效的方法来对超像素的上下文进行建模,是对超像素合并的一种自上而下的全局性约束。根据所提出的上下文和多种图像特征,本算法设计了两阶段的合并策略,包括：1)粗合并阶段(Coarse Merging Stage,CMS);2)细合并阶段(Fine Merging Stage,FMS)。这种策略能够在算法的效率和准确性之间做到很好的平衡。实验表明CMS算法能够快速的合并大量具有歧义的超像素,而FMS能够获得更加准确的分割结果。2.提出了一种基于特征子空间迭代优化的SAR图像分割算法,该算法具有以下特点：1)集成了多种SAR图像特征,以准确的表示SAR图像中的不同目标；2)提出了一种分阶段集成的相似度计算方法,该方法分别在特征水平(Feature Level)和相似度水平(Similarity Level)计算基于独立特征的相似度和基于多特征集成的相似度,从而有效的避免不同特征、不同维数之间的相互影响,提高超像素之间相似度计算的准确性；3)提出了基于偏好的自适应空间约束项,该空间约束项能够根据图像中上下文的内容自适应的计算超像素与其上下文邻域的空间关系,使超像素更接近于上下文中的同类目标,可以避免传统平均策略对图像细节的损失,从而使分割结果更加准确、更具鲁棒性。4)根据构造的目标函数,提出了基于特征子空间的迭代优化算法,该算法能够对不同特征子空间进行迭代优化,从而保持不同属性的特征在其对应子空间中的分布结构,避免相互的干扰,在保持算法分割效率的同时,提高算法迭代优化的准确度。3.对基于特征域的优化技术进行更深入的研究,提出了两种新的免疫克隆优化算法,分别是：免疫调节克隆选择算法和基于正交试验设计的克隆选择优化算法。然后,根据迭代最小化算法和免疫克隆选择优化算法各自的优势,本文将其进行了有机结合,提出了一种基于特征域的混合优化方法,并将其应用于SAR图像的分割问题中。这种方法既能够在各个特征子空间中沿着梯度最速下降的方向进行迭代搜索,也能够在整个高维空间中进行基于克隆选择优化的全局启发式搜索,从而同时兼有了迭代最小化算法的高效性,以及免疫克隆选择算法的鲁棒性。对比实验表明,这种混合的优化算法能够有效的提高算法的搜索精度,避免算法陷入局部极值,明显的提高了分割算法的性能。4.提出了一种基于空间域与特征域的无监督分层迭代算法,其主要出发点是结合基于特征域分割算法与基于空间域分割算法各自的优势,取长补短,以达到对SAR图像最佳分割的目的。在合并超像素时,该算法采用了分层迭代的策略：设计了一种改进的模糊c均值聚类算法,对超像素的外观特征进行迭代优化,当得到聚类结果后,对同类超像素的空间上下文进行分析,使用区域增长算法在全局范围内对相似的超像素进行合并,直到不存在满足合并条件的超像素为止,再重新进行聚类。这两个迭代子算法分层交替进行,既可以挖掘特征的分布结构信息,避免欠分割或过分割,又可以有效利用SAR图像的多种信息,提高算法对歧义目标的鲁棒性,从而实现了一种直接的、有效的方式来组织和集成SAR图像多种特征。5.提出了一种无监督两阶段SAR图像分割方法,对基于空间域的分割算法与基于特征域的分割算法进行结合。该算法包含两个阶段,分别为：1)粗合并阶段；2)细分类阶段。在第一阶段中,本文提出了一种新的基于上下文分析的区域迭代合并(Context-based Region Iterative Merging,CRIM)算法,以利用尽量多种的特征,来对超像素进行合并。该子算法的一个优势是能够快速的、对大量位于真实分割区域内部的超像素进行合并,从而提高特征表示的准确度,减轻细分类算法的计算负担。与传统的区域合并算法相比,CRIM算法能够集成更多的信息,并且采用了一种新颖的全局停止指标来决定CRIM算法的输出。这种指标能够从全局的角度出发,计算SAR图像分割区域的均匀一致性。在细分类阶段,本章采用了之前提出的基于混合优化策略的模糊聚类算法来对图像空间中剩余的超像素进行分类,以达到最终分割的目的。
何同弟[7]2014年在《高光谱图像的分类技术研究》文中研究表明高光谱遥感是当前遥感技术发展的一个前沿领域，它利用很多很窄的电磁波波段从感兴趣的物体获得有用信息。高光谱图像作为遥感领域的一项重大突破，在保留较高空间分辨率同时，其光谱分辨率有极大的提高，达到了纳米的数量级，可以用来探测和识别传统全色和多光谱遥感中不可探测的地物类别。与传统的多光谱遥感图像相比，高光谱遥感图像有着信息量大、光谱分辨率高等特点，这使得在描述与区分地物类别方面的能力有了大幅提高，进而为地物光谱信息的精确处理与分析提供了可能。高光谱遥感系统已在全球许多国家的先进对地观察遥感系统中占有重要的位置，己成为地球陆地、海洋、大气观察的生力军。但是由于高光谱图像具有较高的数据维数，常规的图像分类方法在处理高光谱图像时有较大的限制，如何从大量的高光谱数据中快速而准确地挖掘出所需要的信息，实现高精度的分类，仍是一个亟待解决的问题。本文从高光谱图像数据的特点入手，在对现有算法进行分析的基础上，针对高光谱遥感图像分类算法进行深入研究。主要的研究工作如下：①在对高光谱遥感影像进行预处理之后，对所用高光谱图像做了大气校正。几何校正选取为二次多项式模型，重采样采用的是最近邻插值法，精度方面的要求得到了充分保证，为下一步的正确分类打下了坚实的基础。②提出了一种基于自适应粒子群优化算法的RBF神经网络高光谱遥感图像分类方法。由于人工神经网络具有并行处理、模糊识别和非线性映射等优点，很适合高光谱图像分类，但是其参数难选。采用自适应粒子群优化算法对RBF神经网络的参数进行了优化，建立了基于粒子群优化算法的的RBF神经网络模型，分类实验结果表明了基于粒子群优化的RBF神经网络模型具有很高的分类精度。③提出了一种基于自适应粒子群优化算法的SVR高光谱遥感图像分类方法。首先分析了支持向量回归的核函数的构造和模型参数的优选问题。由于本文数据样本较少，模型参数优选的比较复杂，本文采用了CV估计模型推广误差，并使用自适应粒子群优化算法来优选SVR模型参数，构建了基于粒子群优化算法的SVR高光谱遥感图像分类模型，在一定程度上解决了高光谱数据标记样本不足的问题。④从稀疏表示的基本理论出发提出了一种基于自适应稀疏表示的高光谱分类方法。利用训练样本构建字典，聚类每一步迭代所产生的余项，将聚类中心作为新的字典原子，然后将测试样本看成冗余字典中训练样本的线性组合，令字典能够更适应于样本的稀疏表示。通过对高光谱图像的分类实验，验证了自适应稀疏表示算法的有效性。
宋晓峰[8]2003年在《优生演进优化和统计学习建模》文中指出科学技术的发展使人们对客观世界不断要求更为深入的认识，然而在许多领域，如化学化工、生物医学等，仍有许多对象的内在机理暂时还难以为人们所了解，但人们仍迫切需要了解和研究它们的自变量和因变量间的定量关系。这时，根据采集研究对象的观测数据建立模型，用以对自变量和因变量之间的定量关系作出预测，是科学工作者重要的基础性工作之一。 数学模型是对客观对象活动规律的一种定量描述，是表述对象行为和性能的一种重要形式。建模方法涉及到最优化方法、数理统计、人工智能、模式识别、机器学习、神经网络等多方面的理论和方法。本文首先回顾了现行的建模方法。由于优化方法在建模中有相当重要的作用，因此，接着对具有全局寻优性能的遗传算法进行了较为深入的研究，提出了基于优生演进策略的遗传算法(EGA)，使寻优性能有较大的提高，并成功应用于化工领域中重油热解模型参数的估计。所提EGA方法为随后的支持向量机参数优化打下了良好的基础。本文紧接着还对统计学习理论(SLT)和支持向量机(SVM)技术进行了较为详细的讨论，这是对神经网络方法发展到目前的一种新的突破，在多个方面显示出良好的性能。本文在基于观测数据的统计学习建模方法上提出了一些新思想、新方法。以下是本文的主要研究成果。 (1)针对简单遗传算法容易早熟，全局寻优效率偏低等缺点，提出了一种优生演进策略，在演进过程中获取种群繁衍的有用信息，自适应地改善子代个体的分布，适时地引入确定性寻优操作，以改进常规遗传算法的性能。提出的相应技术包括：采集种群多样性指标用以调整变异概率；改进交叉算子，避免子代收缩，并提高其适应度；新增Powell寻优算子，加速局部搜索。测试实例表明优生演进策略和相关技术收到了较好的效果。本文还将基于优进策略的遗传算法(EGA)成功地应用于重油热解叁集总反应动力学模型的参数估计，效果良好。EGA是适用于模型中参数优化的一种有效方法。 (2)支持向量机采用了结构风险最小化(SRM)原则，用于模式分类已表现出优良的性能，但在观测数据中存在复共线性时，其分类效果就有所降低。因此，为了充分利用支持向量机良好的分类能力，使之能处理存在复杂相关关系的观测数据，给出了结合分类相关成分分析(CCA)的支持向量机建立分类模型的方法(CCA-SVM)，又利用本文第叁章所提出的EGA算法优化分类相关成分数及支持向量机参数。然后将其成功地应用在建立留兰香的分类器模型上，它的训练与预浙江大学博士学位论文测分类精度比SVM方法、分类相关成分分析一自组织映射网(CCA一SOM)方法都有明显提高。所提出的CCA一SVM方法可有效的建立高维复杂模式分类器。 (3)支持向量机(SVM)的参数对其回归估计性能有很大影响。在分析这种影响的基础上，导出了参数调整的自适应算法，由此构成自适应支持向量机 (A一SVM)。它采用结构风险最小原则，又能自动确定最优参数，其回归估计函数有良好的预测能力。并成功地为延迟焦化反应焦炭产率建模。与径向基网一偏最小二乘(RBFN一PLSR)方法相比，A一SVM方法的拟合精度和预测能力均有明显的提高。 (4)通过对现行的支持向量机(SVM)回归估计性能的分析，确定核函数及其参数和惩罚因子等是影响回归估计性能的重要因素。针对定义域各分区间内样本数据的噪声强度不同，以及在局部范围内数据变化急剧等复杂情况，本文提出了结构可调的支持向量回归估计(AS一SVM)方法，包括采用不同的损失函数，对各数据点自适应地选用不同的参数等。推导了求解公式，给出了调整算法。实例测试表明，AS一SVM方法的建模效果优于常规方法。 总之，论文对基于观测数据统计学习建模方法及与之有关的优化方法进行了较为全面深入的分析和探讨，通过深入研究目前该领域中最新发展起来的统计学习理论和支持向量机技术，提出了多种能够提高建模效果的新方法，为化学化工对象等许多领域的建模提供了新途径。论文最后对所做的工作进行了总结，并提出了进一步研究的方向。
蔡立军[9]2007年在《基因分类及基因表达数据分析方法的研究》文中认为随着人类基因组计划(Human Genome Project)的基本完成,生命科学的研究进入了后基因组时代(Post-Genome Era),在后基因组时代,生命科学研究的重点从单个基因的研究上升到对整个基因组功能和动态变化规律的研究,从而产生了对海量生物信息进行处理的需求;而计算机技术的革命性发展,形成了处理海量生物信息的能力。于是,生物信息学便在综合计算生物学的研究和生物学信息的计算机处理的基础上迅速而成功地发展起来。生物信息学是计算机和网络大发展、各种生物数据库迅猛增长形势下如何组织数据,并从数据中提取生物学新知识的学问。基因芯片或微阵列技术(Gene Chip or Microarrays)是最近分子生物学实验技术的一个突破,利用该技术可以同时对成千上万个基因的表达数据进行平行分析,产生了海量的有用数据,分析与整理这些数据成为利用这一技术的一个主要瓶颈问题。本文主要研究基因分类及基因表达数据分析方法,主要工作和创新点概括如下:(1)介绍了基因分类的发展概况、微阵列技术以及常用的分类算法,并通过实验进行性能评价,为本文后续章节的研究提供理论和实验基础。(2)基因选择是基因芯片数据分析中的一个重要问题,要进行基因选择的主要原因在于基因数远远大于实验样本数。为此本文把蚁群优化算法(Ant ColonyOptimization Algorithm,ACO Algorithm)引入基因选择领域,并用基因与类别的相关性分析所得值初始化最优化问题,缩短了找寻最优解的时间;以基因子集整体的样本辨别能力与它所含基因间的平均距离的线性表达作为目标函数,有利于在找到关键基因的同时消除冗余;同时,不同于一般的包装基因选择算法,在计算目标函数的时候不需要对每个基因子集进行分类准确度的计算,从而有效地降低了计算复杂度,提高了方法的灵活性和适应性。(3)独立分量分析(Independent Component Analysis,简称ICA)是应用于基因分类的一种统计方法。但独立分量分析中的估计分离矩阵算法主要采用随机梯度算法和自然梯度算法,这些基于梯度下降的寻优算法很容易陷入局部极值,所得结果不精确。本文提出了一种基于遗传算法的基因分类算法,其基本思想是利用遗传算法代替独立分量分析中传统的估计分离矩阵算法,对基因表达数据进行分类,克服了结果不精确的问题。实验结果表明,该分类方法获得了更好的分类效果。(4)本文从分类算法和特征基因选择两个方面研究基因表达数据的分类,将传统的SVM算法和KNN算法两者结合成为一种新的应用于基因表达数据分类的算法,并针对基因表达数据分类数据集中“样本少,维数高”的特点,提出了一种改进的基于相关性的递归特征消除算法(简称为C-RFE),消除了数据冗余。实验结果表明,新方法可有效提高分类准确率和特征选取的效率。(5)针对基因表达数据的特征和单个分类器在进行基因分类时适用范围有限、分类准确度不高等问题,提出了一种新的基于神经网络的融合规则的多分类器组合模型的基因分类算法,克服了单个分类在进行基因分类时所呈现的不足,实验表明基于多分类器组合模型的基因分类算法能有效提高分类准确度,并能扩大分类器的适用范围。(6)聚类分析已经成为基因表达数据分析中的一种非常重要的分析方法,但怎样结合其他高层次的生物学知识对聚类结果进行进一步的分析和解释依然是功能基因组研究中一个亟待解决的问题。为此,本文提出一种简单的算法,结合GO和KEGG调控代谢路径注释信息对聚类结果进行分析,获得具有显着功能注释关联的共表达基因集合。然后在此基础上开发了相应的自动分析软件SigClust,同时用一组基因表达数据对该软件的预测能力进行了验证。
刘建丽[10]2007年在《面向生物数据分析的支持向量机技术的研究》文中研究表明支持向量机(Support Vector Machines,简称SVM)是基于统计学习理论的一种新的数据挖掘技术,它借助于最优化方法来解决复杂的机器学习问题。SVM是处理小样本、高维数据的有效方法,它有着良好的理论基础的支持。它能够较好地解决了神经网络等方法的过学习问题,同时也能够较好地克服维数灾难问题。二十一世纪是生命科学迅猛发展的时代,生物数据呈指数增长,分析和挖掘生物数据背后隐藏的生物学规律已成为生命科学家关注的焦点。人类基因组中DNA序列的功能性研究是一个重要研究方向。对于一个给定的DNA序列,判断它是基因序列还是间区序列是进一步分析序列的前提。开发有效和快捷的分析算法是加速分析和理解生物信息的重要手段之一。目前国际上已有很多基因识别软件,但大多数软件不能识别完整的基因。本文主要研究目标是利用SVM和其它的机器学习方法对生物数据进行分类。论文首先系统地研究了基于统计学习理论的生物数据分类技术;然后,对不同的学习方法进行了性能比较和评价。统计学习理论的最大贡献是提出了结构风险最小化(SRM)归纳原理和基于该原理的实现方法──支持向量机。SRM原则已经显示出了优于传统的用于一般的神经网络的经验风险最小化(ERM)原则。SRM原则最小化经验风险和置信范围的和,而ERM原则最小化训练误差。其差别在于基于SRM原则的SVM学习方法有更好的推广能力,这正是统计学习的目标。从长长的DNA序列中准确地提取出具有分类特征的训练属性是机器学习的第一步。针对DNA数据的复杂性,本文提出了一种基于语言学方法的特征提取方法。假设仅考虑2类问题,该方法将出现在DNA序列中的所有长度为2～6的短序列作为候选特征词汇,对每个候选的特征词汇计算它在DNA序列集中的各个序列出现的频率、在DNA序列集合中出现频率,以及在不同类序列集内出现的相对差,来决定它是否为关键词汇作为训练属性。从而,将DNA序列映射到欧式空间中,使每个DNA序列对应于欧式空间中的一个向量。论文提出并实现了利用支持向量机来识别人类完整基因的方法,在不依赖于特殊的生物领域信息的基础上使基因识别分类精度达到了85%。在对完整基因的实现分类的基础上,通过大量试验,对复杂的训练参数选择,提出了在SVM训练过程中参数选择的具体而有效的方法。在对训练数据没有充分了解的情况下,对于C-SVC训练中,惩罚因子C从大到小地选取往往比其从小到大地选取更快地找到最佳训练结果。论文通过与其它学习方法进行比对,验证了SVM方法的诸多优势。对DNA序列分类问题,首次将SVM训练方法与二元Logistic回归(BLR)方法进行了比较。在处理高维、复杂数据分类问题上,SVM不仅在分类精度上优于BLR和人工神经网络(ANN),而且在训练速度上远远优于它们。论文初步探讨了并行SVM训练算法,并将遗传算法引进到了并行SVM训练过程中,充分地利用了SVM和遗传算法中固有并行化特点。论文研究工作将SVM技术用于生物数据分类并得到了满意的实验结果,它将使我们利用该方法解决其它生物数据的分类问题,因为生物数据既有整体上的相似性,在个体问题上又有其多样性和复杂性;另外,由于SVM学习方法的优势,可将该技术拓展到其它应用领域,有希望解决其它复杂分类问题。
参考文献：
[1]. 线性互补约束优化问题一个超线性收敛的序列线性方程组算法[D]. 黎健玲. 广西大学. 2003
[2]. 求解广义互补问题的一个超线性收敛算法[D]. 马凤明. 曲阜师范大学. 2003
[3]. 均衡约束数学规划问题的光滑化算法研究[D]. 谭玲. 桂林电子科技大学. 2009
[4]. 求解组合优化问题的神经计算方法[D]. 李曼荔. 电子科技大学. 2010
[5]. 最优化问题的几种网格型算法[D]. 刘群锋. 湖南大学. 2011
[6]. 基于多特征集成的SAR图像分割算法研究[D]. 余航. 西安电子科技大学. 2013
[7]. 高光谱图像的分类技术研究[D]. 何同弟. 重庆大学. 2014
[8]. 优生演进优化和统计学习建模[D]. 宋晓峰. 浙江大学. 2003
[9]. 基因分类及基因表达数据分析方法的研究[D]. 蔡立军. 湖南大学. 2007
[10]. 面向生物数据分析的支持向量机技术的研究[D]. 刘建丽. 北京工业大学. 2007
标签：数学论文; svm论文; 图像分割论文; sar论文; 网络优化论文; 网络模型论文; 图像融合论文; 线性模型论文; 分类数据论文; 函数图像论文; 非结构网格论文; 支持向量机论文; 监督学习论文; 网格系统论文; 图像像素论文; 迭代计算论文; 迭代模型论文; 算法论文;