神经网络、模糊系统的几个问题研究及其在人脸识别中的应用

神经网络、模糊系统的几个问题研究及其在人脸识别中的应用

于东军[1]2003年在《神经网络、模糊系统的几个问题研究及其在人脸识别中的应用》文中研究指明近年来,神经网络和模糊系统在理论与实践上取得了令人瞩目的进展。但是在神经网络和模糊系统的实际应用中,仍存在一些噬需解决的问题,本文对其中常见的几个问题进行了研究。 对于常用的叁层结构的神经网络,隐节点数目的确定一直是个难题,至今无定论。本文研究了工程上常用的叁层B样条神经网络,采用构造性的方法证明了B样条神经网络的全局逼近能力,并且给出了构造几乎最小隐节点的算法,从而在理论上为B样条神经网络的使用提供了依据。 针对呈现层次特征的应用领域,本文提出了相应的层次径向基神经网络(Hierarchical RBFN),并且证明了HRBFN是一个全局逼近器。HRBFN更适合于具有层次结构的应用领域,并且HRBFN还能够部分消除使用RBFN会造成隐节点随着输入变量数目增加而急剧增多的问题。 模糊系统可以以两种方式应用于非线性系统辨识:串并联方式和并联方式。本文研究了串并联方式模糊系统的数字逼近特性,得出结论:当模糊规则数等于样本数时,已经可以实现精确插值,因此模糊规则条数不能超过样本数目,否则将冗余,并可能引起振荡,削弱模糊系统的泛化能力。此外还研究了系统逼近误差和初始状态误差对串并联模糊系统性能的影响,指出:只要模糊系统逼近实际系统足够好,即使两者之间存在初始状态误差,模糊系统仍能良好工作。 对于以并联方式进行非线性系统辨识时的模糊系统,本文研究了其预测收敛性和辨识收敛性。证明了只要并联模糊系统的参数满足一定的条件,可以保证并联模糊系统的预测收敛和辨识收敛,并给出了该条件。 应用模糊系统时,常常会遇到的一个问题就是系统中可能存在冗余的模糊子集和模糊规则。一方面增加了系统复杂性,浪费了计算能力,另一方面也给使用自然语言来描述系统造成了困难。本文针对TS模糊系统提出一种模糊子集和模糊规则的合并算法。使用该算法能有效地减少模糊子集和模糊规则的数目,进而减小了系统的复杂性,提高系统的可描述性。 最后,本文将神经网络和模糊系统用于人脸识别。本文先应用神经网络技术构建了一个完整的人脸识别系统:首先使用基于眼睛位置估计的方法从人脸图像中分割出对识别有意义的纯脸,然后使用自组织映射进行特征压缩,提取有效的鉴别特征,最后使用基于知识的模糊神经网络进行分类。 本文还提出一种人脸识别的模糊神经模型,该模型中的每条模糊规则用以估计模式在特征空间分布中的一个簇。通过自适应调节和模糊推理,对于每个给定摘要博士论文的模式,所提模型能够给出一个信度值表示该模式属于各个类别的程度。整个系统采用OCON的机构,该结构具有易收敛、识别快、适合分布式应用和增量式学习等特点。文中使用新颖的方法来确定模糊规则的条数和初始化模糊子集参数。实验结果证明该方法具有快的学习/识别速度、高精度和强鲁棒性的特点。

王建国[2]2008年在《特征抽取方法研究及其在人脸识别中的应用》文中提出特征抽取是模式识别领域中的一个重要研究方向,在人脸识别中,抽取有效的鉴别特征是解决问题的关键。本文对当前一些主要的特征抽取方法进行了较为深入的研究,并在此基础上提出了几种更加有效的特征抽取方法,在人脸识别方面得到了较成功的应用。独立成分分析(ICA)方法是基于高阶统计特性,和基于二阶统计特性的主成分分析(PCA)方法相比,能提供更多的信息,但是它们都是最佳重构原始数据的信息,而不是最佳的分类信息。而线性鉴别分析(LDA)方法由于很好的利用了样本的类别信息,能够得到最佳的分类特征。另外,在传统的线性鉴别分析方法中是将各个样本同等对待,在人脸识别中,由于人脸受光照、姿态、表情等多种因素的影响,此时样本的分布变得比较复杂。因此,对于此种情况缺乏有效的特征提取手段。本文利用模糊集理论,通过引入模糊隶属度函数对传统的LDA方法中的类内散布矩阵和类间散布矩阵进行重新的定义,并提出了一种新的基于ICA的模糊LDA的特征提取方法。在AR,ORL和NUST603叁个标准人脸数据库上的实验结果验证了新方法的有效性。在人脸识别中,Fisher线性鉴别分析经常会遇到高维小样本问题,出现类内散布矩阵奇异而无法直接进行特征抽取的情况。虽然,采用类间散布矩阵和类内散布矩阵的差作为鉴别准则,可以避免奇异性问题,但是,这些方法都是基于向量的,在进行计算时,容易导致“维数灾难”问题。本文将基于向量的散度差鉴别准则进行了推广,提出了直接基于图像矩阵的散度差特征抽取方法。该方法首先在图像的行方向上进行散度差鉴别分析,然后在图像列方向上进行二维主成分分析,进行特征抽取。在人脸数据库上的实验证明了该方法的有效性。本文还对二维主成分分析方法的产生矩阵进行了分析,并重新定义,在类间散布矩阵定义的基础上引入了径向基函数,通过调整径向基函数的系数得到更有利于分类的特征信息,获得较高的识别率,广义主分量分析是改进方法的一个特例。Fisher极小线性鉴别准则解决了标准Fisher鉴别准则方法中类内散布矩阵奇异的情况,并提取出图象具有最大可分性的鉴别矢量。由于独立成分分析方法基于高阶统计特性,和基于二阶统计特性的主成分分析方法相比,能提供更多的信息,基于这个想法,我们提出了一种新的基于ICA和极小线性鉴别准则的特征抽取方法。考虑到人脸识别中样本分布的复杂性,而核方法是解决非线性问题的一种有效方法,我们将Fisher极小线性鉴别推广到了基于核的Fisher极小鉴别分析。在人脸数据库上的识别结果验证了该算法的有效性。非局部保持投影(Non-locality Preserving Projection,NLPP)是一种线性流形学习算法。本文分析了局部保持投影(LPP)和非局部保持投影(NLPP)的理论基础,并将其推广到核空间,提出基于核的非局部保持投影的特征抽取分析方法。在Yale和ORL人脸数据库上的实验验证了新方法是有效的。

梅蓉蓉[3]2011年在《动态模糊神经网络的应用及研究》文中指出模糊神经网络是在现代信息科学领域中发展非常迅速的重要学科之一。模糊神经网络集模糊系统知识的明显表达和神经网络强大的学习功能于一体,具有学习功能和自适应能力,并被广泛的应用于工业过程控制、机器控制、消费电子、系统辨识、模式识别、图像处理、数据挖掘等多个领域。在现有的模糊神经网络系统中,研究主要集中在模糊神经网络的表达方式和参数确定上,而对神经网络的辨识问题仍未解决。本文在前人的研究基础上,对动态模糊神经网络及其应用进行了深入的研究,取得如下成果:(1)针对未知状态的人脸识别提出了一种基于状态估计的张量分解的人脸特征提取方法。张量脸算法是分析和表达多因素影响的人脸图像结构的一种有效的数学模型,在原有的张量脸算法的基础上结合状态估计方法,对待识别人脸进行特征提取,通过动态模糊神经网络分类器进行识别,结果表明基于状态估计的张量分解方法的正确识别率高于原有的张量脸算法和常用的PCA人脸特征提取方法,而且网络训练速度也有提高。(2)在对动态模糊神经网络深入研究的基础上,本文又将补偿模糊神经元引入到动态模糊神经网络,提出了一种改进的动态模糊神经网络,即动态补偿模糊神经网络。通过在ORL人脸数据库和Weizmann人脸数据库上的多次实验表明,动态补偿模糊神经网络分类器的性能优于动态模糊神经网络分类器和径向基函数神经网络分类器。(3)由于通过动态模糊神经网络产生的模糊规则可理解性不高,而且产生和删除规则的次数易重迭,所以又对广义的动态模糊神经网络进行了深入的研究。广义的动态模糊神经网络(GDFNN)弥补了原有的动态模糊神经网络的缺陷,使使用者使用更方便,在函数逼近和系统辨识中的实验效果也表明,GDFNN的性能优于DFNN的,而且学习速度也有明显提高。

肖潇[4]2006年在《高维空间几何复杂体理论的研究及其在人脸识别中的应用》文中进行了进一步梳理由于信息科学和高维空间的根本联系,信息科学中的很多处理方法都可以在高维空间中找到对应的问题和解释,高维空间几何方法的发展为信息科学寻找新的发展方向提供思路。本文正是以分析解决模式识别问题为目标和出发点,研究了高维空间几何复杂体理论。论文首先引入高维空间的一些基本概念及公理,并对运用在模式识别中的距离算法加以总结和补充。重点分析研究了高维空间点覆盖的方法,然后以人脸在高维空间中的点为例,分析了人脸图像在高维空间中的分布情况。本文还提出了多自由度神经元模型,研究了它的学习算法。最后,将基于多自由度神经元模型的认知算法应用于人脸识别实验,验证了算法的有效性。实验过程说明:1)基于认知算法的人脸识别系统,对每一类样本的训练独立,对于新增类型,不会影响原有的已经训练好的类型。2)实验的数据是连续的,这也是仿生模式识别系统实现的基本要求。3)仿生模式识别采用高维空间复杂几何形体覆盖的方法构造样本空间。本论文的创新之处是:1)以高维空间几何学为基础,提出了多自由度神经元模型。2)结合仿生模式识别的基本理论,给出了基于多自由度神经元的认知算法。3)人脸识别实验验证了多自由度神经元认知算法的有效性。

刘艳艳[5]2008年在《子空间特征提取方法及其在人脸识别中的应用》文中研究说明特征提取是模式识别研究中的最基本问题之一。对于图像识别而言,提取有效的图像特征是完成识别任务的一个关键问题。近年来,子空间方法因其计算简单、有效等特性在特征提取领域得到了广泛应用,其本质就是把原始的高维样本数据投影到一个更有利于分类的低维特征子空间。作为图像识别的重要应用,人脸识别是当前计算机模式识别领域中的一个非常活跃的研究课题,本文以人脸识别为应用背景,以子空间特征提取方法为主题进行了相关研究,论文的主要工作和贡献如下:1.针对奇异值特征对细节描述不充分、包含有效鉴别信息不足的问题,本文将鉴别能力强的局部区域用于识别,提出了组合奇异值特征的概念,该特征具有一系列与奇异值特征类似的理想属性,并兼顾了图像的整体和局部信息,人脸识别实验证明其具有良好的识别分类能力。此外,还提出一种基于灰度形态学和灰度投影信息的人脸局部区域提取方法,该方法避免了对五官特征点的精确定位,运算简单、快速,对人脸的姿态、表情等变化不敏感,应用于组合奇异值特征提取获得了令人满意的效果。2.把样本分布信息融于特征提取过程将有助于提高特征的分类能力。本文通过分析图像样本的分布特点,利用模糊隶属度的概念,提出一种基于模糊标号典型相关分析的特征提取新方法,通过构造模糊标号刻画样本的分布情况,并将其与典型相关分析结合,能提取综合灰度信息和分布信息的有效判别特征。此外,本文在研究核方法基本理论的基础上,采用核技巧将模糊标号典型相关分析拓展为非线性的形式,使其在继承线性方法所有优点的同时还能有效地提取更具鉴别力的非线性特征。人脸识别实验证实了新算法的有效性及应用价值,并从实验的角度验证了理论分析的正确性。3.详细讨论了小样本情况下基于典型相关分析的特征提取,并针对两种现有解决方法中存在的问题提出了相应的改进算法。首先,针对样本不足导致的小特征值包含较多干扰信息的问题,基于矩阵理论及双空间分析思想,提出一种双空间模糊标号典型相关分析算法,较好地缓解了过小特征值对算法性能的影响,并最大限度地保留了样本所包含的有用信息;其次,针对二维典型相关分析中类标矩阵维数较大及算法耗时过多的问题,提出一种改进的方法,该方法利用图像的频谱性质定义低维的类标矩阵,并从有利于模式分类的角度,借鉴Fisher准则构造了新的准则函数,最后利用二维主成分分析对所得特征进一步降维,得到了更具分类判别能力的低维特征。人脸识别实验验证了新算法的可行性和有效性。

陆飞[6]2006年在《仿生模式识别的几何学习算法理论的研究》文中研究指明自从王守觉院士提出了仿生模式识别以来,仿生模式识别算法已经广泛的应用到控制理论、语音识别、虹膜识别等人工智能领域,本文首先系统地讨论了作为用于分析人工神经网络的一种方法即几何方法,并对现有的神经元模型作几何解释.这几种神经网络模型分别是:ABF神经网络、RBF神经网络,DBF神经网络和双权值神经网络,推导了必要的定理,为人工神经网络的分析提供了新的手段。其次从PCA分析方法中的讨论得到高维空间的几何理论的研究重要性,还研究了仿生模式识别的高维空间几何理论,并通过实验论证了仿生模式识别中基于高维空间流形理论方法的可行性,并用傅立叶变换解释该方法在特征提取、模式识别等信号处理领域地有效性。基于“认识”的仿生模式识别的基本思想就是用复杂几何体覆盖样本的分布区域,给出超香肠神经网络的定义并研究了它的几何性质,还对其网络结构和训练方法进行了研究,然后通过基于UMIST人脸库的识别实验进行了讨论,最终表明其有别与其它传统方法的优越性能。再次,几何体的最小覆盖问题是仿生模式识别的重要课题之一,我们提出了仿生模式识别中最小球覆盖理论的概念,并从认识的角度提出并研究了最小球覆盖理论的性质,给出了相关算法,并论证了该算法的可行性,通过在人脸识别实验验证了具有合理性。

刘汉强[7]2008年在《可见光与红外图像融合方法及其在人脸识别中的应用》文中认为人脸识别是模式识别领域中一个困难而又具有实用价值和广阔应用前景的研究领域。目前大多数人脸识别系统利用可见光图像进行人脸识别,其识别性能容易受到光照变化的影响,在户外、昏暗光照以及非均匀照明条件下,其正确识别率会大大降低。同时基于可见光光谱的人脸识别对于伪装脸的识别也有困难。而利用热红外人脸图像进行人脸识别可以克服现有识别系统易受光照变化影响的缺点。但是,由于热红外线不能穿透玻璃,如果待识别对象戴有眼镜,在热红外图像中眼镜将呈现出墨镜的效果,使对人脸识别起重要作用的眼部信息全部丢失,而这些信息都是对识别有用的重要特征,将严重影响人脸识别性能。本文研究如何利用多光谱图像融合技术来提高人脸识别系统的整体识别性能。首先,本文将基于奇异值分解(SVD)图像分层应用于多模式图像融合。首先利用SVD对原始图像进行分解,然后重组为具有不同能量分辨率的叁层:低分辨层、高分辨层和超高分辨层。根据每层的不同特点分别采取相应的融合策略。然后采用客观评价方法的实验结果表明该算法的有效性,且优于一般的经典图像融合算法。其次,本文提出一种基于双匹配度的多光谱图像融合策略。该融合策略首先在区域能量的基础上引入区域梯度,然后根据匹配度的类型和测量值进行小波低频系数的选取。实验从无需基准融合图像的客观评价方法和视觉效果两个方面表明双匹配度融合策略是一种有效的图像融合策略。该策略能够充分地利用区域特征信息,有效地保留图像的轮廓和边缘信息,同时能够有效地避免块效应的产生,产生良好的视觉效果。最后,本文通过结合基于图像能量的SVD图像分层方法与双匹配度图像融合策略的优点,提出针对可见光与远红外人脸图像融合的人脸识别算法。对比分析几种融合算法的实验结果表明该算法的有效性。

唐永强(Zoro, Tang)[8]2010年在《线性投影分析算法在人脸识别中的应用》文中认为脸部识别是一种利用脸部特征进行个体识别的生物学方法。在这个领域的研究已经有30多年的历史,所以目前的人脸识别技术得到了很好的发展。在人脸识别中,抽取有效的鉴别特征是解决问题的关键。线性投影分析是特征抽取中最为经典和广泛使用的方法之一。本文就有关线性投影分析的理论与算法进行了深入的研究,并结合独立分量分析(ICA)与线性鉴别分析(LDA)的特点,设计了一种ICA+LDA算法。该算法通过ICA算法求得训练样本的特征子空间,并在此基础上计算LDA算法的特征子空间。将ICA算法与LDA算法的特征子空间进行融合,获得ICA+LDA算法的融合特征空间。训练样本与测试样本分别朝融合特征空间投影,从而得到识别特征。利用最近邻准则即可完成性别鉴别。基于ORL(Olivetti Research Laboratory)人脸数据库实现了一个基于ICA+LDA的人脸识别原型系统,并对其算法进行改进。本文的另一个重点是人脸识别实验系统的设计和软件实现。使得所有研究工作拥有了一个统一的算法实现和测试的环境,并为实验参数的研究提供了实验环境和工具以及算法的集成。在设计各个算法的时候遵循了本系统的应用程序接口,使用接口把各个不同的算法作为系统的组件加以实现。所有和数据生成和数据的输入输出、结果显示与分析等有关工作都是由该系统统一完成的。该系统同时还具有扩展数据和二次开发的功能,能够方便使用者按照自身的需求通过摄像头的视频捕获扩展实验数据,各个功能也是按照软件模块的方式生成和加入系统的。

邹国锋[9]2010年在《基于全局与局部特征融合的人脸识别》文中研究表明一直以来,人脸识别都是生物识别技术研究中的一个热点问题,至今,在理想状态下的人脸识别研究已经取得了一些成果,但是对于存在干扰因素状态下的人脸识别仍没有较好的解决方案提出。存在的主要干扰因素包括:光照变化、姿态变化、遮挡物、表情变化等等。有研究者提出基于局部特征的人脸特征提取方法有利于改进人脸图像中存在的光照、姿态影响,本文正是从这个角度出发,围绕人脸图像中存在的光照和姿态影响展开研究,详细地分析了人脸识别中的局部特征提取与识别方法的优越性,然后将全局特征和局部特征进行有效地融合,实验表明两种特征的融合可以提高人脸识别的识别率(鲁棒性)。主要工作如下:(1)概述了人脸识别研究的历史和当前的研究现状。本文从当前主要从事人脸识别研究的高校到人脸识别产品的生产商都做了详细的介绍,还对当前人脸识别市场分布以及今后的发展状况做了总结。(2)采用Adaboost方法进行人脸检测。从一幅包含人脸的自然图像中提取出人脸区域,用于下一步的人脸识别和身份鉴定。文中首先对当前主要人脸检测方法进行了介绍,然后讨论了Adaboost算法理论,并展示了人脸检测的效果。(3)采用基于子空间方法进行人脸全局特征提取。首先简要介绍了主成分分析的人脸特征提取,然后文中重点论述基于二维主成分分析的全局特征提取方法,并提出了将二维主成分分析获得的全局特征用于特征融合的新思路。(4)研究了基于Gabor变换的人脸局部特征提取与识别方法。为了充分利用人脸图像中的结构信息,本文提出了将分块技术与Gabor特征提取相结合的新思路,针对分块思想,本文设计了两种方案;在最终的分类器设计中,将模糊分类决策规则用于匹配识别;最后考虑到Gabor变换和识别过程计算量较大,本文将均匀采样技术应用于Gabor分块人脸识别中,取得了较好的实验结果。(5)全局特征与局部特征进行融合。文中首先讨论了特征融合的必要性及其特征融合与集成的方法,然后将全局特征和局部特征进行了有效的融合,实验表明,融合的系统提高了人脸识别系统的性能。通过以上工作,构建了基于全局与局部特征融合的人脸识别系统,实验验证表明,从全局和局部两个角度出发改进人脸识别系统的思路是有效的。

林玉娥[10]2009年在《特征提取方法研究及其在人脸识别中的应用》文中研究表明人脸识别是一项极具发展潜力的生物特征识别技术,在信息安全,公共安全,金融等领域具有广阔的应用前景。在人脸识别研究领域中,特征提取是解决该问题的一个关键技术。在过去几十年中,学者们提出了许多相关的特征提取方法,如线性鉴别分析、主成分分析和保局投影等线性特征提取方法,以及在支持向量机的基础上演变而来的基于核函数的非线性特征提取方法等等。因此,本论文以特征提取方法为研究目标,以人脸识别为应用背景,对线性特征提取方法和非线性特征提取方法进行了深入的研究,所提出的改进方法不但提高了计算效率和识别性能,而且能够有效地解决小样本问题。具体的研究内容包括:(1)不相关鉴别分析方法是一种有效的特征提取方法,但是将其应用到人脸识别中将遇到所谓的小样本问题,而且由于采用迭代求解方式,算法运算速度缓慢。基于图像矩阵模型的特征提取方法可有效地解决小样本问题,故此提出了一种基于图像矩阵模型的二维不相关鉴别矢量集方法,该方法由于采用了图像矩阵模型,避免了小样本问题,通过对类内散布矩阵的白化变换,可以非迭代的求得二维不相关鉴别矢量集,不但求解速度快且数值解稳定;(2)对基于图像向量模型的不相关鉴别分析方法进行了深入的研究,以不相关空间方法为理论基础,提出了一种改进的不相关空间方法,其思想是将原始数据空间降到一个低维的子空间,从而避免了总体散布矩阵奇异;另外根据散布矩阵的对称性,引入了一种快速的矩阵分解方法,进一步提高了求解不相关鉴别矢量集的速度。该方法不但在理论上有效地解决了小样本问题,同时具有较快的计算速度;(3)基于核映射的方法是一种广泛使用的非线性方法。已有的实验结果表明:基于核映射的特征提取方法可有效提高原线性方法的识别性能。正交鉴别保局投影、鉴别通用矢量集和不相关空间方法是叁种具有较好识别性能的特征提取方法,但它们都是线性方法,故此针对叁种线性方法进行了研究,分别提出了其相应的非线性方法,即核正交鉴别保局投影、核鉴别通用矢量集和核不相关空间方法。叁种核特征提取方法通过巧妙的变换,使其在实现过程中转化成样本的内积形式,然后用核函数替换内积计算即可完成非线性特征的提取,不但降低了算法的计算复杂性,同时也提高了原相应线性特征提取方法的识别性能;(4)针对核特征提取方法解决高维小样本问题存在的缺点,提出了一种基于压缩变换的核特征提取优化模型。该模型的求解思想是首先对高维的训练样本根据Fisher准则进行降维处理,然后再将降维后的训练样本按核特征提取方法进行非线性特征提取。优化后的方法在保证原方法的识别性能的同时,将有效地节省算法的计算量与存储开销,增强算法的实用性。

参考文献:

[1]. 神经网络、模糊系统的几个问题研究及其在人脸识别中的应用[D]. 于东军. 南京理工大学. 2003

[2]. 特征抽取方法研究及其在人脸识别中的应用[D]. 王建国. 南京理工大学. 2008

[3]. 动态模糊神经网络的应用及研究[D]. 梅蓉蓉. 江南大学. 2011

[4]. 高维空间几何复杂体理论的研究及其在人脸识别中的应用[D]. 肖潇. 浙江工业大学. 2006

[5]. 子空间特征提取方法及其在人脸识别中的应用[D]. 刘艳艳. 大连理工大学. 2008

[6]. 仿生模式识别的几何学习算法理论的研究[D]. 陆飞. 浙江工业大学. 2006

[7]. 可见光与红外图像融合方法及其在人脸识别中的应用[D]. 刘汉强. 厦门大学. 2008

[8]. 线性投影分析算法在人脸识别中的应用[D]. 唐永强(Zoro, Tang). 东北石油大学. 2010

[9]. 基于全局与局部特征融合的人脸识别[D]. 邹国锋. 哈尔滨工程大学. 2010

[10]. 特征提取方法研究及其在人脸识别中的应用[D]. 林玉娥. 哈尔滨工程大学. 2009

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

神经网络、模糊系统的几个问题研究及其在人脸识别中的应用
下载Doc文档

猜你喜欢