人工神经网络的基本特征和思维能力_人工神经网络论文

人工神经网络的基本特征和思维能力_人工神经网络论文

人工神经网络基本特征与思维能力,本文主要内容关键词为:神经网络论文,思维能力论文,基本特征论文,此文献不代表本站观点,内容供学术参考,文章仅供参考阅读下载。

摘要 思维的基本物质元素是神经元,大量神经元的相互连接构成神经网络,信息(知识)就存储于神经元之间的连接中,思维过程是神经元之间连接强度的变化。神经网络本质上是并行的,具有速度高、鲁棒性好、自适应强等优点。人工神经网络具有人脑的一些特点,在实时学习、逻辑推理、联想记忆和自组织性等方面,表现出一定的思维能力。

1 人工神经网络的产生与发展

人是地球上具有最高智慧的生物,而人的智能均来自大脑,人类靠大脑进行长期思考、联想、记忆和推理判断,这些功能是任何被称作“电脑”的一般计算机所无法取代的。长期以来,很多科学家一直在致力于人脑的内部结构和功能的探讨和研究,并试图建立模仿人类大脑的计算机,直到目前人们对大脑的内部工作机理还不甚清楚,但对其结构已有所了解。粗略地讲,大脑是由大量神经细胞或神经元组成的,每个神经元可看作一个小的处理单元,这些神经元按某种方式互相连接起来,形成大脑内部的生理神经元网络。这些神经元网络中各神经元间连接的强弱,按外部的激励信号做自适应变化,而每个神经元又随着所接收到多个激励信号的综合大小而呈现出兴奋或抑制状态。现已明确大脑的学习过程就是神经元间连接强度随外部激励信号做自适应变化的过程,而大脑处理信息的结果则由神经元的状态表现出来,显然我们建立的信息处理系统实际就是模仿生理神经网络,所以称它为人工神经网络(Artificial neural Networks)

早在1943年,心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型(称之为MP模型)[1], 从此开创了计算神经科学理论研究的时代。1944年,Hebb[1]从条件反射的研究中提出了Hebb 学习规则。到50年代末期,以Rosenblatt[3].[4]提出的感知器为代表, 形成了人工神经网络研究的第一次高潮。1969 年, Minsky 和Papert 的《Perception》一书出版,在大量数学分析的基础上,指出了感知器的局限性,从而导致了神经网络研究的降温。到70年代,仅有少数学者还致力于神经网络的研究。

进入80年代,国际上掀起了人工神经网络的研究热,并取得了一大批引人瞩目的成果。1982年,美国加州大学物理学家Hopfield[5] 提出了HNN模型,从而有力地推动了人工神经网络的研究。 他引用了“计算能量函数”的概念,给出了网络稳定性判据。它的电子电器实验为神经计算机的研究奠定了基础,同时开拓了神经网络用于联想记忆和优化计算的新途径。Feldmann和Ballard 的连接网络模型指出了传统的人工智能“计算”与生物的“计算”的不同点,给出了并行分布处理的计算原则;Hinton和Sejnowski[6]提出的Boltzman机模型则借助了统计物理的概念和方法,首次采用了多层网络的学习方法,即在学习过程中用模拟退火技术,保证整个系统趋于全局稳定点;Rumelhart和MoClelland[4].[7]等人提出的PDP(并行分布处理)理论则致力于认识微观结构的探索,同时发展了多层网络的BP算法(反向传播学习算法),把学习结果反馈到中间层次的隐单元,改变它们的权系矩阵,从而达到预期的学习目的,它是迄今为止最普通的网络,可用于语言综合、自适应控制等;Kosko[8]提出了双向联想记忆网络,它是最早用于学习的网络;神经网络计算机的先驱HechtNielsen[9]则提出了另一种反向传播网络模型, 其特征与BP网络类似,可用于图像压缩和统计分析等;Holland 提出的分类系统类似于以规则为基础的专家系统,他提出的发现和改进规则的学习算法是对专家系统的重要发展;1988年美国加州大学的蔡少堂(L.O.Chua)[10]等人提出了细胞神经网络模型,与一般神经网络一样, 它是一个大规模非线性模拟系统,同时又具有细胞自动机的动力学特征。人工神经网络的迅速发展引起了美国、欧洲与日本等国科学家和企业家的巨大热情,脑科学、心理学、认知科学、计算机科学、哲学等不同学科的科学工作者正在为此进行合作研究。新的研究小组、实验室和公司与日俱增。美国星球大战计划、欧洲尤里卡计划都将神经网络计算机作为重大研究项目,有关神经网络的国际会议频繁召开。神经网络理论已经在以并行处理机制为基础的第六代计算机,在专家系统、图象识别以及智能控制等领域内得到了应用。人工神经网络之所以能在80年代迅速发展,其主要原因是:

⑴神经生物学和认知科学对人类信息处理的研究成果为人工神经网络研究的突破作了理论准备;

⑵传统的计算机是以串行处理为机制的Von Neumann计算机, 其在模式识别、符号推理、组合优化问题等方面存在严重缺陷,所谓的专家系统也仅仅是知识的外推和延伸,而不能学习和创新。因此越来越多的学者认识到基于并行机制的人工神经网络的重要性;

⑶超大规模集成电路VLSI的发展为人工神经网络的硬件化提供了基础。

2 人工神经网络的基本特征

人工神经网络是一种模仿人类神经系统的数学模型,它使用大量简单的处理单元即神经元处理信息。神经元按层次结构的形式组织,每层上的神经元以加权的方式与其它层上的神经元连接从而构成神经网络。人工神经网络是在现代脑神经科学研究成果基础上提出来的,它反映了人脑功能的基本特性。但它并不是人脑的真实描写,而只是它的某种抽象、简化和模拟。人工神经网络这些特点使得它不同于一般计算机和人工智能。

⑴人工神经网络为广泛连接的巨型系统。神经科学研究表明,人类中枢神经的主要部分大脑皮层由10(11)~10(12)个神经元组成,每个神经元共有10(1)~10(5)个突触,突触为神经元之间的结合部,决定神经元之间的连接强度与性质。这表明大脑皮层是一个广泛连接的巨型复杂系统。人工神经网络的连接机制模仿了人脑的这一特性。

⑵人工神经网络有其并行结构和并行处理机制。人工神经网络不但结构上是并行的,它的处理顺序也是并行的和同时的。在同一层内处理单元都是同时操作的,即神经网络的计算功能分布在多个处理单元上。

⑶人工神经网络具有分布式结构。在神经网络中,知识不是存储在特定的存储单元中,而是分布在整个系统中,要存储多个知识就需要很多连接。而存储知识的获得采用“联想”的办法,这类似人类和动物的联想记忆。当一个神经网络输入一个激励时,它要在已存储的知识中寻找与输入匹配最好的存储知识为其解。联想记忆有两个主要特点:一是具有存储大量复杂图形的能力(像语声的样本可视为图象,其它像机器人的活动,时空图形的状态,社会的情况等),一是可以很快地将新的输入图形归并分类为已存储图形的某一类。

⑷人工神经网络具有很强的容错性。大脑具有很强的容错能力。我们知道,每天都有大脑细胞自动死去,但并没有影响人们的记忆和思考能力。这正是由于大脑中知识是存储在很多处理单元和它们的连接上的结果。人工神经网络也是如此,由于知识存储在整个系统中,而不是在一个存储单元中,一定比例的结点不参与运算,对整个系统的性能不会产生重大影响。

⑸人工神经网络具有自学习、自组织、自适应能力。人脑功能受先天因素的制约,但后天因素(如经历、学习与训练等)起着重要作用。人工神经网络很好地模拟了人脑的这一特性。如果最后的输出不正确,系统可以调整加到每个输入上去的权重以产生一个新的结果,这可以通过一定的训练算法来实现。训练过程是复杂的,通过网络重复地进行输入数据,且每次都调整权重以改善结果,最终达到所希望的输出。在训练过程中网络便学到了经验。

3 人工神经网络的思维能力

在真实世界中,实时学习、逻辑推理、联想记忆和自组织性是非常重要的。追加新知识,培养对事物的思维能力应不破坏已有的知识,而为了保持一致化,又不得不删除一些原有的知识;通过学习和训练,培养对事物的思维能力,正确处理自然界复杂事件;自组织性是更高级的思维能力,人工智能研究正是使系统获得这一思维能力。

人工神经网络模型大都具有输入层、隐蔽层、递归环路、输出层的网络结构。隐蔽层单元可以把输入的原型矢量进行空间上的分隔。网络在接受训练时,都在学习把训练样本的矢量原型分拣到正确的矢量亚空间里。通过训练,网络也就把原型矢量存储在隐蔽层单元的矢量亚空间里了。经过训练后的网络,对任何新的输入信号,都能迅速作出正确的回应。储存于隐蔽层单元的原型受激矢量集中代表了进入输入层的各种刺激信息。这些信息形成了一个输入信息的集合,它们虽然具有各自不同的特征,但最终都能激活原形矢量。这也可以说明,为什么对形态各异的外界刺激信息,网络都会作出正确反应。多数大规模神经网络还有递归回路,递归网络可以进一步增加网络的学习和自组织能力。

从思维科学的研究成果上看,人的思维的基本活动方式,至少有抽象(逻辑)思维、形象(直感)思维和灵感(顿悟)思维等方式。在此基础上,人们又进一步明确了思维活动是一个多维整合的过程。从人工神经网络的基本特征上看,它既具有抽象思维和形象思维的特征,又具有灵感思维和多维整合的特征。抽象思维是从规定性方面把握客观事物,形象思维是从形象性方面把握客观事物,灵感思维是一种非逻辑的、发散的、突发的思维,而思维整合则是把三者加以有机结合。形象的模型越是逼真,抽象思维的概念越是趋向于准确;抽象思维的概念越是规定的准确,形象的模型越是趋向于真实;在抽象思维和形象思维解决问题出现危机时,灵感思维就更起作用。人工神经网络具有抽象思维和形象思维以及其它多种思维方式的多维整合、相互拉扯所形成的“张力”之下思维的特征,正是人工神经网络的这些思维能力,才赋予了人工智能更旺盛的生命力。

人工神经网络具有较强的自组织性。所谓“自组织”,指的是这样一种行为或过程,即在没有从外部环境输入特殊信息(组织指令)的条件下,系统自发地形成一种新的整体结构。对于自组织系统来说,其演化过程的自发性来自于系统内部的交替因果性,这是自我规定性的本质所在。在这种交替因果性中,不仅包含原因产生结果的因果性,而且还包含结果产生原因的因果性,正是由于这种内在的因果相互作用形成了一个因果联系环。在系统自组织过程中,交替因果是通过自反馈方式而实现的。由于这种自反馈,交替因果性不断地循环反复,使系统能够对其自身内部的关系以及它与外部的关系进行不断的自我调整,从而表现出自组织的特点。思维系统的自组织来源于运行机制的自组织。从人工神经网络的结构上看,一方面具有相对固定联络,另一方面又具有一些随机联络。从人工神经网络的算法编程上看,具有对不同网络结构和对象进行动态、自适应编程能力。人工神经网络思维自组织性的产生正是这种固定联系和随机联系的结果。人工神经网络的自组织性使得研究人工智能的科技工作者欢欣鼓舞。如日本RWC 筑波研究中心制定了“适应进化计算机”的研究计划,这项研究的目的就是实现更接近人的计算机。即使将这种计算机置于模糊的、经常变化的、难以预测的环境中,通过同外界的相互作用,就可以自行重组,使程序与体系结构进化,以适应外界环境,并可进行恰当的判断与动作。这种计算机在机器人控制、更接近人的人机界面及专家系统中将起重要的作用。

人工神经网络的自组织性是今后人工智能的研究重点,目前,人工智能工作者正在积极从事两个典型方面的研究。一是自编程网络(SelfProgramming Network):在这种网络中, 各个结点是通过强化学习可以动态改变其结构的模块,网络结点由根据遗传算法进化的有限自动机组成,同外部的结合以及内部的结合均可通过强化学习加以改变。这里的程序是分布表示的,以描述结点内的网络构造以及结点间的结合形态。二是人工思维模型(Artificial Thought Model):为了实现柔性信息处理而开展的关于先行计算机(lookahead Computer)的研究。这种计算机制既有结构与处理均固定的作为核心的程序,又在进行预测处理的同时使大量进化的程序相互作用,以适应环境。核心程序处理那些算法确定的良设定问题,进化程序处理不良设定问题。性质相互的这两类程序的朴素作用,可以促进高速度的进化。

4 从人工神经网络看人与机器的关系

进入90年代,美国、日本、欧洲都在以神经网络计算机为核心的第六代计算机的研究方面投入了大量的人力物力,掀起了研究第六代计算机的热潮,并寄希望于该项研究能在人类尖端科研方面产生重大突破,使人类社会逐步过渡到超工业社会。最近,一些商业性的神经网络及神经计算机系统已投放市场,并且在金融、国防、电讯、航空及汽车工业等领域得到应用。其运算速度比一些大型机快数百倍甚至数千倍,而且费用只有原来的几分之一。人工神经网络的不断发展和不断完善又提出了新的问题,神经网络计算机能不能超过人脑,高度发达的神经机器人是否将统制人等问题变得更加尖锐和突出。

上述问题的实质是人和人工神经网络的关系问题。对于这个问题,应进行辩证地考察,既要看到两者的联系,又要看到两者的差别;既不能把有机物和无机物的界限绝对化,又不能抹煞两者在性质上差异。

一方面,在人和人工神经网络之间,不能机械地划一条人为的界限。人工神经网络对人脑结构模拟的发展过程说明,智能模拟是以对人的思维规律和思维功能的认识为前提,以实现思维模拟的科学技术为手段的。随着人的认识能力和相关技术的发展,思维模拟的界限将不断发生变化。基于人工神经网络的第六代计算机在结构上和功能上将不断向思维着的人脑接近。因此,人工神经网络和人脑之间有着十分密切的联系。

另一方面,从本质上看,两者之间的联系,只能是渐近线,而不可能是等高线。人工神经网络和人脑属于两种不同的进化系统。人脑是人类社会实践的产物。人类思维活动的物质基础是高度组织起来的大脑,人脑的运动过程是复杂的生理——心理过程。与人脑比较,人工神经网络是人类根据社会生产的需要制造出来的,用无机物模拟人脑的工具,其物质基础是机械的和电子的元件结构,其运动过程也为低级的物理——机械过程。因此,人工神经网络不具备人脑思维的社会性、主观能动性和人脑的主观世界。

从上面的分析可以得知,人工神经网络和第六代计算机的发展和完善将在局部上大大超过人脑。但在总体上人工神经网络计算机仍然不及人脑,不能从根本上改变其作为人类认识工具的地位,因而,不会上升为人的统制者。

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

人工神经网络的基本特征和思维能力_人工神经网络论文
下载Doc文档

猜你喜欢