纪念信息论问世五十周年，本文主要内容关键词为：信息论论文,五十周年论文，此文献不代表本站观点，内容供学术参考，文章仅供参考阅读下载。
信息论的产生与信息科技革命 阎康年
今年7月是美国贝尔实验室的数学家和信息专家C·E·申农(Claude ElwoodShannon)开始发表《通信的数学理论》和提出信息论的50周年，从那时起信息不仅作为一种技术引起社会各界的极大关注，而且由于他从布尔代数与信码及其表示符号相结合建立了一整套信息科学公式和23个定理，使信息技术上升为系统的信息科学理论，对当代科技发展产生了划时代的重大影响。因此，产业界将这次变革称为继工业革命和通信革命之后的第三次产业革命，也就是我们说的全自动化生产的产业革命。科技界又将它列为继蒸气动力技术革命和电力技术革命之后兴起的近现代第三次技术革命，也就是我们说的信息技术革命。著名的贝尔实验室第六任总裁和微电子科技专家I·M·洛斯说过：“工业革命延伸了我们的肌肉和通信革命扩展了我们的意识，而今天的信息革命正在扩大我们的思维”。他说电子计算机和晶体管的发明掀起了信息革命的第一次冲击波，网络又掀起了信息革命的第二次冲击波。今天，人们看到了晶体管的发明带来科技和产业的巨大发展，而互联网和信息高速公路正在改变着人类的生产和生活面貌。
信息论所以能够在晶体管和数字继电器计算机诞生地——贝尔实验室产生不是偶然的，有着深刻的时代背景和科技基础。信息是以代码为标记和进位制的“位”为单元的，虽然自古以来就知道消息和俗成的信息观念，但是在技术上引起人们注意和应用还是从电通讯开始的。1837年S·F·莫尔斯电码和电报机的发明，以及1876年A·G·贝尔发明电话，已经诱发了人们对信息的关注，但只是到真空管的发明和应用之后才被人们提到思考的真正日程上来。1936年，英国科学家A·图林根据布尔代数的三个逻辑概念（或门、非门和与门）研制信息存贮的继电器计算机，而J·诺意曼在1944—1945年又将二进位制的代码用于计算机的数据编程和程序存贮上，奠定了电子计算机逻辑运算的基础。1947年晶体管的发明和进而取代电子管，使电子计算机进入成本低、可靠和适用的新时期。贝尔实验室在这个过程中做出了人们很少知道的重要贡献，G·R·斯蒂比兹早在1937年就把电话交换技术用于数字继电器计算机上，在1940年安装了远离计算机的终端并进行数字运算和传输。1940年D·B·帕金森提出了电子模拟计算机的原理和设计，并用于高射炮的弹道计算上。1945年，美国的J·W·莫希莱和P·艾克特发明了真空管式电子计算机，开创了电子计算机的发展时期。40年代后期，贝尔实验室的W·汉明发明了差错纠正器和汉明信码，至今仍用于计算机上。不久，该室的J·W·图契用"bit"（位）表示二进位数字的英文缩写，成为今天普遍用的信息单位。
C·E·申农早在1938年在麻省理工学院写的硕士论文《继电器和交换电路符号分析》中，曾运用布尔代数的算式x[2]=x及其解0和1分别做逻辑函数和基本量度，并用到交换电路设计。在1940年获博士学位并于次年入贝尔实验室后，受到该室的上述信息技术的影响和由于正处于晶体管发明的时期，他承担了对信息技术理论化的任务，展开对有、无噪声的离散系统及其信道和传输的理论研究，用二串联电路表示布尔代数的乘法和用二并联电路表示其加法，并用四种交换电路与加和乘法运算相对应，从而提出了以五种方块表示的信息过程，该过程是将信息予以数字化处理和用信码传输的，因而是数字化的。用贝尔实验室的诺贝尔奖获得者和前研究副总裁A·彭齐亚斯的话来说，就是所有的信息依赖于符号，而符号是数字化了的，他称之为“思想粒子”，即把所有消息粒子化为数字和符号，便于发出和接收。也许正是由于这个原因，C·E·申农把他的信息理论称为“通信的数学理论”。为了使信息理论定量化和普遍化，他采用热力学上的熵概念予以处理，写出熵与信源的输出和接收的算式，把熵看作信源内含有信息量的量度，J·W·图契提出用“位”表示信息单位。C·E·申农在他的这篇论文中提出了23个信息论定理，从而使信息科学公理化，成为系统的理论。他的信息论有两个关键概念，一个是信码数字化，另一个是把信源看作由其几率定律确定的统计过程。
由于C·E·申农在信息论上做出重大贡献，以及根据这些原理创立了人工智能、自动化、解谜和计算机下象棋的理论，并研制了有关的机器，名声大噪，成为信息理论和人工智能学的权威。他在1957年被麻省理工学院聘请为信息论教授，美国电气和电子工程师学会(IEEE)特别成立了信息论专业组并出版《信息论》刊物。由于信息科技和信息论的普遍重要意义，它们在近半个世纪得到重大发展，信息观念深入人心，因而人们把它的提出者称为信息论奠基人，把信息论的出现看作信息时代的主要标志，并把电子计算机和晶体管的发明视为信息革命的起点。信息时代从此扬帆起航，正在改变着人类活动的各个领域。
早在50年前，当申农发表《通讯的数学理论》时，学术界给予高度评价，认为它对科学界、哲学界产生的巨大影响，相当于掷下一颗精神原子弹。几十年的实践证明了这一点，而且当人们迈向未来世纪的信息社会时，它的科学贡献及其科学方法论意义与巨大作用越来越被人们所认识。
申农信息论的科学贡献 魏宏森
首先，他把通讯过程作为一个系统来进行考察，认为“通讯的基本问题就是精确地或近似地在一点复现另一点所选择的信号”。为此他提出了一个“通讯系统的随机模型”，从而第一次从理论上阐明了通讯的基本问题。在他看来所谓通讯就是两个系统之间传递信息。他把由许多复杂的通讯机构和过程简化为由信源、编码、信道、噪声、译码及信宿组成的一个信息的发送、传递、加工、接受系统。
信源就是发出信息的客体—信息源，它一般以符号的形式表现出来，这种代表信息的一串符号称之为消息。信源发出的消息具有随机性、不确定性；编码就是把信息转变为信号的措施，它使得消息变成适合于信道传输的信号；信道是传递信号的物理设施，包括信息的存贮设备；噪声是通讯过程中受到内部和外部发生的干扰；译码亦称解码，译码过程是编码过程的反变换，即把信号再变为消息；信宿即信息的接收者。申农的这个通讯模式，不仅适用于技术系统，而且具有普遍的意义，可以推广到生命系统和社会系统，为实现社会信息化提供了理论基石。
其次，他把统计和概率观点引入通讯理论。以概率论为基础重新定义了信息和信息量。使信息成为可以精确度量的科学概念。科学史证明，任何一个科学概念的产生与突破，将会带来科学的发展和社会的进步。当代信息概念的突破超过了牛顿时期力的概念的突破。对科学与社会的发展产生了更大的冲击。这就是申农对时代的伟大贡献。他认为信源发出的信息具有不确定性，因此确定把统计信息源的概率作为工作中心。他把信息定义为：是对不确定性的排除或用来消除不确定性的东西，他与N·维纳都认为：信息就是负熵，是系统组织程度、有序程度的标记。这是人类历史上第一次对信息的科学定义。1928年哈特莱发表了《信息传输》一文首次区分了消息与信息是两个不同的概念。他指出：消息是载体，信息是包含在消息中的抽象量，消息不同于信息。但他没有给出信息的定义。哈特莱也给出了度量信息的数学公式，但他没有引入概率和统计的观念，因此具有很大的误差。申农则不同，由于他以概率论为基础，不仅考虑到有可能出现的消息，而且考虑各消息出现的概率，不仅注意到信息，而且注意到在传递过程中噪声对信息的干扰，从而指出在信宿所接收到的信息量的大小就是被排除的不确定性的多少。他把接收端不确定性的减少和消除的量定义为信息量。进而给出了度量平均信息量的公式。实现了通讯科学由定性阶段进入定量阶段的飞跃。
除此以外申农还对通讯的技术问题进行了全面研究，从而解决了如何提取有用信息；怎样才能充分利用信道的信息容量、传递最大信息量以及怎样编、译码等技术问题。随着信息论的发展和当代科学技术的相互渗透、信息论被广泛应用于生物学、医学、仿生学、语言学、经济管理以至社会科学等许多学科，同时亦提出了许多新问题，这就暴露出申农信息论的局限性。有些问题是当时申农在创立信息论时故意撇开的。如信息的含义；信息的真实性；信息的效用性等问题，这就要求突破只能解决技术信息问题的局限性。信息科学正为解决信息的语义和效用问题进行积极的探索。
申农信息论的方法论意义 宏森
申农信息论提供了一种更为广泛的科学方法——信息方法。并被日益广泛的应用于社会各个领域，促进社会信息化，加速信息社会的来临。
所谓信息方法，就是运用信息的观点，把对象抽象为一个信息变换系统，把对象的运用看作是信息的获取、传递、加工处理、输出、反馈……即信息流动过程，是从信息系统的活动中揭示对象的运动规律的一种科学方法。在信息方法看来，一个系统之所以能作合乎目的的运动，是由于在其中存在一股正常的信息流，特别是反馈信息的存在，不断调整的结果，一旦信息流中断或阻塞，系统就不能维持正常的运动。而两个以上系统之间的相互作用、相互联系，只有通过信息通道进行信息交换才能实现。这种方法具有以下特点：
一是以信息作为分析和处理问题的基础。用这种方法处理问题，撇开对象的具体物质运动形态，把对象抽象为一个信息交换过程，根据对象与发出信息之间的某种确定的对应关系，通过信息来揭示事物的本质和运动规律。
人们在运用遥感技术、航天技术、资源卫星对地球进行各种资源的探测，就是把被测对象抽象为与之相对应的信息来进行研究，从而了解其性质和运动规律。这种研究方法大大节省时间和费用，缩短了人们认识事物的过程。它能帮助人们及时发现运用传统方法不易发现的问题，收到运用传统方法所不能达到的效果。
二是把人们的认识和研究过程抽象为一个信息流，通过对信息的获取、传递、加工处理、输出、反馈等环节来揭示对象的性质与规律。运用信息方法，可以把认识过程和研究过程抽象为一个信息反馈过程：人通过感觉器官从外界获取信息，再将信息送到大脑中存贮（即记忆），同时，经过大脑的思考即信息的加工处理、变换，形成概念……这就是思维活动的过程。然后，将得到的认识、判断、决策的信息通过效应器官（嘴、手、脚、眼等）输出，对外界作出反应。这些输出的信息指挥人和物作用于客观世界，形成了实践活动。如此往复，就形成了人的认识过程。这种研究方法揭示了认识活动的信息过程，为人们提供了研究认识活动的新模式。
三是在认识过程中引进信息处理机，形成新的人—机认识系统，实现人—机交互式的解决问题。由于人们在处理多因素、动态复杂系统时，信息量剧增，单靠人脑进行加工，单凭人工来进行处理，已经远不能适应客观要求，而借助信息方法就便于将信息处理机引进认识过程和实践环节，组成人—机交互系统，帮助人们处理信息，解决单靠人脑无法处理的复杂课题和繁重的计算任务，从而大大增强了认识主体在认识世界和改造世界中的能动作用。
值得指出的是，信息方法和应用不仅局限于分析事物，而且还应用于构造一个复杂系统，这时要强调信息方法的综合能力，也要先从信息的观点出发，针对客观要求达到的目标，寻找一个能够实现目标的信息模型，然后将模型的各环节具体化，以便用实际的技术手段加以实现，满足实际需要。
目前这种方法已被广泛应用人类生产、生活与科学实验之中，并取得巨大成效。当前英特网及社会信息化就是信息方法应用于社会各个领域而取得成功的集中体现。
信息化表现为人类在信息传播、处理和存贮的能力，在数量和手段上急速扩张，掌握了诸如卫生通讯、微波通讯、光纤、电子计算机、微机、英特网等现代信息系统，表现为人类掌握和交换的信息量以指数方式激增，信息的时间滞后缩短，还表现为信息的接收和利用面扩大，原来只能为少数人或机构使用的信息，被越来越多的普通人广泛利用。同时，越来越多的信息物化到各种产品中，从而减少了产品的物质损耗，提高了产品价值中智能和信息的比重，出现了新兴的知识密集型产业。信息与知识成为生产力、竞争力和经济成就的关键因素，现代计算机和现代通讯系统相结合，形成的信息处理系统正在代替人的部分脑力活动，在使生产自动化的同时，也在使办公室工作、服务行业和家庭生活走向自动化，以至于整个城市管理信息化；信息产业或智力产业部门在社会生产中所占的比例不断上升，所有这些趋势都是社会信息化的表现。而这一切与信息方法的广泛应用是分不开的，这也是申农信息论伟大的方法论意义。
信息革命产生与发展的背景 阎康年
1837年 美国人S·F·B·莫尔斯发明电报和电码。
1847、1854年 英国人G·布尔发表布尔代数论文《逻辑的数学分析》和《思想规律研究》。
1876年 英裔美国人A·G·贝尔发明电话。
1890年 美国人H·霍勒利斯发明第一种信息器具——穿孔卡。
1904年 英国人J·A·弗莱明发明二极真空管。
1906年 美国人L·德弗莱斯特发明三极真空管。
1928年 美国人R·V·L·哈尔特莱首次将信息概念用于技术上。
1936年 英国人A·图林用布尔代数的逻辑概念提出数字存贮概念。
1937年 美国人G·R·斯蒂比兹运用电话交换技术设计数字继电器计算机。
1938年 美国人C·E·申农发表《继电器和交换电路分析》一文，用布尔代数与继电器结合，为信息论的产生提供准备。
1940年 美国人D·B·帕金森等提出模拟继电器计算机并研制。
1945年 美国人J·W·莫希莱和P·艾克特发明真空管电子计算机。
1944-1945年 德裔美国人J·诺意曼提出数据存贮和编程理论。
1947年 美国人W·布拉顿和J·巴丁发明点接触式晶体管。
1948年7、10月 美国人C·E·申农发表《通信的数学理论》，奠定了信息论的基础。
1949年 C·E·申农发表《二终端交换电路的综合》论文，提出所有二终端接点网络的布尔函数可用2[n]/n个接点对的n个继电器操作。几位后继者先后解决了n＜＞4个变量的函数数量和类型问题，为信息论及其广泛应用做了进一步的理论准备。
1950年 C·E·申农提出用电子计算机下棋的普遍原理。
1952年 C·E·申农提出解谜机原理并研制。
1958年8月 美国人A·L·肖洛和C·H·汤斯发明激光，可做光波通信用光源。
1958年9月 美国人J·S·基尔比发明集成电路，次年R·N·诺伊斯予以发展。
1960年 美国发射通信气球卫星"Echol"
1962年 美国发射第一颗通信卫星"Talstar I"，开创了空间通信时代。
1963年 美国人C·克洛斯用群论发明无分组电话网络。
1965年 美国人V·E·本奈斯发表《联网和电话业务数学理论》一文，为计算机联网和电话网络提供理论根据。
1968年 美国贝尔实验室研制成低能耗双异质半导体光导纤维。
1969-1975年 美国贝尔实验室建立集成光学，研制成集成光路及其各种元、器件，为取代集成电路创造了条件。
1976年 美国贝尔实验室在亚特兰大实验光波通信首次成功，揭开了光波通信的新时代。
1988年 美国敷设第一条横跨大西洋光缆成功。
1991年 美国贝尔实验室发明光孤子传输信息，并研制成英文—西班牙文口声翻译机。
1998年1月 美国贝尔实验室宣布每根光纤每秒可传输400千兆位的信息，比过去提高5倍，相当于每秒可传输全世界英特网信息量。每束8根光纤传输了每秒3.2万亿位的信息量，创造了最高的通信记录。