首页>专题专栏>科普宣传教育专栏>科普知识>科史资料

信息论的产生和发展

发布日期:2011-04-22 15:04:30 来源:市科协 字体:【    

  40年代以前,人们对信息的研究已取得一定成果。一方面,人们深入研究了精确传输通信符号问题;另一方面,又对信息概念的描述问题作了探讨。

  推动信息论形成的直接原因,是第二次世界大战期间和战后通信发展的需要。当时,从接收信号中滤除各种噪声,在控制火炮射击的随动系统中跟踪一个具有机动性能的目标等问题,都需要从理论和实践上予以解决。雷达技术、电子技术、自动控制技术的发展,也对信息论的产生起了促进作用。

  信息论的创始人是美国数学家申农(1916-)1948年,他发表了一篇论文" 通讯的数学理论".他认为," 通信的基本问题就是精确地或近似地在一点复现另一点选择的信号" ,通信就是将信息由发信者传给受信者。他提出了通信系统的随机模型,把许多复杂的通信机构简化为由信源、编码、信道、噪声、译码及信宿组成的一个信息系统。申农这一通信模型,不仅适用于技术系统,而且可以推广到生命和社会系统,具有普遍意义。

  申农把信息定量化,使通信科学由定性阶段进入定量阶段。他把信息看作是用以消除不确定的东西。信息数量的大小可以用被消除的不确定性多少来表示,而事物不确定性的多少用概率来描写。申农对通信的技术问题也作了全面的研究,解决了如何从信息接收端提取由信息源发来的消息的技术性问题。他还提出如何充分利用信道的信息容量问题,找到了如何在有限信道中以最大速率传送信息的基本途径,初步解决了怎样编码、译码才能使信源信息充分表达、信道被充分利用的问题。

  申农的研究工作具有开创性的意义。信息论产生以后,一方面应用于多种学科和技术领域,另一方面不断完善本身的理论体系。

  1950年和1956年,布里渊(1889-)发表了《生命、热力学和控制》、《科学与信息论》等著作。他试图把信息熵与热力学熵、把信息与具体物理过程联系起来。他将信息论推广到了物理学领域。此后,信息论又逐渐向生物学、医学、语言学、经济管理等学科渗透。

  50年代后,信息论的精确化受到注意。许多人试图建立信息论的公理体系。1953年,麦克米伦发表" 信息论的基本定理" ;辛钦发表" 信息论的数学基础".申农等人以后也对熵测度原理作过改进。

  70年代,在语义和有效性问题的研究中开始出现一些新的概念和理论。

  1971年,高艾斯等人提出了" 有效信息" 的概念。1978年,夏尔马等人提出了非可加性的" 广义有效信息" 概念。1965年,模糊数学创立以后,为适应图象识别和视觉问题的发展需要,又产生了" 模糊信息论".在信息论、控制论、计算机科学、系统工程和人工智能等科学技术基础之上,形成了一门崭新的边缘学科——信息科学。它的任务是研究信息的获取、存贮、变换、传递、处理、利用和控制的一般规律。信息科学在当代科学技术中占据十分重要的地位。

摘自世界全史百卷本第097卷世界当代科学技术史

分享到: