第二节信息论中的方法论问题

信息理论经过近 50 年的发展，已由申农的信息论进展到信息科学，随着理论研究的进展，必然涉及到一系列有关方法论的问题。为了对某些方法论问题加以探讨，首先要看到其研究对象的扩展，因为，在一定意义上，科学方法是由一定的科学研究对象所决定的。研究对象的不同，往往要求采用的方法也不同，这里所说的研究对象的扩展，是指随着科学技术与社会物质生产的发展，信息的内容越来越多地被纳入人们的研究范围之内。

当今社会、物质生产、科学技术和社会生活有很大发展，规模日益巨大、日趋复杂，与之相应的通信与各种信息加工系统也必然如此。例如，申农当时曾研究过双向通信信道，这是由两个反问的经典模型构成的，毕竟比较简单。而现在则需要对多径信道、多用户网络、多个通信终端、相互干扰信道等加以研究，这就复杂得多。这类信息加工系统一般都是大系统和复杂系统， 而且不仅限于工程技术系统，还涉及生物系统、生态系统、社会系统、智能系统等等。在这些系统中，信息的产生、获取、传递、加工、存贮、使用等等是十分复杂的，因此仅仅研究给定的信源，以及它所发出信息的统计特性是远远不够的。这就不能不涉及到信息的产生、信息的使用，从而涉及到信息的语义和信息的效用（价值）问题。正是由于这种客观需要，使得其研究对象不得不由统计信息向语义信息和有效信息方面伸展。可见，信息科学的产生是与大系统理论、系统工程的发展、系统科学的形成分不开的。正是在这个意义上，信息科学是与系统科学一道发展起来的，两者相辅相成。它们在实质上都以大系统和复杂系统为研究对象，不过研究的角度不同。这意味

着人类认识史和科学史已进入一个新的历史时期，要在新的水平上重新对整体性的对象加以研究，这类对象一般不仅规模巨大，联系复杂，而且具有不确定性的特点，因而研究起来特别困难。与此相联，方法论问题也就特别突出。

现代科学技术与社会生活的发展决定了信息科学研究对象扩展的必要性，而新的科学方法的出现则使这一扩展具有可能性。我们知道，研究对象、科学理论和科学方法之间存在着密切的关系。不同的研究对象会出现不同的理论，而不同的理论则派生出以之为根据的方法，对于开创性的工作来说， 针对新的研究对象，有时还必须提出开创性的新的方法来进行探索。

从方法论上进行分析，申农信息论的建立主要有两点：第一是运用了科学抽象与类比的方法，将消息、信息、情报等在各个不同科学领域中的具体概念、加以类比，舍去个性，抽象出共性，从而得到具有一般的、共同的科学概念——信息，使得对之加以形式化与数量化的处理成为可能；第二，是针对信息的随机性特点，采用了统计数学的方法。对概率论与随机过程的研究，在数学上已取得了一定的成果，并被作为一种数学工具与方法引入物理学。在 40 年代，针对控制系统与通信系统所具有的不确定性这一突出特点， 无论是维纳还是申农等都不约而同地从物理学和数学中移植了这种统计方法，这在方法论上是一个重大的突破和创新。以至可以这样说，科学抽象与类比的方法为申农信息论的建立提供了必要的条件，而把不确定性简称为随机性，并用统计方法加以处理，则可说是具有充分条件的特点。可见维纳等人重视方法论的研究并不是偶然的。在科学技术上早就使用了科学抽象的方法，而类比与统计方法，尤其是把统计方法用于这一领域，则是一种具有开创性质的工作。如果没有统计方法与类比方法，申农信息论的创立简直是难以想象的。

就信息论的一些基本问题及其之后的进一步研究进展来看，信息理论不断向前发展的结果是由于引入了一些新的方法。