|
|
|
语言是人类社会特有的一种信息传递媒介,为了使有限的语言形式负载尽可能多的信息,千百年来人们一直为“语不惊人”而“死不休”。从信息学的角度看,“惊人”的语就是让听读者产生信息的不确定性,进而引起好奇和注意,最后消除信息的不确定性,获得信息量,信息学上称为“信息熵”。但是,语言形式过分的“惊人”则容易把人“吓死”,因 为人们对完全陌生的形式会产生漠然而疏远的态度。因此,晦涩、生僻、怪诞的形式容易阻塞信息通道,使信息产生滞阻性,信源发出的信号不能在信宿那儿转化为信息。因此在追求“惊人”之语的同时,要给听读者建造一个解 码的信息平台,即给听读者一个既陌生又熟悉的表达形式,让信宿既产生新奇感又有解读成功的愉悦,信息学上称为“信息冗余度”。信息量的大小与信息熵和冗余度有密切的关系,研究语言形式与信息熵和冗余度的关系,对我们提高信息传递效果有着很大的实践意义。
信息熵与熵只相差一个系数，两者可能有内在的联系。如何理解信息熵和熵的关系？单从概率的表达式看，两者的定义是相似的。
信息熵并不是负熵，它描述的是信源不确定性而不是不确定性的减少。信息熵大表示信源的不确定程度较大，同样是一种无序性。香农的信息概念是人们对事物了解的不确定性的减少或消除，这一定义关注的是通信中的信息问题，所以香农信息是一种与信道相关的“信息”。信源、信道是信宿成了认识过程的不可分割的部分，主客体是不可分的；香农的概率，是主体对客体（信宿对信源）的一种先验主观认识，这本身就加入了主体的因素。因此，作为“通信中的数学理论”，信源与信宿在信道联系下的“互信息”，才是香农的“信息”。
认识过程很重要。
消息使得随机向确定转化。 |
|
|
[复制链接]
发表于 2011-9-5 13:32
楼主
