entropyOfInformation

信息

Posted by kunnan on March 15, 2019

前言

传播同一则信息,信息的量好像弹性空间很大,我们应该如何测一测这个信息的量呢?如果这个信息的量是可测,那么要传递一条信息,有没有量的下限呢?也就是说,我们至少要用去多少个单位量才能完整表达这条信息呢?我们甚至还可以进一步想,要传递一条信息最少需要多少卡路里的能量呢?

信息熵

  • 信息熵代表了一个黑盒子中的不确定性,或者说,要搞清楚这个黑盒子的秘密所需要的信息。(例子:怎么用鼓点准确传达消息呢?方法也有,就是让鼓多说一些话。)

在利用信息时,要考虑信息可能带有噪音,因此利用信息的相关性进行交叉验证是必要的。

古埃及象形文字是如何破解?

靠信息冗余,可以恢复丢失掉的数据。

楔形文字是如何破解的?

文字破译最根本的是利用对一件事用多种文字同时记载时所产生的冗余度,找到信息之间的对应关系,即信息的相关性。

引申

image

人类是一个善用抽象概念、寻找确定性和因果关系的物种(1+1=2),在这个基础上建设起了它的文明。人类懂得它的认知程度可以远远超出它的直观想象力(质能转化公式),并且掌握了核武器。人类还认识到世界充满了不确定性(熵的定义),并且在不确定性的基础上建立了现代的通信。

See Also

/Users/mac/bin/knpost entropyOfInformation 信息 -t note
#原来""的参数,需要自己加上""

转载请注明: > entropyOfInformation