纪念信息论之父香农,信息熵

可转债投资事后诸葛亮好做,如何事前呢?事后诸葛亮,马后炮,都是投资中的后眼,除了增加后悔的成分,信息熵是比较小的,好在可转债有一些复杂的规则,规则套规则,就会出现大概率事件 。
信息熵是什么?

纪念信息论之父香农,信息熵


【纪念信息论之父香农,信息熵】信息熵(Information Entropy)的概念来源于信息论 。而信息论的奠基人香农(Shannon)在1948年将热力学中的熵引入了信息论,提出了信息熵(又称香农熵) 。首先我们需要明白什么是信息 。香农认为:信息是用以消除随机不确定性的东西 。这里举个例子,竞猜世界杯32支队伍谁会夺冠 。开始时假设我们对每个球队都不了解,那么所有队伍的夺冠概率都是相同的1/32 。
但是一旦我们获取了一些信息,比如查看往届的世界杯冠军,发现都是欧洲和南美的球队夺冠 。通过这个信息,我就能消除一些不确定性,除去南美和欧洲的球队都排除 。那么可能就剩下10支队伍,这样我猜中的概率就变成了1/10,大大的增加了 。而信息能够降低事件的不确定性,那么想要确定出不确定性大的事件所需的信息就越多 。
因次就可以用所需的信息大小来衡量事件的不确定性 。并且发现概率同样能够表示事件的不确定性,概率越小不确定性就越大 。根据上面的推理,我们就可以用概率还描述某个事件的信息量,同时概率越小,信息量越大 。那么由此给出信息量I的公式:其中p为事件发生概率 。比如巴西夺冠的概率为1/3 。那么相应的信息量就约为1.58;而日本夺冠概率为1/60,信息量就为5.9;可见概率越低,所需要的消除不确定性的信息量就越大 。

    推荐阅读