当具确定机率的事件发生时,所传送的资讯量的度量。以数学符号表示如下:若事件Xi发生的机率为P(Xi),则资讯量I(Xi)为P(Xi)的倒数之对数,即I(Xi)=log(1/P(Xi))=-logP(Xi)
例:设事件X发生的机率为数(1/2),则
I(X)=log22=1nbsp;nbsp;nbsp; (向农) shannon
nbsp;nbsp;nbsp;=log102=0.301(哈特立) hartley
nbsp;nbsp;nbsp;=loge2=0.693 (自然单位) natural unit