熵 (信息论)

此条目页的主题是信息论的熵。关于“熵”的其他意思，请见“熵 (消歧义)”。

在信息论中，熵（英语：entropy，又称信息熵、信源熵、平均自信息量）是接收的每条消息中包含的信息的平均量。这里的“消息”代表来自分布或数据流中的事件、样本或特征。（熵最好理解为不确定性的量度而不是确定性的量度，因为越随机的信源的熵越大。）来自信源的另一个特征是样本的概率分布。这里的想法是，比较不可能发生的事情，当它发生了，会提供更多的信息。由于一些其他的原因，把信息（熵）定义为概率分布的对数的相反数是有道理的。事件的概率分布和每个事件的信息量构成了一个随机变量，这个随机变量的均值（即期望）就是这个分布产生的信息量的平均值（即熵）。熵的单位通常为位元，但也用Sh、nat、Hart计量，取决于定义用到对数的底。

2 bit的熵。

采用概率分布的对数作为信息的量度的原因是其可加性。例如，投掷一次硬币提供了1 Sh的信息，而掷m次就为m位。更一般地，你需要用log₂(n)位来表示一个可以取n个值的变量。

在1948年，克劳德·艾尔伍德·香农将热力学的熵，引入到信息论，因此它又被称为香农熵（Shannon entropy）。

简介

熵的概念最早起源于物理学，用于度量一个热力学系统的无序程度。在信息论里面，熵是对不确定性的测量。但是在信息世界，熵越高，则能传输越多的信息，熵越低，则意味着传输的信息越少。

英语文本数据流的熵比较低，因为英语很容易读懂，也就是说很容易被预测。即便我们不知道下一段英语文字是什么内容，但是我们能很容易地预测，比如，字母e总是比字母z多，或者qu字母组合的可能性总是超过q与任何其它字母的组合。如果未经压缩，一段英文文本的每个字母需要8个位元来编码，但是实际上英文文本的熵大概只有4.7位元。这是由于英文的编码包含了各式符号，如逗号、引号等。因此英文输入法使用了8个位元来表达一共256个字母及符号。

如果压缩是无损的，即通过解压缩可以百分之百地恢复初始的消息内容，那么压缩后的消息携带的信息和未压缩的原始消息是一样的多。而压缩后的消息可以通过较少的位元传递，因此压缩消息的每个位元能携带更多的信息，也就是说压缩信息的熵更加高。熵更高意味着比较难于预测压缩消息携带的信息，原因在于压缩消息里面没有冗余，即每个位元的消息携带了一个位元的信息。香农的信源编码定理揭示了，任何无损压缩技术不可能让一位元的消息携带超过一位元的信息。消息的熵乘以消息的长度决定了消息可以携带多少信息。

香农的信源编码定理同时揭示了，任何无损压缩技术不可能缩短任何消息。根据鸽笼原理，如果有一些消息变短，则至少有一条消息变长。在实际使用中，由于我们通常只关注于压缩特定的某一类消息，所以这通常不是问题。例如英语文档和随机文字，数码相片和噪音，都是不同类型的。所以如果一个压缩算法会将某些不太可能出现的，或者非目标类型的消息变得更大，通常是无关紧要的。但是，在我们的日常使用中，如果去压缩已经压缩过的数据，仍会出现问题。例如，将一个已经是FLAC格式的音乐文件压缩为ZIP文件很难使它占用的空间变小。

熵的计算

如果有一枚理想的硬币，其出现正面和反面的机会相等，则抛硬币事件的熵等于其能够达到的最大值。我们无法知道下一个硬币抛掷的结果是什么，因此每一次抛硬币都是不可预测的。因此，使用一枚正常硬币进行若干次抛掷，这个事件的熵是一位元，因为结果不外乎两个——正面或者反面，可以表示为0, 1编码，而且两个结果彼此之间相互独立。若进行n次独立实验，则熵为n，因为可以用长度为n的位元流表示。但是如果一枚硬币的两面完全相同，那个这个系列抛硬币事件的熵等于零，因为结果能被准确预测。现实世界里，我们收集到的数据的熵介于上面两种情况之间。

另一个稍微复杂的例子是假设一个随机变量X，取三种可能值${\begin{smallmatrix}x_{1},x_{2},x_{3}\end{smallmatrix}}$，概率分别为${\begin{smallmatrix}{\frac {1}{2}},{\frac {1}{4}},{\frac {1}{4}}\end{smallmatrix}}$，那么编码平均位元长度是：${\begin{smallmatrix}{\frac {1}{2}}\times 1+{\frac {1}{4}}\times 2+{\frac {1}{4}}\times 2={\frac {3}{2}}\end{smallmatrix}}$。其熵为3/2。

因此熵实际是对随机变量的位元量和顺次发生概率相乘再总和的数学期望。

定义

依据Boltzmann's H-theorem，香农把随机变量X的熵值 Η（希腊字母Eta）定义如下，其值域为{x₁, ..., x_n}：

$\mathrm {H} (X)=\mathrm {E} [\mathrm {I} (X)]=\mathrm {E} [-\ln(\mathrm {P} (X))]$。

其中，P为X的概率质量函数（probability mass function），E为期望函数，而I(X)是X的信息量（又称为自信息）。I(X)本身是个随机变量。

当取自有限的样本时，熵的公式可以表示为：

$\mathrm {H} (X)=\sum _{i}{\mathrm {P} (x_{i})\,\mathrm {I} (x_{i})}=-\sum _{i}{\mathrm {P} (x_{i})\log _{b}\mathrm {P} (x_{i})},$

在这里b是对数所使用的底，通常是2，自然常数e，或是10。当b = 2，熵的单位是bit；当b = e，熵的单位是nat；而当b = 10,熵的单位是Hart。

p_i = 0时，对于一些i值，对应的被加数0 log_b 0的值将会是0，这与极限一致。

$\lim _{p\to 0+}p\log p=0$。

还可以定义事件 X 与 Y 分别取 x_i 和 y_j 时的条件熵为

$\mathrm {H} (X|Y)=-\sum _{i,j}p(x_{i},y_{j})\log {\frac {p(x_{i},y_{j})}{p(y_{j})}}$

其中p(x_i, y_j)为 X = x_i 且 Y = y_j 时的概率。这个量应当理解为你知道Y的值前提下随机变量 X 的随机性的量。

示例

抛硬币的熵H(X)（即期望自信息），以位元度量，与之相对的是硬币的公正度Pr(X=1).

注意图的最大值取决于分布；在这里，要传达一个公正的抛硬币结果至多需要1位元，但要传达一个公正的抛骰子结果至多需要log2(6)位元。

如果有一个系统S内存在多个事件S = {E₁,...,E_n}，每个事件的概率分布P = {p₁, ..., p_n}，则每个事件本身的消息（自信息）为：

$I_{e}=-\log _{2}{p_{i}}$（对数以2为底，单位是位元（bit））

$I_{e}=-\ln {p_{i}}$（对数以$e$为底，单位是纳特/nats）

如英语有26个字母，假如每个字母在文章中出现次数平均的话，每个字母的消息量为：

$I_{e}=-\log _{2}{1 \over 26}=4.7$

以日文五十音平假名作为相对示例，假设每个平假名日语文字在文章中出现的概率相等，每个平假名日语文字可携带的信息量为：

$I_{e}=-\log _{2}{1 \over 50}=5.64$

而汉字常用的有2500个，假如每个汉字在文章中出现次数平均的话，每个汉字的信息量为：

$I_{e}=-\log _{2}{1 \over 2500}=11.3$

实际上每个字母和每个汉字在文章中出现的次数并不平均，比方说较少见字母（如z）和罕用汉字就具有相对高的信息量。但上述计算提供了以下概念：使用书写单元越多的文字，每个单元所包含的消息量越大。

熵是整个系统的平均消息量，即：

$H_{s}=\sum _{i=1}^{n}p_{i}I_{e}=-\sum _{i=1}^{n}p_{i}\log _{2}p_{i}$

因为和热力学中描述热力学熵的玻尔兹曼公式本质相同（仅仅单位不同，一纳特的信息量即相当于k焦耳每开尔文的热力学熵），所以也称为“熵”。

如果两个系统具有同样大的消息量，如一篇用不同文字写的同一文章，由于汉字的信息量较大，中文文章应用的汉字就比英文文章使用的字母要少。所以汉字印刷的文章要比其他应用总体数量少的字母印刷的文章要短。即使一个汉字占用两个字母的空间，汉字印刷的文章也要比英文字母印刷的用纸少。

熵的特性

可以用很少的标准来描述香农熵的特性，将在下面列出。任何满足这些假设的熵的定义均正比以下形式

$-K\sum _{i=1}^{n}p_{i}\log(p_{i})$

其中，K是与选择的度量单位相对应的一个正比常数。

下文中，p_i = Pr(X = x_i)且$\mathrm {H} _{n}(p_{1},\ldots ,p_{n})=\mathrm {H} (X)$

连续性

该量度应连续，概率值小幅变化只能引起熵的微小变化。

对称性

符号x_i重新排序后，该量度应不变。

$\mathrm {H} _{n}\left(p_{1},p_{2},\ldots \right)=\mathrm {H} _{n}\left(p_{2},p_{1},\ldots \right)$等。

极值性

当所有符号有同等机会出现的情况下，熵达到最大值（所有可能的事件同等概率时不确定性最高）。

$\mathrm {H} _{n}(p_{1},\ldots ,p_{n})\leq \mathrm {H} _{n}\left({\frac {1}{n}},\ldots ,{\frac {1}{n}}\right)=\log _{b}(n)$。

等概率事件的熵应随符号的数量增加。

$\mathrm {H} _{n}{\bigg (}\underbrace {{\frac {1}{n}},\ldots ,{\frac {1}{n}}} _{n}{\bigg )}=\log _{b}(n)<\log _{b}(n+1)=\mathrm {H} _{n+1}{\bigg (}\underbrace {{\frac {1}{n+1}},\ldots ,{\frac {1}{n+1}}} _{n+1}{\bigg )}.$

可加性

熵的量与该过程如何被划分无关。

最后给出的这个函数关系刻画了一个系统与其子系统的熵的关系。如果子系统之间的相互作用是已知的，则可以通过子系统的熵来计算一个系统的熵。

给定n个均匀分布元素的集合，分为k个箱（子系统），每个里面有 b₁, ..., b_k 个元素，合起来的熵应等于系统的熵与各个箱子的熵的和，每个箱子的权重为在该箱中的概率。

对于正整数b_i其中b₁ + ... + b_k = n来说，

$\mathrm {H} _{n}\left({\frac {1}{n}},\ldots ,{\frac {1}{n}}\right)=\mathrm {H} _{k}\left({\frac {b_{1}}{n}},\ldots ,{\frac {b_{k}}{n}}\right)+\sum _{i=1}^{k}{\frac {b_{i}}{n}}\,\mathrm {H} _{b_{i}}\left({\frac {1}{b_{i}}},\ldots ,{\frac {1}{b_{i}}}\right)$。

选取k = n，b₁ = ... = b_n = 1，这意味着确定符号的熵为零：Η₁(1) = 0。这就是说可以用n进制熵来定义n个符号的信源符号集的效率。参见信息冗余。

进一步性质

香农熵满足以下性质，借由将熵看成“在揭示随机变量X的值后，从中得到的信息量（或消除的不确定性量）”，可来帮助理解其中一些性质。

• 增减一概率为零的事件不改变熵：

$\mathrm {H} _{n+1}(p_{1},\ldots ,p_{n},0)=\mathrm {H} _{n}(p_{1},\ldots ,p_{n})$

• 可用琴生不等式证明

$\mathrm {H} (X)=\operatorname {E} \left[\log _{b}\left({\frac {1}{p(X)}}\right)\right]\leq \log _{b}\left(\operatorname {E} \left[{\frac {1}{p(X)}}\right]\right)=\log _{b}(n)$

具有均匀概率分布的信源符号集可以有效地达到最大熵log_b(n)：所有可能的事件是等概率的时候，不确定性最大。

• 计算 (X,Y)得到的熵或信息量（即同时计算X和Y）等于通过进行两个连续实验得到的信息：先计算Y的值，然后在你知道Y的值条件下得出X的值。写作

$\mathrm {H} (X,Y)=\mathrm {H} (X|Y)+\mathrm {H} (Y)=\mathrm {H} (Y|X)+\mathrm {H} (X)$。

• 如果Y=f(X)，其中f是确定性的，那么Η(f(X)|X) = 0。应用前一公式Η(X, f(X))就会产生

$\mathrm {H} (X)+\mathrm {H} (f(X)|X)=\mathrm {H} (f(X))+\mathrm {H} (X|f(X)),$

所以Η(f(X)) ≤ Η(X)，因此当后者是通过确定性函数传递时，变量的熵只能降低。

• 如果X和Y是两个独立实验，那么知道Y的值不影响我们对X值的认知（因为两者独立，所以互不影响）：

$\mathrm {H} (X|Y)=\mathrm {H} (X)$。

• 两个事件同时发生的熵不大于每个事件单独发生的熵的总和，且仅当两个事件是独立的情况下相等。更具体地说，如果X和Y是同一概率空间的两个随机变量，而 (X,Y)表示它们的笛卡尔积，则

$\mathrm {H} (X,Y)\leq \mathrm {H} (X)+\mathrm {H} (Y)$。

在前两条熵的性质基础上，很容易用数学证明这一点。

和热力学熵的联系

物理学家和化学家对一个系统自发地从初始状态向前演进过程中，遵循热力学第二定律而发生的熵的变化更感兴趣。在传统热力学中，熵被定义为对系统的宏观测定，并没有涉及概率分布，而概率分布是信息熵的核心定义。

根据Jaynes（1957）的观点，热力学熵可以被视为香农信息理论的一个应用： 热力学熵被解释成与定义系统的微态细节所需的进一步香农信息量成正比，波兹曼常数为比例系数，其中系统与外界无交流，只靠古典热力学的巨观变量所描述。加热系统会提高其热力学熵，是因为此行为增加了符合可测巨观变量 的系统微态的数目，也使得所有系统的的完整叙述变得更长。（假想的）麦克斯韦妖可利用每个分子的状态信息，来降低热力学熵，但是罗夫·兰道尔（于1961年）和及其同事则证明了，让小妖精行使职责本身——即便只是了解和储存每个分子最初的香农信息——就会给系统带来热力学熵的增加，因此总的来说，系统的熵的总量没有减少。这就解决了Maxwell思想实验引发的悖论。兰道尔原理也为现代电脑处理大量信息时所产生的热量给出了下限，虽然现在电脑的废热远远比这个限制高。

== 语言学 == 语言学的“熵”意思是指“信息的密度”，信息熵越低的语言内容越少。

逸闻

贝尔实验室曾流传一则可信度不高的传闻：冯诺伊曼建议香农为这个概念取名为“熵”，理由是这个热力学名词别人不懂，容易被唬住。

参见

• 熵 (生态学)
• 熵 (热力学)
• 熵编码
• 麦克斯韦妖

外部链接

• Hazewinkel, Michiel (编), Entropy, 数学百科全书, Springer, 2001, ISBN 978-1-55608-010-4