條件概率分布(Conditional Probability Distribution,或者 條件分布,Conditional Distribution )是現代概率論中的概念。已知兩個相關的隨機變量X 和Y,隨機變量Y 在條件{X =x}下的條件概率分布是指當已知X 的取值為某個特定值x之時,Y 的概率分布。 如果Y 在條件{X =x}下的條件概率分布是連續分布,那麼其密度函數稱作Y 在條件{X =x}下的條件概率密度函數(條件分布密度、條件密度函數)。與條件分布有關的概念,常常以「條件」作為前綴,如條件期望、條件方差等等。
如果骰子一側是6點,朝上的可能是4點,但不可能是6點或1點。
假設在桌子上拋擲一枚普通的骰子,則其點數結果的概率分布是集合 的均勻分布:每個點數出現的概率都是均等的六分之一。然而,如果據某個坐在桌邊的人觀察,向着他的側面是6點,那麼,在此條件下,向上的一面不可能是6點,也不可能是6點對面的1點。因此,在此條件下,拋骰子的點數結果是集合 的均勻分布:有四分之一的可能性出現 四種點數中的一種。可以看出,增加的條件或信息量(某個側面是6點)導致了點數結果的概率分布的變化。這個新的概率分布就是條件概率分布。
更為嚴格清晰的定義需要用到數學語言。當隨機變量是離散或連續時,條件概率分布有不同的表達方法。
對於離散型的隨機變量X 和Y(取值範圍分別是 和 ),隨機變量Y 在條件{X =x}下的條件概率分布是:
- ( )
同樣的,X 在條件{Y=y}下的條件概率分布是:
- ( )
其中, 是X 和Y 聯合分布概率,即「 ,並且 發生的概率」。如果用 表示 的值:
那麼隨機變量X 和Y 的邊際分布就是:
-
-
因此, 隨機變量Y 在條件{X =x}下的條件概率分布也可以表達為:
- ( )
同樣的,X 在條件{Y=y}下的條件概率分布也可以表達為:
- ( )
對於連續型的隨機變量X 和Y, ,因此對離散型隨機變量的條件分布定義不適用。假設其聯合密度函數為 ,X 和Y 的邊際密度函數分別是 和 ,那麼Y 在條件{X =x}下的條件概率密度函數是:
-
同樣的,X 在條件{Y=y}下的條件概率密度函數是:
-
在一定意義上,條件分布和獨立分布是相對的。如果兩個隨機變量X 和Y 是獨立分布的,那麼不論是否已知某個關於X 的條件,都不會影響Y 的概率分布。用數學語言來說,就是:
-
這與獨立分布的定義是相合的,事實上,隨機變量X 和Y 相互獨立分布,則:
-
因此
-
- 趙衡秀. 《概率论与数理统计》. 清華大學出版社. 2005.