信道容量

通过通信渠道可靠地传输信息的速率的上限

電機工程學電腦科學資訊理論中,信道容量Channel capacity,又譯通道容量)是指在一個信道中能夠可靠地傳送資訊時可達速率的最小上界。所謂可靠傳輸指的是可以以任意小的錯誤率傳遞資訊。根據有噪信道編碼定理,信道容量是可以誤差概率任意小地達到的給定信道的極限資訊率。信道容量的單位為位元每秒、奈特每秒等等。[1] [2]

山農第二次世界大戰期間發展出資訊理論,為信道容量提了定義,並且提供了計算信道容量的數學模型山農指出,信道容量是信道的輸入與輸出的互資訊量的最大值,而相應的輸入分佈稱為最佳輸入分佈[3]

定義

編輯
 

X代表已傳送訊號的隨機變數Y代表已收到訊號的隨機變數 代表已知X的情況下Y條件分佈,為信道的內在固定屬性。於是依據如下性質

 

邊緣分佈 的選取完全決定了聯合分佈 ,這就能導出互資訊 信道容量定義為

 

其中上確界針對對所有可能的 值。

有噪信道編碼定理

編輯

有噪信道編碼定理表明,對任意的ε > 0以及傳輸速率R小於信道容量C,在塊長度足夠大的情況下,總有一種在速率為R下傳輸的編碼和解碼方案,它的誤差概率小於ε。另外,對於任何大於信道容量的速率,隨着塊長度趨近於無窮,接受者的誤差概率也趨於1。

參見

編輯

參考文獻

編輯
  1. ^ Saleem Bhatti. Channel capacity. Lecture notes for M.Sc. Data Communication Networks and Distributed Systems D51 -- Basic Communications and Networks. [2007-11-10]. (原始內容存檔於2007-08-21). 
  2. ^ Jim Lesurf. Signals look like noise!. Information and Measurement, 2nd ed. [2007-11-10]. (原始內容存檔於2016-12-28). 
  3. ^ Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. John Wiley & Sons, New York. 2006.