編碼理論中,解碼(英語:decoding)是將接收到的消息譯成給定碼元碼字英語codewords的過程。有許多常用的將消息映射到碼字的方法。這些方法通常用於在有噪信道(如二元對稱信道英語binary symmetric channel)傳輸後恢復消息。

記號

編輯

  是指長度為  二元碼英語binary code   的元素;而   為它們之間的距離。

理想觀察者解碼

編輯

給定信號  ,則理想觀察者解碼會生成碼字  。該過程得到這個解:

 (y發送 | x接收)

例如,在傳輸後可以選擇最接近消息   的碼字  

解碼約定

編輯

所有碼字都不滿足期望概率:可能會有多於一個碼字其轉變為接收到的消息的似然性相等。在此情況下,發送方和接收方必須提前對解碼約定達成一致。廣泛使用的約定有:

  1. 請求重發碼字 -- 自動重傳請求
  2. 從最接近碼字的集合中隨機選取碼字

最大似然解碼

編輯

給定一個接收到的碼字  最大似然解碼選取可以最大化

 (x接收 | y發送)

的碼字  ,即會最大化發送   條件下,接收到   的概率。如果所有碼字的發送概率都相等的話,則此方法與理想觀察者解碼等價。 事實上,根據貝葉斯定理

 

在固定   下,可以重建  ,而由於所有符號等可能地發送,   為常數。 於是   的函數   在最大化的同時,   也會最大化,因而遵循該斷言。

與理想觀察者解碼一樣,對於非唯一解碼,也需要事先達成解碼約定。

最大似然解碼問題可以建模為整數規劃問題。[1]

最大似然解碼問題是「乘積函數邊緣化"問題(已通過運用廣義分配律英語generalized distributive law解決)的一個實例。[2]

最小距離解碼

編輯

給定一個接收到的碼字  最小距離解碼會選出使漢明距離最小化的碼字  

 

即選取儘可能接近   的碼字  

注意到如果一個離散無記憶信道英語discrete memoryless channel誤差概率   小於二分之一,則最小距離解碼等價於最大似然解碼,因為若

 

則:

 

該式(由於 p 小於二分之一)是通過最小化 d 來最大化的。

最小距離解碼也叫最近鄰居解碼。可以用標準陣列英語standard array來輔助或自動解碼。在滿足下列條件的情況下,最小距離解碼是一種合理的解碼方法:

  1. 出現差錯的概率   與符號的位置無關
  2. 差錯是獨立事件 - 消息中某一位置出現差錯不會影響其他位置

這些假設對於在二元對稱信道英語binary symmetric channel中傳輸時合理的。對於其他介質可能不適用,比如在DVD中,光碟上的一個劃痕就可以引起很多相鄰的符號或碼字產生錯誤。

與其他解碼方法一樣,對於非唯一解碼,需要事先達成解碼約定。

校正子解碼

編輯

伴隨式解碼(英語:syndrome decoding)是在有噪信道(即會有產生差錯的信道)解碼線性碼英語linear code的一種高效的方法。本質上,伴隨式解碼是最小距離解碼使用一個簡化的查找表。線性碼允許這種解碼。

假設  奇偶檢驗矩陣 的,長為  、最小距離為   的線性碼。則顯然   有糾正信道產生的

 

個錯的能力(因為如果產生了不到   個差錯,則最小距離解碼仍可以正確譯出傳輸錯誤的碼字)。

現在假設碼字   在該信道中發送,發生錯誤圖樣  。則收到   。普通的最小距離解碼會在大小為   的表中找向量   最接近的匹配 - 即對於所有  ,元素(不一定唯一)  都滿足

 .

伴隨式解碼利用了奇偶校驗矩陣的性質:對於所有  

 .

接收到的  伴隨式定義為:

 

二元對稱信道英語Binary symmetric channel中進行最大似然解碼,要從大小為   的預計算表格中查詢,將   映射到  
注意到這比起標準陣列解碼英語standard array的複雜度已經明顯減小了。

不過,在假設傳輸中不會超過   個差錯的前提下,接收方僅僅需要在更小的表格(對於二元碼來說)中查找   這個值

 .

該表是針對所有可能的錯誤圖樣   下,  的預計算值的。

已知  ,解碼   就不是難事了:

 

部分響應最大似然法

編輯

部分響應最大似然法(PRML)是一種將弱模擬信號從磁碟或磁帶驅動器的的磁頭轉換成數位訊號的方法。

維特比解碼器

編輯

維特比解碼器使用維特比算法解碼已經用基於卷積碼的前向錯誤更正編碼的比特流。 漢明距離用來作為硬判決維特比解碼器的度量。 歐氏距離平方用作軟判決解碼器的度量。

參見

編輯

來源

編輯

參考文獻

編輯
  1. ^ Feldman, Jon; Wainwright, Martin J.; Karger, David R. Using Linear Programming to Decode Binary Linear Codes 51 (3). March 2005: 954–972. doi:10.1109/TIT.2004.842696.  |journal=被忽略 (幫助)
  2. ^ Aji, Srinivas M.; McEliece, Robert J. The Generalized Distributive Law. IEEE Transactions on Information Theory. March 2000, 46 (2): 325–343. doi:10.1109/18.825794.