UA MATH636 信息論9 Berlekamp-Welch算法

• Naive RS decoder
• Berlekamp-Welch算法
• • 一個例子

上一講介紹了RS code，這一講介紹RS code的decode算法。先回顧一下RS code的構造：message vector為
$$m=[x_1,?,x_k],x_i\in GF(p),i=1,?,k$$
用定義在Galois域$GF(p)$上的多項式來表示這個message：
$$P(t)=\sum _{i=1}^k{x}_i{t}^{i?1}$$
然后用這個多項式來編碼：
$$c=[c_1,?,c_n]=[P(0),P(1),?,P(n?1)]$$

這個編碼會經由到噪聲信道傳送到接收端，假設接收端接收到的碼是$R=[R_0,?,R_{n?1}]$，接下來的問題就是怎么從$R$還原出message $\hat{m}$。

Naive RS decoder

先考慮比較簡單的erasure，對于傳輸的碼$$c=[c_1,?,c_n]=[P(0),P(1),?,P(n?1)]$$
假設接收端收到的碼有$l$個erasure，則剩下的$n?l$個符號是正確的。如果$n?l\ge k?1$，也就是$l\le n?(k?1)=d$時，可以用$n?l$個符號帶入到$P(t)$中把系數解出來。

如果是有error，最簡單的想法是從$R$中取一個有$k$個元素的subset，比如$\{R_0,?,R_{k?1}\}$。如果它們是正確的碼，那么一定是$P(t)$的取值。根據
$$P(i)=R_i,i=0,?,k?1$$
可以解出一組$P(t)$的系數，也就是decode得到的message vector的元素。一共有$C_n^k$種可能的subset，每一個都可以計算出一組系數。比如$n=255,k=249$，這種RS code最多可以改掉三個噪聲信道造成的傳輸錯誤，但卻需要比較$C_{255}^{249}\approx 3590$億個subset，顯然這種naive算法的性價比非常低。

Berlekamp-Welch算法

這種算法比較有效，復雜度是$O(n^3)$。如果有$l$個error，而且不知道error在哪個位置，我們定義一個error polynomial
$$E(t)=\prod _{j=1}^l(t?i_j)$$
其中$i_j=1,?,n$代表error的位置（就是第幾個符號出錯了），$deg(E(t))=l$。這真的是一個非常巧妙的構造，因為Berlekamp-Welch發現：$?i$, $R_{i}E(i)=E(i)P(i)$。這個等式之所以成立是因為當$R_i$是正確的碼時，直接就有$R_i=P(i)$；當$R_i$是錯誤的碼時，因為$E(i)=0$，所以等式也會成立。接下來就用這個等式來構造decoder。

定義$Q(t)=E(t)P(t)$，則$$Q(i)=E(i)P(i)=E(i)R_i$$
他們的階數的關系是
$$deg(Q(t))\le deg(P(t))+deg(E(t))\le k?1+l\le k?1+\frac{n?k}{2}$$
因為$R_i$是已知的，如果我們能夠巧妙的得到$E(i)$，就可以計算出$Q(i)$，就可以解出$Q(t)$和$E(t)$，則$P(t)$就可以表示為
$$P(t)=\frac{Q(t)}{E(t)}$$
這個除法是$GF(p)$上的多項式的除法。一般在用到抽代的結構的時候需要驗證這種自己搞出來的定義是不是良定義，下面說明$Q(t)=P(t)E(t)$是良定義。考慮$D(t)=Q(t)?P(t)E(t)$，
$$deg(D(t))\le \max (deg(Q(t),deg(P(t)E(t)))\le k?1+\frac{n?k}{2}=(n?1)?\frac{n?k}{2}$$
又因為
$$D(i)=Q(i)?P(i)E(i)=R_{i}E(i)?P(i)E(i)=(R_i?P(i))E(i)$$
對于不是error的那些位置$i$，$D(i)$是等于0的，也就是說$D(t)$至少有$n?\frac{n?k}{2}$個零點。這種零點比階數更多的現象只會在$Q(t)=0,?t$的時候發生。

下面討論這個算法具體怎么操作。因為$E(t)$是首1多項式，可以假設它為
$$E(t)=t^l+v_{l?1}{t}^{l?1}+?+v_0$$
假設$Q(t)$是
$$Q(t)=u_{l+k?1}{t}^{l+k?1}+u_{l+k?2}{t}^{l+k?2}+?+u_0$$
這里面未知數有$2l+k$個，注意到$2l+l\le 2\frac{n?k}{2}+k=n$。根據
$$Q(i)=R_{i}E(i),i=0,?,n?1$$
我們可以得到$n$個線性方程，顯然方程數量是夠解出所有的系數的。解出來之后根據$$P(t)=\frac{Q(t)}{E(t)}$$計算出$P(t)$，它的系數就是$\hat{m}$。

一個例子

接著上一講的例子，$R=[2,3,4,0]$，生成矩陣是
$$G=\left[\begin{array}{cccc}1& 1& 1& 1\\ 0& 1& 2& 3\end{array}\right]$$
接下來用Berlekamp-Welch算法來解碼。假設$l=1$，則$k?1+l=2$，假設
$$\begin{gathered} E(t)=v_0+t \\ Q(t)=u_0+u_{1}t+u_2{t}^2 \end{gathered}$$
接下來根據$Q(i)=R_{i}E(i)$解其中的四個參數：
$$\begin{gathered} u_0=2v_0 \\ {u}_0+u_1+u_2=3(v_0+1) \\ {u}_0+2u_1+4u_2=4(v_0+2) \\ {u}_0+3u_1+9u_2=0 \end{gathered}$$
解出來發現$v_0=0,u_0=0,u_1=1,u_2=2$，所以
$$\begin{gathered} E(t)=t,Q(t)=t+2t^2 \\ P(t)=\frac{Q(t)}{E(t)}=\frac{t+2t^2}{t}=1+2t \end{gathered}$$
從而解碼之后得到的message是$\hat{m}=[1,2]$

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的UA MATH636 信息论9 Berlekamp-Welch算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。