-
无线光通信技术是以激光为载波在自由空间传输数据的通信技术，其得益于具有高度的安全性、巨大的带宽、免许可证频谱和低部署成本等特点，该技术得到广泛的应用[1-2]。但由于大气湍流引起的温度和气压的非规律性变化，使得接收信号的幅值和相位出现随机波动，从而导致光信号在传输中产生较高的误码率和中断，严重影响通信系统性能[3]。针对上述问题，信道编码被广泛应用于无线光通信，其中关于极化码在无线光通信的应用研究已成为热点[4-5]。
极化码在二进制输入离散无记忆信道上已被证明可以达到香农极限，被认为是信道编码的突破[6]。其中串行对消算法（Successive Cancellation，SC）和置信传播算法（Belief Propagation，BP）已成为极化码的两种主要译码方案。虽然SC算法的复杂度较低，在码长趋于无穷大的情况下可以实现信道容量[6]。然而，SC译码算法无法在中等码长的情况下提供令人满意的纠错性能，且由于其序列特性，解码延迟较高。为了提高SC译码的纠错性能， Vardy提出串行抵消列表（Successive Cancellation List，SCL）译码算法[7]，SCL译码器仍然存在吞吐量有限或解码延迟高的问题。与SC译码算法和SCL译码算法相比，BP译码算法[8]由于可以并行处理对数似然比（Log Llikelihood Ratios，LLR），大幅度降低译码延迟，其更适合于低延迟和高吞吐量应用。Yuan B [9]提出了最小和（Min-Sum，MS）近似方法，通过估计将校验节点的复杂函数取近似值来降低BP译码算法的复杂度，但同时也降低了译码性能。Yin Xu等人[10]通过在校验节点的计算上添加一个归一化因子来减轻MS的退化，并表明归一化最小和（Normalized Min-Sum，NMS）具有接近BP的性能。Seho Myung等人通过在校验节点的计算上添加一个偏移因子，证明OMS （Offset Min-Sum ）在NMS译码方法的基础上更接近于BP译码性能[11]。因此，所有的MS译码改进方法均在大幅度降低BP译码复杂度的基础上去近似于BP译码的性能。然而，参考文献[10-11]中的归一化因子和偏移因子是通过遍历搜索得到的，遍历搜索的复杂度随着优化参数的增加呈指数级增长。在复杂度可接受的任意码长下，没有通用的方法来确定神经网络系统的最优参数。对于低密度奇偶校验码，密度演化（DE）[12]被广泛用于推导改进BP译码算法的参数。然而，DE只适用于无环图或周长较大的图，极化码BP译码因子图中的短周期使得DE不适用于极化码BP译码。针对极化码MS译码方法无法选择最优参数来补偿其近似值来的性能损失，专家和学者开始采用深度学习解决以上问题。Nachmani等人[13]提出了深度学习方法来优化具有短周期的图，并获得比和积方法更好的纠错性能。Tobias Gruber等人证明所有可能的码字训练的神经网络译码器具有接近最大的后验概率性能，但随着码字中信息比特数的增加，学习的复杂度呈指数级增长，因而受到限制[14]。刘荣科等人通过将极化码平均划分为多个子块进行模块内并行解码、模块间串行解码模块，提出了一种极化码的块神经网络方法[15]。牛凯等人通过展开极化码因子图的层赋予权值，将传统的极化码BP算法改进，并证明了改进后的极化码BP译码器具有对称结构，使得权值可以由一个全零码字训练[16]。因此，虽然上述译码改进方法优势明显，但对BP译码改进方法的性能还有一定提升空间，且产生了较高的计算复杂度。
面对极化码BP改进译码方法中无法选取最优因子参数来补偿性能损失的问题，可将深度学习算法与极化码译码相结合。文中将极化码推广到无线光通信场景中，提出了无线光通信下的DNN-NOMS （Deep Neural Networks-Normalized and Offset Min-Sum）译码方法，首先在极化码奇偶校验矩阵的基础上，将极化码的BP因子图转化为稠密的Tanner图，通过校验节点（Check Nodes，CNs）和变量节点（Variable Nodes，VNs）更新方程的剪枝方法，转化为稀疏Tanner图，从而避免短环效应。展开稀疏Tanner图并将其转换为前馈神经网络模型，通过将MS译码算法添加归一化因子和偏移因子，将前馈神经网络模型的边赋予权重，通过三种神经元函数对校验节点、变量节点计算并进行译码判决，在选取最优的归一化因子和偏移因子的基础上，完成极化码置信度传播译码。
-
无线光通信的信道编码、传输和译码模型如图1所示。无线光通信的通信过程如下：（1）在发射端，先将二进制信息序列进行极化码编码，将码字进行PPM （Pulse Position Modulation）调制到光载波上，并经过大气信道进行传输；（2） 在接收端，光学天线接收光信号， 并由光电探测器将光信号转换成为电信号，然后经PPM解调， 最后使用DNN-NOMS译码器对接收信号进行极化码译码。
图 1 DNN神经网络模型辅助极化码译码的系统模型
Figure 1. DNN neural network model assisted system model for polarization code decoding
-
无线光通信的激光传输模型一般有对数正态湍流模型、负指数湍流模型和Gamma-Gamma模型，其中前两种模型的适用范围受限，而Gamma-Gamma模型可以较好地适应强、弱湍流条件下的大气激光传输信道，该模型的建立基于大气湍流传输时光强起伏的调制过程。其分布表达式如下[17-18]：
$$ f(I) = \frac{{2{{(\alpha \beta )}^{(\alpha + \beta )/2}}}}{{\varGamma (\alpha )\varGamma (\beta )}}{I^{[(\alpha + \beta )/2] - 1}}{K_{\alpha - \beta }}\left(2\sqrt {\alpha \beta I} \right) $$ (1) 式中：
$ I $ 为信号强度；$ \alpha $ 和$ \;\beta $ 分别为散射过程中大区域和小区域的有效数量；$ {K_{\alpha - \beta }}(.) $ 为第二类修正的$ \alpha - \beta $ 阶修正的贝赛尔函数；$\varGamma \left( . \right)$ 表示Gamma函数。光强度密度函数中的$ \alpha $ 和$ \beta $ 与大气条件有关：$$ \begin{gathered} \alpha = {\left[ {\exp \left( {\frac{{0.49\sigma _o^2}}{{{{(1 + 1.11\sigma _o^{{{12} \mathord{\left/ {\vphantom {{12} 5}} \right. } 5}})}^{{5 \mathord{\left/ {\vphantom {5 6}} \right. } 6}}}}}} \right) - 1} \right]^{ - 1}} \hfill \\ \beta = {\left[ {\exp \left( {\frac{{0.51\sigma _o^2}}{{{{(1 + 0.69\sigma _o^{{{12} \mathord{\left/ {\vphantom {{12} 5}} \right. } 5}})}^{{5 \mathord{\left/ {\vphantom {5 6}} \right. } 6}}}}}} \right) - 1} \right]^{ - 1}} \hfill \\ \end{gathered} $$ (2) 式中：
$ \sigma _o^2 $ 为表示对数光强起伏方差，$\sigma _o^2{\text{ = 1}}{{.23 C}}_n^2{k^{7/6}}{L^{11/6}}$ ，$k = \dfrac{{2\pi }}{\lambda }$ 为波数，$\lambda $ 为波长，L为传输距离，${{C}}_n^2$ 为折射率常数。在弱湍流条件下，${\sigma _0}^2 \lt 0.3$ ；在中湍流条件下，${\sigma _0}^2 \in [0.3,25]$ ；在强湍流条件下，${\sigma _0}^2 \in [25,100]$ 。 -
（N，K）极化码的编码器分别将K个信息位和其他（N−K）位分配给N位码字
$ {u^N} $ 的可靠和不可靠位置。不可靠位置的位被称为冻结位，通常固定为零。然后，根据$ {x^N} = {u^N}{G_{^N}} $ 得到N位发送码$ {x^N} $ ，其中$ {G_N} $ 为生成矩阵，满足$ {G_N} = {B_N}{F_2}^{ \otimes n} $ ，其中$ {B_N} $ 表示位反转置换矩阵，$ {F_2}^{ \otimes n} $ 表示核矩阵。置信传播译码是极化码译码中常用的消息传递算法之一，BP译码算法通过迭极化码的构造因子图进行消息计算传播及迭代解码。与SC译码及其列表扩展SCL译码不同，BP译码是一种迭代的消息传递过程，其结构与神经网络更为匹配，实现并行处理对数似然比，降低极化码译码延迟。其因子图结构如图2所示，共有n=$ {\log _2}N $ 级，每级中包含 N/2 个处理单元（Processing Elements，PE），消息通过位于每个阶段的处理元素（PEs）进行迭代传播。其中共有 N(n+1)个节点，用(i，j)表示，其中i代表节点所在级数，j代表因子图的行数。如图3所示，每个节点包含两种信息：第t次从左向右传递的信息，用$ {L^t}_{i,j} $ 表示；第t次从右向左传递的信息，用$ R_{i,j}^t $ 表示。更新迭代以从右到左的消息传递开始，该消息传递将LLR值从通道（最右边）阶段传播到信息位（最左边）阶段，并以按相反顺序从左到右的消息传递结束。其每个PE处理单元的计算公式如下：
图 2 （8，4）极化码BP译码方法因子图
Figure 2. (8，4) factor diagram of polarization code BP decoding method
图 3 （8，4）极化码的处理单元PE信息传递过程
Figure 3. (8，4) PE information transmission process of the processing unit of the polarization code
$$ \left\{ \begin{gathered} \begin{array}{*{20}{c}} {{L^t}_{i,j} = f(L_{_{i + 1,2j{\text{ - }}1}}^{t - 1},L_{_{i + 1,2j}}^{t - 1} + R_{i,j + N/2}^{t - 1})} \\ {{L^t}_{i,j + N/2} = f(R_{i,j}^{t - 1},L_{_{i + 1,2j - 1}}^{t - 1}) + L_{_{i + 1,2j}}^{t - 1}} \\ {R_{i + 1,2j - 1}^t = f(R_{i,j}^{t - 1},L_{_{i + 1,2j}}^{t - 1} + R_{i,j + N/2}^{t - 1})} \\ {R_{i + 1,2j}^t = f(R_{i,j}^{t - 1},L_{_{i + 1,2j - 1}}^{t - 1}) + R_{i,j + N/2}^{t - 1}} \end{array} \hfill \\ f(x,y) = 2{\tanh ^{ - 1}}\left(\tanh \left(\dfrac{x}{2}\right)\tanh \left(\dfrac{y}{2}\right)\right) \hfill \end{gathered} \right. $$ (3) 置信传播算法是一种基于Tanner图的译码算法，Tanner图是编码码字的奇偶校验矩阵的图形表示，其Tanner图的展开就为神经网络模型结构。为了将极化码的BP因子图展开为神经网络模型，需要将极化码BP因子图修改为Tanner图。具有生成矩阵G的极化码的奇偶校验矩阵H可以由G的列构造而成，G的索引在Ic中，Ic表示冻结索引集(引理1[19])。由H可得到稠密的Tanner图，然而，稠密的Tanner图存在许多短圈而导致性能较差，如果在该密集H上执行传统译码算法将导致解码失败。因此，如图4所示，在基于CNs和VNs更新方程的基础上，通过删除和合并对译码过程没有贡献的节点来减小奇偶校验矩阵的大小[19]，将极化码稠密Tanner图转化为稀疏Tanner图。
图 4 （8，4）极化码的稠密Tanner图（a）和稀疏Tanner图（b）
Figure 4. (8，4) Dense Tanner graph (a) and sparse Tanner graph (b) of polarization codes
引理1 （极化码奇偶校验矩阵）：对于基于g2极化核的1−1可逆映射
$ {G_{^N}} $ ，让i$ \subseteq $ {1, 2, ···, N}表示信息位索引。假设所有i∈Ic的ui=0，H由Ic中具有索引的$ {G_{^N}} $ 列组成。如图5所示，在稀疏Tanner图的基础上，将其通过展开来构造稀疏网格结构的前馈神经网络。若在（N，K）极化码的稀疏Tanner图上总共有N个输入节点、E个边和T次迭代，则关联的DNN神经网络模型则有2T个隐藏层，每个隐藏层中的节点数等于E，每个隐藏节点表示在相应边上传播的软消息，对于具有输入节点的输入层，接收信道输出的初始对数似然比LLR被馈入最后N个输出节点，最终的输出由sigmoid函数激活。传统的BP可用于构造Tanner图上的极化码，但由于采用双曲三角函数(tanh)和乘法运算，BP译码的计算复杂度较高，与BP译码相比，MS译码构造的DNN能较好地减少其计算复杂度。因此，文中将MS译码方法作出改进，并用改进的MS译码来定义DNN中的两种基本神经元，最后构成神经网络译码器。
图 5 (8，4)极化码的稀疏神经网络译码结构
Figure 5. (8，4) sparse neural network decoding structure of polarization codes
-
BP译码方法通过将乘法运算改为加法运算，从而降低计算复杂度。但在变量节点信息更新计算中，tanh函数的计算相当复杂。MS方法通过在检查节点更新步骤中用简单的最小化操作替换tanh函数，大大降低BP算法的计算复杂度。参考文献[9]证明了这种近似使得校验节点的输出LLR的大小变大，同时保持其符号不变。因此，为了减少校验节点的输出LLR的绝对值来恢复MS方法的性能，参考文献[10]提出NMS方法，通过在校验节点的输出LLR乘一个小于1的归一化因子，该因子被确定为MS方法的LLR大小的期望值与BP算法的LLR大小的期望值之比，因此MS方法中LLR的平均值被强制为BP算法中LLR的平均值。参考文献[11]中提出OMS方法，其通过在校验节点的输出LLR减去一个数值来降低幅度。若两种方法的LLR的概率密度函数（pdf）与BP算法近似，则NMS方法与OMS方法的性能将与BP算法相同。NMS方法通过乘归一化因子可被视为其pdf的缩放，而OMS方法通过减去偏移项可被视为pdf的偏移。若同时执行缩放和移位操作，MS方法中的pdf可能会更好地匹配BP算法中的pdf。因此，文中将NMS和OMS方法结合起来，以同时利用缩放和移位。NOMS译码方法详细描述如下（符号含义如表1所示）。
表 1 NOMS译码方法符号含义
Table 1. Symbol meaning of NOMS decoding method
Symbol Meaning $ {r_{ji}} $ Check the information passed from node j to variable node i $ {q_{ij}} $ Information passed from variable node i to verification node j $C{{(i)} }$ Variable node i is the collection of adjacent verification nodes $V{{(j)/i} }$ The combination of variable nodes adjacent to the check matrix j, in which the variable node i is removed $V{{(i)} }$ Set of check nodes adjacent to variable node i ${i'}$ ${j'}$ Variable node ${i'}$and check node ${j'}$ represent the next value transformed after iteration $ {u_i}(0) $ The reception is a posteriori probability of Yi corresponding to codeword bit xi=0 $ {u_i}(1) $ The reception is a posteriori probability of Yi corresponding to codeword bit xi=1 $ L(x) $ Log likelihood ratio refers to the logarithm of the ratio of the probability of judging that the node is 0 to the probability of judging that the node is 1 $ l $ Represents the L-th hidden layer (1) 初始化。对所有变量节点计算来自信道的初始消息
$ L(u{}_i) $ ，设定变量节点传递给校验节点的初始消息$ L({q_{ij}}) $ ：$$ L({q_{ij}}) = L({u_i}){\text{ = }}{\rm ln}\left( {\frac{{{u_i}(0)}}{{{u_i}(1)}}} \right) $$ (4) (2) 水平更新（校验节点更新）步骤。第1次迭代时，对所有校验节点，更新其传递给变量节点的信息
$ L({r_{ji}}) $ ，其中0<α≤1和β≥0分别为归一化因子和偏移因子：$$ L({r_{ji}}) = \alpha \cdot \prod\limits_{{i'} \in V(j)\backslash i} {{\rm sgn} (L({q_{{i'}j}}))} \cdot \mathop {\min \left| {L({q_{{i'}j}}){{ - }}\beta } \right|}\limits_{{i'} \in V(j)\backslash i}$$ (5) (3) 竖直更新（变量节点更新）步骤。第1次迭代时，对所有变量节点，更新其传递给校验节点的信息
$ L({q_{ij}}) $ ：$$ L({q_{ij}}) = L({u_i}) + \sum\limits_{{j'} \in C(i)\backslash j} {L({r_{{j'}i}})} $$ (6) (4) 硬判决。对所有的变量节点计算判决消息
$ L({Q_i}) $ ，并得到第i位比特的判断值${{{O}}_i}$ ：$$ L({Q_i}) = L({u_i}) + \sum\limits_{j \in C(i)} {L({r_{ji}})} $$ (7) $$ {{{O}}_i} = \left\{ {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {0,}&{L({{{Q}}_i}) \leqslant 0} \end{array}} \\ {\begin{array}{*{20}{c}} {1,}&{L({{{Q}}_i}) \geqslant 0} \end{array}} \end{array}} \right. $$ (8) (5) 迭代运算的终止判定。若校验方程满足或该译码方法达到设定的最大迭代次数，停止迭代，输出译码结果；否则跳转至第（2）步继续迭代。
-
归一化因子或偏移因子参数通常是经验或蛮力搜索得到的，其随着优化参数的增加呈指数级增长，用传统的蛮力搜索方法不能找到归一化因子或偏移因子参数的最佳组合，并导致译码失败。由于极化码Tanner图与深度神经网络的相似性，将极化码Tanner图的展开为神经网络结构能够解决这个问题。迭代译码算法被展开成一个前向传播网络。H决定了CNs和VNs连接的边。在每次迭代中，CNs层和VNs层之间的消息被乘以不同的校正因子α和β，相当于在Tanner图的边上添加权重参数。计算CNs-to-VNs消息和VNs-to-CNs消息的过程分别在神经网络中的CNS层和VNS层由三种不同类型的神经元函数实现。所提出的DNN-NOMS译码网络的接收端详细信号流程如图6所示。
图 6 DNN-NOMS神经网络译码器结构图
Figure 6. Structure diagram of DNN-NOMS neural network decoder
（1）输入层：接收机将输入信息
$ L(u{}_i) $ 通过输出层计算初始化消息$ L({q_{ij}}) $ 。（2）隐藏层：
1) 为了计算所有校验节点，更新其传递给变量节点的信息
$ {L^{\left( 1 \right)}}({r_{ji}}) $ ，通过H的行权重信息$ {W_{v2 c}} $ 提取连接到CNi层的数据集$ L({q_{i'j}}) $ ，最后通过CN层的神经元I计算$ {L^{\left( 1 \right)}}({r_{ji}}) $ ：$$ {L^{\left( l \right)}}({r_{ji}}) = \alpha \cdot \prod\limits_{{i'} \in V(j)\backslash i} {{\rm sgn} ({L^{\left( {l - 1} \right)}}({q_{{i'}j}}))} \cdot \mathop {\min \left| {{L^{(l - 1)}}({q_{{i'}j}}){{ - }}\beta } \right|}\limits_{{i'} \in V(j)\backslash i} $$ (9) 2) 为了计算所有变量节点，更新其传递给校验节点的信息
$ {L^{{\text{(1)}}}}({q_{ij}}) $ ，通过H的列权重信息$ {W_{c2 v}} $ 提取连接到VNi层的数据集$ {L^{\left( 1 \right)}}({r_{j'i}}) $ ，最后通过VN层的神经元II计算$ {L^{{\text{(1)}}}}({q_{ij}}) $ ：$$ {L^{(l)}}({q_{ij}}) = L({u_i}) + \sum\limits_{{j'} \in C(i)\backslash j} {{L^{(l)}}({r_{{j'}i}})} $$ (10) 3) 通过在隐藏层中添加更多的CN层和VN层来轻松地增加迭代次数。基于T次迭代的BP算法，展开的NND有2T+2层，其中前2T层的输入输出映射函数分别由a和b描述，其余两层分别为一个输入层和一个输出层。
（3）输出层：判决函数采用Sigmoid函数，可将LLR消息转换为对应比特为1的概率值，因此，通过神经元III（输出神经元）计算输出层中的最终输出，实现译码判决：
$$ {o_i} = \sigma \left( {(L({u_i}) + \sum\limits_{{j'} \in C(i)} {{L^{(l\max )}}({r_{ji}})} )} \right) $$ (11) （4）最后，使用交叉熵损失函数来评估神经网络预测信息比特
$ {o_i} $ 与传输信息比特$ {u_i} $ 的误差大小，定义为：$$ L(u,o) = - \frac{1}{N}\sum\limits_{i = 1}^N {{u_i}\log ({o_i})} + (1 - {u_i})\log (1 - {o_i}) $$ (12) -
为了验证所提出无线光通信下DNN-NOMS译码方法的可行性，在TensorFlow框架搭建译DNN神经网络模型，并使用GeForce GTX Titan-X GPU环境加速训练，模拟不同湍流强度下的大气信道，开展不同译码方案、码长和码率的系统仿真。模拟参数如表2所示。
表 2 模拟参数
Table 2. Simulation parameters
Parameter Value Length of polar code 1024/4096 Code rate 0.25/0.5/0.75 Turbulence intensity 0.09/1.193/49.725 Modulation PPM 为了探究系统误码率性能与神经网络模型层数的关系，将对不同层数的神经网络模型的误码率性能进行分析对比。神经网络模型的层数，其实质是指BP译码方法迭代的次数。在一定的迭代次数以内，随着BP译码方法迭代的次数增加，其误码率性能一定提高。但随着神经网络层数的提高，其神经模型的网络层数越深，乘法和加法运算量越大，当网络层数达到一定深度时，译码器的性能会受到影响，不会有很大的改进，因此误码率性能的提高是以计算复杂度为代价的。选择码长1024、码率0.5、DNN-NOMS译码方法（归一化因子为1，偏移因子为0）的系统下进行仿真，如图7所示：当网络层数为4时，其误码率性能较差，随着网络层数的提高，在网络层数为4~12之间时，其误码率性能增幅明显；当网络层数递增到12~20层之间时，其误码率性能改进缓慢。当误码率为10−4时，网络层数（12~16、16~20）的误码率增益分别仅为0.02 dB和0.08 dB 。因此，为了综合考虑性能与复杂度之间的权衡，该模型选择5次迭代、12层神经网络。
图 7 神经网络模型在不同网络层数下的译码性能比较
Figure 7. Comparison of the decoding performance of the neural network model under different network layers
极化码的BP译码满足对称性，因此可使用全零码字来代替信道传输的随机码字[16]，训练数据是多个信噪比下产生的，采用最小批量梯度下降法对网络进行训练，每个小批量包含120个数据块，每个SNR在一个小批量中所占的比例相同。采用学习率为0.001的自适应矩估计（Adam）优化方法搜索最优网络参数（图8中的1个epoch指的是将训练集中的全部样本训练一次）。
图 8 损失函数和训练参数的演变
Figure 8. Evolution of loss function and training parameters
为了能较好地补偿MS译码方法近似估计带来的性能损失，需要对DNN-NOMS译码器进行不同参数初始化的训练来获得最优的因子参数。在参考文献[9]中，MS对归一化因子、偏移因子没有进行讨论分析，可看作其归一化因子、偏移因子分别为1、0。因此，将DNN-NOMS的归一化因子、偏移因子的演变起始值分别设置为1、0。如图8所示，三条曲线分别为NMS的归一化因子、OMS的偏移因子以及损失函数随500 epoch的演变过程。随着数据集的增加，损失函数值逐渐减小，且变化趋势逐渐变缓，最后趋于稳定，说明训练过程已经收敛。（1）损失函数值：随着epoch的增加，在0~20 epoch，DNN模型的损失函数值下降9%，此时下降幅度最大，在30~100 epoch，其开始缓慢下降，最终趋于0.26，几乎稳定不变，模型趋于稳定；（2）归一化因子：在0~40 epoch，DNN-NOMS的归一化因子上升至0.37，此时其上升幅度最大，在40~90 epoch，其上升幅度略微变缓，最终上升至0.44，几乎稳定不变。（3）偏移因子：在0~50 epoch，DNN-NOMS的偏移因子下降为12%，此时其下降幅度最大，在50~100 epoch，NOMS的偏移因子缓慢上升， 最终趋于0.89，几乎稳定不变；随着训练过程的收敛，DNN-NOMS的归一化因子由初始值1缓慢收敛到0.44，偏移因子由初始值0缓慢收敛到0.89，而参考文献[20]中NMS方法的归一化因子的最佳值为0.2，OMS方法的偏移项的最佳值为1.4。
针对不同的湍流强度下湍流信道会对通信系统传输码字造成不同程度的误码率影响，分别在不同强度的湍流条件下计算最优因子参数，增强DNN神经网络模型的泛化能力，并进行泛化能力分析。由上节同理可得表3所示：（1）在湍流强度为
$ {\sigma _0}^2{\text{ = }}1.193 $ 、$ {\sigma _0}^2{\text{ = }}49.725 $ 下的DNN-NOMS方法最优归一化因子和偏移因子分别为0.39、0.48和0.85、0.92。（2）在不同湍流强度下，DNN-NOMS方法最优的归一化因子和偏移因子带来的损失函数值均小于初始化的归一化因子和偏移因子带来的损失函数值。在湍流强度条件为$ {\sigma _0}^2{\text{ = }}0.09 $ 时，最优的归一化因子和偏移因子带来的损失函数值Loss2 （0.2624）小于初始化的归一化因子和偏移因子带来的损失函数值Loss1 （0.4111）；在湍流强度条件为$ {\sigma _0}^2{\text{ = }}1.193 $ 时，最优的归一化因子和偏移因子带来的损失函数值Loss2 （0.2839）小于初始化的归一化因子和偏移因子带来的损失函数值Loss1 （0.4723）；在湍流强度条件为$ {\sigma _0}^2{\text{ = }}49.725 $ 时，最优的归一化因子和偏移因子带来的损失函数值Loss2 （0.3108）小于初始化的归一化因子和偏移因子带来的损失函数值Loss2 （0.5426）。综上所述，不同湍流条件下最优因子参数预测效果值均优于原始的因子参数，该模型泛化能力较好。若需要特定湍流条件下的最优的神经网络模型，可根据该湍流条件重新计算最优的因子参数。表 3 不同湍流强度条件下最优因子参数的计算
Table 3. Calculation of optimal factor parameters under different turbulence intensity conditions
Turbulence intensity Normalization factor Offset factor Loss1 Loss2 0.09 0.44 0.89 0.4111 0.2624 1.193 0.39 0.85 0.4723 0.2839 49.7215 0.48 0.92 0.5426 0.3108 为了进一步验证文中所提无线光通信下的DNN-NOMS译码方法的性能，模拟湍流强度为
$ {\sigma _0}^2{\text{ = }}0.09 $ 下的大气信道，采用三种不同的译码方法进行仿真分析。其中一种为极化码的基本译码方法：MS译码方法（40次迭代[21]）。为了公平对比，归一化因子为0.2的NMS译码方法、偏移项因子为1.4的OMS译码方法同样采用40次迭代次数。由图9可知：（1）在码长N=1024、码率为1/2的情况下，在低信噪比时（SNR<9)，DNN-NOMS译码方法的误码率性能略优于MS、NMS、OMS译码方法。随着信噪比的增加，DNN-NOMS译码方法的误码率性能明显提高，其译码性能增益较MS、NMS、OMS译码方法逐渐变大。在误码率为10−4时，DNN-NOMS译码方法的误码率性较OMS译码方法有0.21 dB的译码增益，较NMS译码方法有0.35 dB的译码增益，而较传统的MS译码有1.2 dB的译码增益。（2）随着码长的增加，信道的极化越充分，其译码性能越好，其译码性能增益差距愈加明显。在码长N=4096、码率为1/2的情况下，其变化趋势与码长为1024时一致。在误码率为10−4时，DNN-NOMS译码方法的误码率性能较OMS译码方法有0.55 dB的译码增益，较NMS译码方法有0.91 dB的译码增益，而较MS译码有2.25 dB的差距。上述结果表明，在不同码长的情况下，所提出的DNN-NOMS译码方法能有效地改善极化码MS，改进译码方法的性能。
图 9 不同BP译码方法的性能比较
Figure 9. Performance comparison of different BP decoding methods
为进一步模拟不同码率对通信系统性能的影响，在弱湍流强度（
$ {\sigma _0}^2{\text{ = }}0.09 $ ）下的大气信道开展码率分别为0.25、0.5、0.75的系统仿真。由图10可得：在相同码长、不同码率的条件下，DNN-NOMS译码方法的误码率性能明显优于NMS、OMS译码方法，且码率越小，其误码率性能优势越大。（1）在码长为1024、码率为0.75的条件下，在误码率为10−4时，DNN-NOMS译码方法的误码率性较OMS译码方法有0.09 dB的译码增益。（2）在码长为1024、码率为0.5的条件下，在误码率为10−4时，DNN-NOMS译码方法的误码率性较OMS译码方法有0.21 dB的译码增益。（3）在码长为1024，码率为0.25的条件下，在误码率为10−4时，DNN-NOMS译码方法的误码率性较OMS译码方法有0.58 dB的译码增益。在码长相同的情况下降低码率，误码率性能有明显改善。原因是码率越小，编码的冗余位占比增加，牺牲更多的系统有效性来提升系统的误码率性能。
图 10 不同码率下译码方法的性能比较
Figure 10. Performance comparison of decoding methods under different code rates
为证明在不同湍流强度下该译码方法的可行性，分别在弱湍流、中湍流、强湍流信道下的大气湍流模型中进行仿真分析。从图11可知：(1）在弱湍流强度
$ {\sigma _0}^2{\text{ = }}0.09 $ 的情况下，在低信噪比（SNR<5）时，两种译码方案的误码率性能几乎相同，随着信噪比的增加，系统的误码率性能明显提高，在误码率为10−4时，DNN-NOMS译码方法的译码性能相比OMS译码方法有0.27 dB的增益。(2）在中湍流强度$ {\sigma _0}^2{\text{ = }}1.193 $ 的情况下，随着湍流强度的增加，两种译码方法的性能差距逐步显现，在误码率为10−4时，DNN-NOMS译码方法的译码性能相比OMS译码方法有0.8 dB的增益。(3）在强湍流强度$ {\sigma _0}^2{\text{ = }}49.725 $ 的情况下，随着信道环境的进一步恶化，译码方法的性能急剧下降，DNN-NOMS译码方法的译码性能优势愈加明显。在误码率为10−4时，DNN-NOMS译码方法的译码性能相比OMS译码方法有3.56 dB的增益。综上所述，在不同大气湍流强度下，DNN-NOMS译码方法较OMS译码方法都能明显地改善无线光通信的误码率性能，且在中强湍流信道下，其性能优势更加明显。同时，随着湍流强度的增强，其误码率性能逐渐下降，在湍流强度太大时，可以采用降低码率或增加码长来提高系统的误码率性能。
图 11 不同湍流强度下译码方法的性能比较
Figure 11. Performance comparison of decoding methods under different turbulence intensities
为分析与比较不同BP译码改进方法的译码复杂度，分别列出不同译码方法中不同类型的计算次数和存储空间进行分析比较。极化码传统BP译码方法在从左到右和从右到左的传播过程中连续激活共
$ 2{\log _2}N $ 级，导致每次迭代的延迟时间为$ 2{\log _2}N $ 个时间步长，每个阶段需要N个乘法、N个加法和N个比较，因此，BP译码一次迭代的总复杂度为在O（$ 2 N{\log _2}N $ ）的基础上加上$ \tanh (x) $ 函数带来的额外计算。MS译码方法在BP译码的基础上主要通过估计校验节点的最小化操作来避免$ \tanh (x) $ 函数复杂的计算，但将$ \tanh (x) $ 函数取近似值的操作带来了性能损失。因此，OMS译码方法在MS译码的基础上主要通过添加一个偏移因子补偿误码率性能，则OMS译码一次迭代的总复杂度为在O（$ 2 N{\log _2}N $ ）的基础上加上偏移因子带来的减法运算。DNN-NOMS方法通过DNN神经网络结构将迭代次数大幅度降低，从而降低译码的延时、复杂度，因此DNN-NOMS译码一次迭代的总复杂度为在O（$ 2 N{\log _2}N $ ）的基础上加上归一化因子和偏移因子带来的乘法运算和减法运算。如表4所示，从几种不同类型的计算次数进行比较分析，在加法、乘法、比较运算类型上，DNN-NOMS译码方法的计算次数较MS译码、OMS译码均由819200次降低到102405次，计算复杂度降低87.5%。在存储空间上，DNN-NOMS译码方法用$ 4 TN{\log _2}N $ 的储存次数去存放归一化因子和偏移因子。因此，DNN-NOMS译码在以牺牲较小的存储空间为前提的情况下，将计算复杂度降低87.5%。表 4 不同BP改进译码方法的译码复杂度比较
Table 4. Comparison of decoding complexity of different BP modified decoding methods
Decoding methods
operation typeMS
（40）OMS
（40）DNN-NOMS
（5）
Addition/Subtraction$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $819200 $ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $819240 $ TN\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $102405
Multiplication/Division$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $819200 $ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N} \right) $819200 $ TN\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $102405
Compare$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $819200 $ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N} \right) $819200 $ TN\left( {2 N{{\log }_2}N} \right) $102400 Storage space - - $ 4 N{\log _2}N $ -
研究了大气湍流信道下基于深度学习的置信度传播译码方法，在将BP改进译码方法的归一化因子和偏移因子作为Tanner图的权重的基础上，通过选取最优的参数因子来构造深度学习译码模型，提出一种深度学习辅助置信度传播译码方法的极化码稀疏神经网络译码器。在不同的大气湍流强度下进行仿真分析，在湍流强度为
$ {\sigma _0}^2{\text{ = }}1.193 $ 、误码率为10−4时，较OMS译码方法有0.8 dB的编码增益 ；当减小湍流强度（$ {\sigma _0}^2{\text{ = }}0.09 $ ）和增大湍流强度（$ {\sigma _0}^2{\text{ = }}49.725 $ ）时，编码增益分别为0.27 dB和3.56 dB；当增加码长（N=4096，k=0.5）和降低码率（N=1024，k=0.25）时，编码增益分别为0.55 dB和0.58 dB。同时，在不同的湍流强度、码长、码率的情况下，DNN-NOMS译码方法均能改善无线光通信系统的误码率性能，且通过神经网络离线学习将迭代次数的运算次数降低87.5%。
Research on DNN-NOMS decoding method of polarization code in wireless optical communication
-
摘要: 针对无线光通信中大气湍流引起极化码置信度传播译码性能不佳的问题，提出了一种无线光通信下极化码DNN-NOMS （Deep Neural Networks-Normalized and Offset Min-Sum）译码方法。首先，把传统的极化码置信传播译码算法因子图转化为类似于低密度奇偶校验（Low-density Parity Check, LDPC）码的Tanner图，在Tanner图展开并转化为深度神经网络（DNN）图形表示的基础上，将MS（Min-Sum）译码方法同时添加归一化因子和偏移因子来给Tanner图的边赋予权重，简化极化码对数似然比的计算方法，通过限制训练参数的数量，选取在损失函数最小的条件下的因子参数，训练得到最优归一化因子和偏移因子的译码模型。仿真结果表明，在不同的大气湍流强度下，该译码方法以牺牲较小的存储空间为前提的情况下能选取更优的归一化因子和偏移因子参数，从而获得更好的误码率性能，且大幅度降低译码复杂度；在误码率为10−4时，DNN-NOMS译码方法能产生0.21~3.56 dB的性能增益，且将迭代次数的运算次数降低87.5%。Abstract: Aiming at the problem of poor confidence propagation decoding performance of polarization codes caused by atmospheric turbulence in wireless optical communication, a Deep Neural Networks-Normalized and Offset Min-Sum (DNN-NOMS) decoding method under wireless optical communication was proposed. First, the factor graph of the traditional belief propagation decoding algorithm for polarized codes had been transformed into Tanner graphs which similar to Low-density Parity Check (LDPC) codes. The Tanner graphs were expanded and transformed into Deep Neural Network (DNN) graphical representations. The Min-Sum (MS) decoding method added the normalization factor and the offset factor, at the same time to the edge weights of the Tanner graph were given, which simplified the calculation method of the log likelihood ratio of the polarization code. By limiting the number of training parameters, the factor parameters were selected under the condition of the minimum loss function, and trained to obtain the optimal normalization factor and offset factor of the decoding model . The simulation results show that under different atmospheric turbulence intensities, the decoding method can select better normalization factor and offset factor parameters under the premise of sacrificing smaller storage space, so as to obtain better error codes. The DNN-NOMS decoding method can produce a performance gain of 0.21-3.56 dB and reduce the number of iterations by 87.5% when the error rate is 10−4.
-
图 1 DNN神经网络模型辅助极化码译码的系统模型
Figure 1. DNN neural network model assisted system model for polarization code decoding
图 2 （8，4）极化码BP译码方法因子图
Figure 2. (8，4) factor diagram of polarization code BP decoding method
图 3 （8，4）极化码的处理单元PE信息传递过程
Figure 3. (8，4) PE information transmission process of the processing unit of the polarization code
图 4 （8，4）极化码的稠密Tanner图（a）和稀疏Tanner图（b）
Figure 4. (8，4) Dense Tanner graph (a) and sparse Tanner graph (b) of polarization codes
图 5 (8，4)极化码的稀疏神经网络译码结构
Figure 5. (8，4) sparse neural network decoding structure of polarization codes
图 7 神经网络模型在不同网络层数下的译码性能比较
Figure 7. Comparison of the decoding performance of the neural network model under different network layers
图 10 不同码率下译码方法的性能比较
Figure 10. Performance comparison of decoding methods under different code rates
图 11 不同湍流强度下译码方法的性能比较
Figure 11. Performance comparison of decoding methods under different turbulence intensities
表 1 NOMS译码方法符号含义
Table 1. Symbol meaning of NOMS decoding method
Symbol Meaning $ {r_{ji}} $ Check the information passed from node j to variable node i $ {q_{ij}} $ Information passed from variable node i to verification node j $C{{(i)} }$ Variable node i is the collection of adjacent verification nodes $V{{(j)/i} }$ The combination of variable nodes adjacent to the check matrix j, in which the variable node i is removed $V{{(i)} }$ Set of check nodes adjacent to variable node i ${i'}$ ${j'}$ Variable node ${i'}$ and check node${j'}$ represent the next value transformed after iteration$ {u_i}(0) $ The reception is a posteriori probability of Yi corresponding to codeword bit xi=0 $ {u_i}(1) $ The reception is a posteriori probability of Yi corresponding to codeword bit xi=1 $ L(x) $ Log likelihood ratio refers to the logarithm of the ratio of the probability of judging that the node is 0 to the probability of judging that the node is 1 $ l $ Represents the L-th hidden layer 
下载: 导出CSV
表 2 模拟参数
Table 2. Simulation parameters
Parameter Value Length of polar code 1024/4096 Code rate 0.25/0.5/0.75 Turbulence intensity 0.09/1.193/49.725 Modulation PPM
下载: 导出CSV
表 3 不同湍流强度条件下最优因子参数的计算
Table 3. Calculation of optimal factor parameters under different turbulence intensity conditions
Turbulence intensity Normalization factor Offset factor Loss1 Loss2 0.09 0.44 0.89 0.4111 0.2624 1.193 0.39 0.85 0.4723 0.2839 49.7215 0.48 0.92 0.5426 0.3108
下载: 导出CSV
表 4 不同BP改进译码方法的译码复杂度比较
Table 4. Comparison of decoding complexity of different BP modified decoding methods
Decoding methods
operation typeMS
（40）OMS
（40）DNN-NOMS
（5）
Addition/Subtraction$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $ 819200$ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $ 819240$ TN\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $ 102405
Multiplication/Division$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $ 819200$ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N} \right) $ 819200$ TN\left( {2 N{{\log }_2}N{\text{ + }}1} \right) $ 102405
Compare$ {T_{{\text{MS}}}}\left( {2 N{{\log }_2}N} \right) $ 819200$ {T_{{\text{OMS}}}}\left( {2 N{{\log }_2}N} \right) $ 819200$ TN\left( {2 N{{\log }_2}N} \right) $ 102400Storage space - - $ 4 N{\log _2}N $
下载: 导出CSV
-
[1] Zhang Jianqiang, Zhai Yanwang, Fu Shiyao, et al. Transmission analysis of radially polarized vector beams under atmospheric turbulence [J]. Acta Optica Sinica, 2020, 40(11): 1101001. (in Chinese) doi: 10.3788/AOS202040.1101001 [2] Li Xiaoyan, Zhang Peng, Tong Shoufeng. Bit error rate performance analysis of inverse modulation free space optical communication system based on adaptive decision threshold under the influence of atmospheric turbulence [J]. Chinese Journal of Lasers, 2018, 45(6): 0606001. (in Chinese) doi: 10.3788/CJL201845.0606001 [3] Wang Huiqin, Li Yating, Cao Minghua, et al. Layered optical spatial modulation in turbulent channel [J]. Acta Optica Sinica, 2019, 39(7): 0706001. (in Chinese) doi: 10.3788/AOS201939.0706001 [4] Liu Minwen, Li Yingchun. Transmission of OFDM-OAM optical signal in atmospheric turbulence [J]. Acta Optica Sinica, 2019, 39(7): 0706002. (in Chinese) doi: 10.3788/AOS201939.0706002 [5] Cao Minghua, Wu Xin, Wang Huiqin, et al. Performance of super-Nyquist communication system under Gamma-Gamma atmospheric turbulence [J]. Chinese Journal of Lasers, 2020, 47(9): 0906003. (in Chinese) doi: 10.3788/CJL202047.0906003 [6] Arikan E. Channel polarization: A method for constructing capacity-achieving codes for symmetric binary-input memoryless channels [J]. IEEE Transactions on Information Theory, 2009, 55(7): 3051-3073. doi: 10.1109/TIT.2009.2021379 [7] Tal A, Vardy A. List decoding of polar codes [J]. IEEE Transactions on Information Theory, 2015, 61(5): 2213-2226. doi: 10.1109/TIT.2015.2410251 [8] Yuan B, Parhi K K. Early stopping criteria for energy-efficient low-latency belief-propagation polar code decoders [J]. IEEE Transactions on Signal Processing, 2014, 62(24): 6496-6506. doi: 10.1109/TSP.2014.2366712 [9] Peng S, Zhao Z, Bao J. Differential decoding of low-density parity-check codes based on min sum algorithm [C]//Third International Symposium on Information Science & Engineering. IEEE Computer Society, 2010: 562-566. [10] Gao N, Xu Y, He D, et al. Min-sum algorithm using multi-edge-type normalized scheme for ATSC 3.0 LDPC decoders [J]. IEEE Transactions on Broadcasting, 2020, 66(3): 729-736. doi: 10.1109/TBC.2020.2977557 [11] Myung S, Park S I, Kim K J, et al. Offset and normalized min-sum algorithms for ATSC 3.0 LDPC decoder [J]. IEEE Transactions on Broadcasting, 2017, 63(4): 734-739. doi: 10.1109/TBC.2017.2686011 [12] Chen J, Dholakia A, Eleftheriou E, et al. Reduced complexity decoding of LDPC codes [J]. IEEE Transactions on Communications, 2005, 53(8): 1288-1299. doi: 10.1109/TCOMM.2005.852852 [13] Nachmani E, Marciano E, Lugosch L, et al. Deep learning methods for improved decoding of linear codes [J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 119-131. doi: 10.1109/JSTSP.2017.2788405 [14] Cammerer S, Gruber T, Hoydis J, et al. Scaling deep learning-based decoding of polar codes via partitioning [C]//GLOBECOM 2017-2017 IEEE Global Communications Conference. IEEE, 2017: 1-6. [15] Jian Y, Liu R. Decoding of polar code by machine learning [C]//2019 IEEE International Symposium on Broadband Multimedia Systems and Broadcasting (BMSB). IEEE, 2019: 1-4. [16] Gao J, Niu K, Dong C. Learning to decode polar codes with one-bit quantizer [J]. IEEE Access, 2020, 8: 27210-27217. doi: 10.1109/ACCESS.2020.2971526 [17] Cao Yang, Zhang Xun, Peng Xiaofeng, et al. Research on cascaded code scheme based on multiple input and multiple output in space optical communication [J]. Acta Optica Sinica, 2018, 38(1): 0106003. (in Chinese) doi: 10.3788/AOS201838.0106003 [18] Cao Yang, Li Yue, Li Xiaohong. Research on the construction method of polarization codes in wireless optical communication [J]. Acta Optica Sinica, 2020, 40(21): 2106003. (in Chinese) doi: 10.3788/AOS202040.2106003 [19] Cammerer S, Ebada M, Elkelesh A, et al. Sparse graphs for belief propagation decoding of polar codes [C]//2018 IEEE International Symposium on Information Theory (ISIT). IEEE, 2018: 1465-1469. [20] Chen J, Fossorier M P C. Density evolution for two improved BP-Based decoding algorithms of LDPC codes [J]. IEEE Commun Letters, 2002, 6(5): 208-210. doi: 10.1109/4234.1001666 [21] Zhang Xiaojun, Li Na, Dong Yanfei, et al. Low-complexity early stopping criterion for the confidence propagation algorithm of polar code [J]. Journal of Electronics & Information Technology, 2021, 43(1): 77-84. (in Chinese) doi: 10.11999/JEIT200355 -
点击查看大图
计量
- 文章访问数: 102
- HTML全文浏览量: 10
- PDF下载量: 24
- 被引次数: 0
