基于深度學(xué)習(xí)的多模OFDM 索引調(diào)制檢測器

李 揚 許 魁 張冬梅 徐健卉 謝 威 夏曉晨 李 娜

（陸軍工程大學(xué)通信工程學(xué)院，江蘇南京 210007）

1 引言

5G移動通信系統(tǒng)已經(jīng)開始大規(guī)模商業(yè)化部署，伴隨著移動服務(wù)的日漸增多和智能終端的大量普及，數(shù)據(jù)流量呈現(xiàn)出爆炸式增長的現(xiàn)象，這對能量效率（Energy Efficiency，EE）與頻譜效率（Spectral Efficiency，SE）提出了更高的要求，使得開發(fā)應(yīng)用新的綠色通信技術(shù)已迫在眉睫。索引調(diào)制（Index Modulation，IM）技術(shù)由于其高能量效率、低硬件復(fù)雜度、更好的誤碼率性能等優(yōu)勢在近年來得到廣泛的應(yīng)用和研究。與傳統(tǒng)通信調(diào)制方案不同，除了常規(guī)傳輸星座符號等載波位外，IM 技術(shù)還可以在不消耗能量的情況下通過激活系統(tǒng)的部分實體資源隱含地傳輸額外的索引位信息，例如天線、子載波、時隙或信道狀態(tài)［1-2］。

文獻(xiàn)［3］首次提出了正交頻分復(fù)用索引調(diào)制（Orthogonal Frequency-Division Multiplexing with In?dex Modulation，OFDM-IM），在OFDM-IM 中只有部分子載波被激活，除激活子載波攜帶信息外，索引信息由激活子載波方式來攜帶，雖然OFDM-IM比傳統(tǒng)的OFDM 具有更高的可靠性和EE，但是其SE 不高。針對這類問題，文獻(xiàn)［4-5］則分別提出了雙模載波索引調(diào)制（Dual-Mode OFDM-IM，DM-OFDM-IM）和多模正交頻分復(fù)用索引調(diào)制（Multi-Mode Orthogo?nal Frequency Division Multiplexing with Index Modu?lation，MM-OFDM-IM），其中所有子載波都是處于激活狀態(tài)，不同的是，DM-OFDM-IM 將子載波分為兩部分分別傳輸可明顯區(qū)分的主副星座符號，而MM-OFDM-IM 則是將每個子載波分別傳輸不同星座模式的符號，通過其全排列組合來傳輸索引位信息，因此相對比于OFDM-IM 系統(tǒng)，其SE 大大提高，并且可以拓展到I/Q 調(diào)制進(jìn)一步提高SE，但是針對MM-OFDM-IM 信號檢測卻是一項巨大的挑戰(zhàn)。文獻(xiàn)［5］提出ML 檢測器以及基于對數(shù)似然比（Loglikelihood Ratio，LLR）的Subcarrier-Wise 檢測器（以下簡稱SW-LLR），文獻(xiàn)［6］則提出了一種低復(fù)雜度基于球形譯碼算法的近似ML 檢測器，但都難以同時兼顧計算復(fù)雜度和檢測誤碼率（Bit Error Rate，BER）性能。

深度學(xué)習(xí)（Deep Learning，DL）技術(shù)作為近年來AI 領(lǐng)域中最炙手可熱的成員，已經(jīng)在目標(biāo)檢測、自然語言處理及計算機(jī)視覺［7］等領(lǐng)域都取得了巨大成功。文獻(xiàn)［8-9］認(rèn)為DL在無線通信網(wǎng)絡(luò)物理層中同樣擁有非常大的潛力。在文獻(xiàn)［10-12］中，通過使用不同類型神經(jīng)網(wǎng)絡(luò)，成功地在OFDM 系統(tǒng)中估計信道狀態(tài)和信號檢測，而在OFDM-IM 信號檢測方面，文獻(xiàn)［13-14］分別使用全連接網(wǎng)絡(luò)（Fully Con?nected Neural Network，F(xiàn)CNN）和CNN 檢測OFDM-IM信號，文獻(xiàn)［15］則提出采用CNN 和FCNN 級聯(lián)方式來檢測DM-OFDM-IM 信號的索引位和載波位。

本文中提出的針對MM-OFDM-IM 信號的雙卷積神經(jīng)網(wǎng)絡(luò)（Dual Convolutional Neural Network）檢測器，以下簡稱DCNN，主要貢獻(xiàn)總結(jié)如下：

（1）相對文獻(xiàn)［13-14］所提的淺層神經(jīng)網(wǎng)絡(luò)檢測器不同，DCNN 則包括多個隱藏層，增強(qiáng)了學(xué)習(xí)復(fù)雜特征的能力，并在訓(xùn)練過程中使用了隨機(jī)失活（Dropout）技術(shù)，提高了模型的泛化能力［16］。

（2）文中采取了剪枝壓縮技術(shù)［17］，對模型參數(shù)稀疏化處理，大大降低了計算復(fù)雜度、縮小了模型規(guī)模、檢測速度也有所提升。

（3）仿真結(jié)果表明，在瑞利衰落信道條件下，DCNN 在中低信噪比（Signal-to-Noise Ratio，SNR）范圍內(nèi)能達(dá)到近似ML［5］、優(yōu)于SW-LLR［5］和DNN［13］的檢測性能。并且DCNN 檢測速度遠(yuǎn)優(yōu)于前兩種傳統(tǒng)算法。

本文的結(jié)構(gòu)如下：第二部分講述了MM-OFDMIM 的系統(tǒng)構(gòu)成及子星座劃分的策略。第三部分主要講解所提出的DCNN 檢測器的結(jié)構(gòu)、模型離線訓(xùn)練和在線檢測的步驟策略以及剪枝技術(shù)的介紹。第四部分主要是數(shù)值仿真及結(jié)果分析。第五部分則是結(jié)論及下步改進(jìn)方向。

2 系統(tǒng)模型

2.1 MM-OFDM-IM系統(tǒng)模型

MM-OFDM-IM 系統(tǒng)建立在經(jīng)典OFDM 系統(tǒng)的框架之上，如圖1 所示。與其他OFDM-IM 方式相同，將所有N個子載波分成G組，每組子載波個數(shù)n=N/G。在每個時隙上有B個待傳輸比特，與子載波相同分為G組，每組待傳輸比特數(shù)為m=B/G。由于各組之間的操作處理相同，為簡要表達(dá)，我們以其中第β組比特mβ∈Rm×1β∈{1，…，G}作為說明對象。mβ再分為索引位和載波位，其中p1=，p2=nlog2(M)。索引位決定子載波的子星座模式排列順序{χ1，…，χn}，其中χγ，γ∈{1，…，n}代表M進(jìn)制的子星座符號集，其中每個子星座符號均作過能量歸一化處理，排列索引的映射方式可參考查表法和組合數(shù)法［5］。載波位決定子星座模式排列下的符號集按上述方法，則整個系統(tǒng)N個子載波產(chǎn)生N×1 大小的OFDM 符號塊，再進(jìn)行交織操作，所得信號如下：

圖1 MM-OFDM-IM系統(tǒng)結(jié)構(gòu)圖Fig.1 MM-OFDM-IM system structure diagram

與經(jīng)典OFDM 系統(tǒng)相同，將符號塊進(jìn)行快速傅里葉逆變換（Inverse Fast Fourier Transform，IFFT）處理，其中為傅里葉變換矩陣。再在符號前端插入長度為L的循環(huán)前綴（Cyclic Pre?fix，CP）[xT(N-L+1)，…，xT(N)]。最 后 經(jīng) 過 串并轉(zhuǎn)換和模數(shù)轉(zhuǎn)換。信號傳播經(jīng)過頻率選擇性的瑞利多徑信道，其信道時域沖激響應(yīng)為hT=[hT(1)，…，hT(v)]T，其中v代表的是信號傳播的路徑數(shù)目，hT(σ)，σ=1，…，v滿足循環(huán)對稱復(fù)高斯分布其中=1。在本系統(tǒng)中，假設(shè)CP 長度L大于信道路徑數(shù)目v，接收信號在頻域的表達(dá)式［3］為：

其中，hF(α)為信道頻域衰落系數(shù)，wF(α)是頻域噪聲，分別服從循環(huán)對稱復(fù)高斯分布CN(0，1)和CN(0，N0)。其中N0是頻域噪聲方差，這里定義子載波上平均信噪比為ρ=1/N0。接收信號在接收端經(jīng)過去CP 處理、串并變換、快速傅里葉變換（Fast Fourier Transform，F(xiàn)FT）及解交織操作后，再由DCNN 檢測器檢測還原信號并合并得到最終的比特流。

2.2 星座劃分方式

選定各個子載波上所用的子星座模式是該系統(tǒng)的關(guān)鍵問題，文獻(xiàn)［5］認(rèn)為，要獲得最優(yōu)BER 性能應(yīng)該最大化最小模內(nèi)距離（Minimum Intra-Mode Distance，MIAD）和最小模間距離（Minimum Inter-Mode Distance，MIRD）。并給出了基于PSK（Phase Shift Keying）和QAM（Quadrature Amplitude Modula?tion）兩種調(diào)制方式的星座劃分策略，其中PSK 模式下按等間隔角度2π/(Mn)進(jìn)行旋轉(zhuǎn)生成子星座模式，QAM 劃分則與著名的網(wǎng)格編碼調(diào)制技術(shù)（Trel?lis Coded Modulation，TCM）的思想相同［16］，以最大化編碼信號對內(nèi)部最大歐氏距離（Maximize the Eu?clidean Distance，MED）。圖2 分別給出了16-QAM（M=4，n=4）及16-PSK（M=2，n=8）的子星座劃分圖。（文中假設(shè)所有M均為2的整數(shù)冪次大?。?/p>

圖2 子星座劃分示意圖Fig.2 Sub-constellation division diagram

3 神經(jīng)網(wǎng)絡(luò)檢測器

在本節(jié)中，對所提出的DCNN 檢測器的結(jié)構(gòu)進(jìn)行介紹，并對離線訓(xùn)練過程和在線檢測做出說明。

3.1 檢測器結(jié)構(gòu)

DCNN 的整體結(jié)構(gòu)如圖3 所示。DCNN 由兩個子卷積網(wǎng)絡(luò)構(gòu)成，并行對索引位和載波位進(jìn)行檢測，接收信號在檢測前先進(jìn)行均衡和預(yù)處理。子卷積網(wǎng)絡(luò)模塊包含卷積層、Flatten 層、全連接（Fully Connected，F(xiàn)C）層、Dropout 層等。其中卷積層（FC層）層數(shù)、卷積核（神經(jīng)元）個數(shù)等超參數(shù)均隨著索引位或載波位長度等比例調(diào)整。這些模塊和層的功能及參數(shù)將在下面的段落中解釋，由于兩個SCNN結(jié)構(gòu)相同，以索引位子網(wǎng)為例。

圖3 檢測器結(jié)構(gòu)Fig.3 Schematic diagram of detector structure

均衡模塊：均衡模塊用于對抗信道的頻率選擇性衰落，本文中假設(shè)接收端對信道狀態(tài)信息（Chan?nel Status Information，CSI）已知。當(dāng)信號經(jīng)過交織操作后，可假設(shè)每個子載波都經(jīng)過獨立衰落，在這里我們采用了最簡單常用的迫零均衡（ZF）。均衡后的符號表示為：

其中wlf代表第lf層權(quán)重矩陣。

Dropout 層：FC 層使用了隨機(jī)失活技術(shù)，工作機(jī)制是在每批次樣本訓(xùn)練之前先按一定的概率使部分神經(jīng)元停止工作，得到一個規(guī)模變小的子網(wǎng)絡(luò)，訓(xùn)練后使用反向傳播算法將神經(jīng)元的參數(shù)更新，然后再恢復(fù)成原始網(wǎng)絡(luò)大小后，再重復(fù)上面的步驟。這個過程會減弱整體神經(jīng)元之間的聯(lián)合適應(yīng)性，降低過擬合的風(fēng)險，增強(qiáng)模型泛化能力。

硬判決層：最后輸出的比特通過硬判決層來獲得。

Concatenate 層：將兩個SCNN 所檢測出的索引位比特和載波位比特進(jìn)行合并。

3.2 離線訓(xùn)練與線上部署

上節(jié)中共統(tǒng)計出模型所需訓(xùn)練的參數(shù)為：

在使用DCNN 檢測器之前需要進(jìn)行離線訓(xùn)練，訓(xùn)練樣本數(shù)據(jù)由本文中系統(tǒng)隨機(jī)生成且服從獨立同分布（Independent and identically distributed），本文中兩個子網(wǎng)的輸出層均使用的是Sigmoid 函數(shù)，因此將兩個SCNN 的損失函數(shù)（Loss Function）均設(shè)為均方誤差函數(shù)（Mean Squared Error，MSE）：

優(yōu)化算法使用了目前較流行的自適應(yīng)矩估計（Adaptive moment estimation，Adam）優(yōu)化器［18］，訓(xùn)練過程中權(quán)重采用了隨機(jī)初始化，為保證每次訓(xùn)練對比的公平性，隨機(jī)種子數(shù)大小固定。為了能有效地訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，需要選擇合適信噪比的訓(xùn)練集，如果將所有信噪比訓(xùn)練集對模型進(jìn)行訓(xùn)練，將會使整個神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)過于龐大復(fù)雜，并且大大延長訓(xùn)練時間，因此本文只挑選其中合適的信噪比訓(xùn)練集來獲得較為理想的模型。并通過回調(diào)函數(shù)來觀察訓(xùn)練過程中模型內(nèi)部的狀態(tài)與統(tǒng)計信息來及時調(diào)整模型的超參數(shù)。

3.3 剪枝壓縮

雖然深度學(xué)習(xí)模型的精度越來越高，但是代價就是模型參數(shù)越來越多、計算占用的內(nèi)存和能耗也越來越大，對移動類、邊緣類設(shè)備的模型部署不夠友好。為克服此類問題，可以使用專用計算任務(wù)的神經(jīng)網(wǎng)絡(luò)芯片或者通過模型壓縮等軟件類方法來簡化運算，其中模型壓縮加速技術(shù)［19］可分為剪枝［20］、量化［21］、低秩分解［22］和知識蒸餾［23］等技術(shù)。同神經(jīng)網(wǎng)絡(luò)相似，剪枝技術(shù)也同樣受生物學(xué)啟發(fā)。主要思想是將模型中對輸出結(jié)果貢獻(xiàn)較小的冗余參數(shù)去掉，在不影響計算精度的情況下，縮小模型規(guī)模、降低計算量和能耗。

簡單來說，目前剪枝分為結(jié)構(gòu)化剪枝［24］與非結(jié)構(gòu)剪枝［25］，圖4 展示了全連接網(wǎng)絡(luò)在非結(jié)構(gòu)剪枝前后的對比。與結(jié)構(gòu)化剪枝中將模型中神經(jīng)元或卷積核刪減、改變網(wǎng)絡(luò)超參數(shù)等手段不同，非結(jié)構(gòu)化剪枝通過在神經(jīng)網(wǎng)絡(luò)的卷積核和神經(jīng)元等權(quán)重參數(shù)中引入稀疏性，通過權(quán)重幅值來界定、將低于閾值的權(quán)重置零，從而減少模型中非零值參數(shù)的數(shù)量，隨后再進(jìn)行訓(xùn)練進(jìn)行精度補(bǔ)償，最后逐漸達(dá)到所要求的模型稀疏比。此方法簡單、快速、有效，缺點是壓縮后所得稀疏模型需要有專門硬件或庫支持才能充分使其加速。

圖4 非結(jié)構(gòu)剪枝示意圖Fig.4 Schematic diagram of non-structural pruning

本文使用的是非結(jié)構(gòu)化剪枝中的漸進(jìn)剪枝技術(shù)［17］，具體操作如下：首先在模型各層權(quán)重參數(shù)加上二進(jìn)制掩碼，假設(shè)共剪枝np次，每隔Δt批次樣本訓(xùn)練后再剪枝，初始稀疏比為si，最終稀疏為sf，在每次剪枝前根據(jù)權(quán)重幅值大小進(jìn)行排序，將幅值靠后的權(quán)重掩碼置0，掩碼置0 后將不更新此權(quán)重，直到每次所要求的稀疏比st：

4 仿真結(jié)果分析

在本節(jié)中，我們將通過數(shù)據(jù)仿真來驗證所提DCNN檢測器的BER與計算復(fù)雜度。并對比了ML、LLR 和DNN［13］等算法，其子星座符號產(chǎn)生的方式按文獻(xiàn)［5］所述方法生成。訓(xùn)練樣本個數(shù)為106，驗證集大小為105，測試集分別從［0，5，10，15，20，25］共6個SNR 點各產(chǎn)生105個樣本，批處理樣本大小設(shè)為128。本文中神經(jīng)網(wǎng)絡(luò)是以Tensorflow 為框架搭建的，為加速收斂訓(xùn)練過程，在訓(xùn)練過程使用了指數(shù)學(xué)習(xí)率衰減策略，初始學(xué)習(xí)率為0.0001，每隔104次衰減1 次，基數(shù)為0.9。本文共設(shè)置了4 種場景，其中場景4 假設(shè)接收的CSI 是非完美的，采用的是在基于MMSE 變化的非完美CSI 模型［26］，ε2=(1 +ρ)-1，ε2為估計CSI 誤差方差。其所應(yīng)對的模型超參數(shù)，分別如表1、表2所示。

表1 場景參數(shù)設(shè)置Tab.1 Scenario parameter setting

表2 模型超參數(shù)設(shè)置Tab.2 Model hyperparameter setting

4.1 訓(xùn)練集信噪比分析

首先對不同信噪比訓(xùn)練集的Loss 值進(jìn)行對比，圖5（a）展示的是在場景1 和場景4 中，訓(xùn)練集信噪比分別取10 dB、15 dB、20 dB，可以看到其與損失函數(shù)Loss 值成反比，在低信噪比時，索引位比載波位的Loss 值要高更容易產(chǎn)生誤碼，反之在高信噪比時載波位誤碼占主導(dǎo)地位，間接證明了索引位比載波位具有更高的分集階數(shù)［3］。在圖5（b）看出，非完美CSI 條件下比完美CSI 的Loss 值要高。圖5（c）則展示的是在場景1 和4 中不同信噪比訓(xùn)練集模型檢測的泛化能力，可以看出在訓(xùn)練集信噪比過低時無法充分學(xué)習(xí)到高信噪比測試集中的數(shù)據(jù)特征，而在非完美CSI 情況下訓(xùn)練集的信噪比要適度提高。

圖5 不同訓(xùn)練集SNR的影響Fig.5 Effect of SNR on different training sets

4.2 檢測性能分析

對上述4 個場景中的DCNN、ML、SW-LLR 與DNN 等4 種檢測算法的BER 進(jìn)行分析比較，為保證公平性，通過調(diào)整DNN 的超參數(shù)設(shè)置使其計算復(fù)雜度與DCNN 近似，訓(xùn)練集信噪比與DCNN 相同。從圖6 中可以看出，在0～25 dB 范圍內(nèi)，所提出DCNN 的BER 性能近似ML、并明顯優(yōu)于SW-LLR和DNN。

在圖6（b）中，當(dāng)索引位所占符號比例大幅度提高時，同時索引位本身在低信噪比時容易產(chǎn)生誤碼，因此ML算法在低信噪比時的檢測性能較差，而深度學(xué)習(xí)則是通過大量訓(xùn)練數(shù)據(jù)來擬合數(shù)據(jù)內(nèi)部特征，結(jié)合上節(jié)訓(xùn)練集信噪比對模型的影響，可以看出當(dāng)在訓(xùn)練集信噪比為20 dB時，模型在0～15 dB條件下檢測時泛化效果優(yōu)于ML算法，而在大于20 dB后模型的泛化能力急劇減弱，檢測性能遠(yuǎn)低于ML 算法，說明神經(jīng)網(wǎng)絡(luò)模型只能在一定的條件下暫時優(yōu)于ML算法，特別是在場景復(fù)雜的條件下，要想全面靠近ML 檢測效果需要大幅度增大模型和訓(xùn)練集規(guī)模。在圖6（d）中我們比較了在非完美CSI條件下的BER，可以看到DCNN 仍能表現(xiàn)較好。而DNN 由于參數(shù)過于冗余且缺少網(wǎng)絡(luò)正則化，導(dǎo)致模型的擬合與泛化能力相比DCNN 差距明顯，當(dāng)符號比特數(shù)增大或CSI不完全時難以充分學(xué)習(xí)到數(shù)據(jù)的復(fù)雜特征。

圖6 不同場景中檢測算法誤碼率對比Fig.6 BER comparison of detection algorithms in different scenarios

4.3 檢測復(fù)雜度分析

本文中檢測器的復(fù)雜度主要從兩方面進(jìn)行分析：一是理論上計算步數(shù)；二是通過仿真計算時間。表3 對比了ML、SW-LLR 及DCNN 等檢測算法中實數(shù)浮點數(shù)運算（Floating point operations，F(xiàn)lops）［27］。DCNN 在信號經(jīng)過均衡時Flops為6n，索引檢測子網(wǎng)卷 積 層Flops 為2n(3Cindex(1) +Cindex(1)Cindex(2)… +Cindex，經(jīng)過全連層Flops 為(nCindex+1)Uindex(1)+(1 +Uindex(1))Uindex(2)+… +(1 +Uindex最后經(jīng)過輸出層Flops 為+1)+3p1，載波檢測子網(wǎng)Flops次數(shù)計算同索引檢測子網(wǎng)。

表3 計算復(fù)雜度對比Tab.3 Computational Complexity Comparison

模型在剪枝中si為50%，Δt為100，np為70。圖7顯示的就是在場景1、3 中不同sf剪枝后模型的檢測BER，可以看到模型在sf為90%的情況下，而檢測的BER 卻近似。模型經(jīng)過剪枝后，經(jīng)統(tǒng)計模型中權(quán)重置0的參數(shù)個數(shù)占所有參數(shù)總數(shù)的90%，通過稀疏壓縮后，模型大小減小至原來的1/3左右。表4總結(jié)了各檢測算法在檢測105個樣本所需的CPU 運算時間，可以看到DCNN 檢測速度受M、n影響很小，模型經(jīng)過非結(jié)構(gòu)化剪枝壓縮后運行速度有所提升但幅度不明顯。

圖7 在場景1、3中不同比例剪枝的DCNN檢測BER對比Fig.7 Comparison of DCNN detection BER with different scales of pruning in scenes 1 and 3

表4 檢測時間對比Tab.4 Detection time comparison

5 結(jié)論

在本文中提出了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的MM-OFDM-IM 檢測器DCNN，從仿真結(jié)果來看，在一定信噪比范圍內(nèi)條件下，其檢測BER 近似ML 檢測算法、并優(yōu)于SW-LLR 檢測算法，并且檢測時間大大降低。通過后期的剪枝操作能有效降低模型參數(shù)數(shù)量級、大幅度壓縮模型大小并提高運行速度，顯示出了在未來移動終端上部署的巨大潛力。同時模型應(yīng)該在以下兩個方面進(jìn)行改進(jìn)：一是提高對不同信道條件下的泛化能力；二是模型壓縮方法應(yīng)該向結(jié)構(gòu)化剪枝改變，并加以量化處理，以進(jìn)一步縮短檢測延時和縮減模型大小。