融合殘差SENet的毫米波大規(guī)模MIMO信道估計

劉慶利,楊國強,張振亞

(大連大學 a.信息工程學院;b.通信與網(wǎng)絡重點實驗室,遼寧 大連 116622)

0 引 言

為了滿足5G無線通信系統(tǒng)的更高要求,將毫米波與大規(guī)模多輸入多輸出(Multiple-Input Multiple-Output,MIMO)系統(tǒng)相結合已成為一種重要的物理層技術而受到了廣泛研究[1]。同時,在進行信號技術處理時,精準地估計出信道狀態(tài)信息(Channel State Information,CSI)對于充分利用毫米波帶寬和大型陣列天線增益至關重要[2]。因此,研究在大規(guī)模MIMO系統(tǒng)中進行精準的信道估計具有重要意義。

近年來,隨著無線智能通信研究的逐步深化,神經網(wǎng)絡已經在資源分配、調制分類、信號檢測、信道編碼等方面展示出優(yōu)異的性能[3]。有學者將信道矩陣看成二維圖像[4-5],利用神經網(wǎng)絡從接受的信號中恢復原始信號完成信道估計。文獻[6]針對波束域毫米波大規(guī)模MIMO系統(tǒng)提出了一種基于學習去噪的近似消息傳遞的神經網(wǎng)絡,該神經網(wǎng)絡將降噪卷積神經網(wǎng)絡(Denoising Convolutional Neural Network,DnCNN)[7]融合到了LAMP(Loop-mediated Isothermal Amplification)算法中,從噪聲信道中去除噪聲恢復原始信號,然而其網(wǎng)絡訓練時針對的是特定的噪聲集,因此只能在小范圍的信噪比(Signal-to-Noise Ratio,SNR)下完成信道估計。文獻[8]提出了一種改進的卷積盲去噪網(wǎng)絡,通過引入噪聲估計子網(wǎng)、非盲去噪子網(wǎng),能夠在較大的信噪比范圍下完成信道估計,提高了對噪聲信道的魯棒性,然而該方法僅將導頻看作為單位向量完成信道估計而忽略了導頻信息,這極大地限制了其網(wǎng)絡的適用性和實用性。文獻[9]通過引入條件生成對抗網(wǎng)絡(Conditional Generative Adversarial Network,CGAN),將導頻作為條件和接收信號一起輸入到生成網(wǎng)絡中完成信道估計,提高了網(wǎng)絡的實用性,然而其網(wǎng)絡并未對噪聲進行單獨處理,在噪聲條件下估計精度并不理想。

上述基于卷積神經網(wǎng)絡(Convolutional Neural Network,CNN)的信道估計算法忽略了導頻所包含的先驗信息,實用性較差,而基于CGAN的算法則沒有考慮到光線追蹤戶外場景下的噪聲干擾,在低SNR下精度較差。針對上述問題,本文提出了一種融合殘差擠壓激勵網(wǎng)絡(Squeeze-and-Excitation Network,SENet)的條件生成對抗網(wǎng)絡(Residual SENet-Conditional Generative Adversarial Network,RSENet-CGAN)。該網(wǎng)絡以CGAN為基礎,將導頻作為網(wǎng)絡的條件輸入,并將SENet網(wǎng)絡模塊融合到條件生成對抗網(wǎng)絡的生成器中,通過SENet網(wǎng)絡中的注意力機制來抑制噪聲特征,降低噪聲干擾。在戶外光線追蹤場景的仿真實驗下,該算法取得了比正交匹配追蹤(Orthogonal Matching Pursuit,OMP)、CNN、DnCNN和CGAN更高的估計精度。

1 系統(tǒng)模型

本文考慮一個典型的時分雙工的毫米波大規(guī)模MIMO系統(tǒng),在基站側的上行信道進行信道估計。系統(tǒng)模型如圖1所示,該系統(tǒng)具有K個配備單天線的用戶和配備有M個天線的基站。

圖1 MIMO系統(tǒng)模型Fig.1 MIMO system model

(1)

(2)

(3)

式中：B表示系統(tǒng)帶寬;d表示天線間距。K個用戶的毫米波信道矩陣H定義為

H=[h1,h2,…,hk,…,hK]

(4)

式中：H∈M×K。使用來自用戶側的導頻信號在基站端執(zhí)行信道估計,K個用戶同時向BS發(fā)送長度為τ的導頻序列,然后在BS端一位量化之后接收的信號Y表示為

Y=sgn(HΦ+N)

(5)

式中：Y∈M×τ;Φ∈K×τ是K個用戶的導頻序列,Φ中每個用戶的導頻是相互正交的;N∈M×τ是從高斯分布中提取的基站處的噪聲矩陣。符號函數(shù)sgn(·)是一個用于一位量化的元素操作,定義如下：

(6)

Y是一個量化信號,其元素從集合{1+j,1-j,-1+j,-1-j}中取值。因此,信道矩陣H可以看作為一個具有雙通道的二維圖像,兩個通道分別表示信道的實部和虛部,那么信道估計問題就可以轉化為從接收信號的二維圖像中恢復信道矩陣的二維圖像的過程。本文采用RSENet-CGAN網(wǎng)絡從已知的導頻序列Φ和高度量化的接收信號Y中恢復信道矩陣H,同時考慮在戶外光線追蹤場景下環(huán)境噪聲對信道的影響,采用卷積神經網(wǎng)絡中的圖像去噪技術去除噪聲干擾,并對網(wǎng)絡模型進行訓練和測試,完成信道估計。

2 基于RSENet-CGAN的信道估計

信道估計的過程主要由殘差去噪和基于CGAN的信道估計兩部分構成：首先通過殘差SENet完成對接收信號的殘差去噪,去除噪聲干擾;然后采用訓練好的CGAN網(wǎng)絡進行信道估計,根據(jù)RSENet網(wǎng)絡傳入的接收信號和導頻序列恢復原始信號,完成信道估計。

2.1 基于RSENet的圖像去噪網(wǎng)絡

SENet[11]是一種基于通道注意力機制的網(wǎng)絡模型,通過SENet可以從大量的圖像信息中提取更為有效的特征信息,極大地提高了圖像處理的效率。同時由于網(wǎng)絡層數(shù)的加深,神經網(wǎng)絡容易出現(xiàn)梯度消失、網(wǎng)格退化的問題,將ResNet[12]的殘差結構引入到SENet模型中,構建了一個RSENet的網(wǎng)絡模型。

RSENet的網(wǎng)絡結構如圖2所示,其網(wǎng)絡主要分為擠壓、激勵、放縮和殘差操作4部分。

圖2 殘差SENet模塊結構Fig.2 Structure of residual SENet module

1)擠壓操作

首先通過池化操作對輸入特征圖X∈H×W×C進行全局池化操作。該操作通過在空間維度H×W上聚合特征映射為一個通道描述符的一個實數(shù),該實數(shù)具有全局的感受野。該擠壓操作能夠獲取到輸入的通道特征以及空間關系,壓縮后的多維統(tǒng)計量z∈C的第c個元素為

(7)

式中：uc(i,j)為X的第i行第j列的元素。

2)激勵操作

通過兩個全連接層獲取非線性的跨通道的交互,同時通過降低維度來限制網(wǎng)絡模型的復雜性。全連接層通過權重參數(shù)W生成每個通道的權重,最后通過Sigmod激活函數(shù)將權值限制到0與1之間,即

s=Fex(z,W)=σ(g(z,W))=σ(W2δ(W1z)

(8)

式中：W1和W2為兩個全連接層的參數(shù);δ(·)與σ(·)為ReLU和Sigmoid激活函數(shù)。得到的s為X各個通道重要程度的權重。

3)放縮操作(Scale)

xc=Fscale(uc,Sc)=Scuc

(9)

(10)

4)殘差操作

2.2 基于條件生成對抗網(wǎng)絡的信道估計

圖3 模型整體流程結構Fig.3 The overall process structure of the model

2.2.1 生成網(wǎng)絡

RSENet-CGAN的生成器網(wǎng)絡模型結構如圖4所示。網(wǎng)絡模型引入U-Net[13]架構,與常用的編碼器-解碼器結構相比,U-Net架構增加了跳躍連接,將編碼器塊和解碼器塊的特征圖通過級聯(lián)層進行組合,以保留特征圖在不同分辨率下的像素細節(jié),在改善圖像細節(jié)方面有著較好的效果(每個殘差塊通過跳躍連接將前端的特征信息傳遞到后端,防止網(wǎng)絡退化)。整個U-Net架構使用了3個編碼塊和4個解碼塊,每個編碼塊由1個卷積層、1個BN和1個LeakyReLU激活函數(shù)層構成,每個解碼塊由1個反卷積、1個BN和ReLU構成。

圖4 RSENet-CGAN的生成網(wǎng)絡Fig.4 The generative network of RSENet-CGAN

低分辨率信道圖像首先通過編碼塊的卷積操作對信道圖像進行特征提取。BN層的批量歸一化使得每一層有近似相同的分布,有效避免消失梯度問題,能夠提高網(wǎng)絡模型的收斂速度。在解碼塊中通過反卷積逐層放大圖像尺寸同時通過跳躍連接保留卷積前的像素細節(jié)來降低圖像放大時圖像細節(jié)的丟失,恢復超分辨率信達圖像。

編碼塊和解碼塊采用不同的激活函數(shù)：編碼塊采用ReLU作為激活函數(shù)以更好地挖掘信道特征信息;由于解碼塊中的反卷積計算量更大,因此采用收斂速度更快的LeakyReLU作為激活函數(shù)。同時,為了降低噪聲對于網(wǎng)絡模型的干擾,提高網(wǎng)絡的泛化能力,在編碼塊后引入SENet網(wǎng)絡模塊,通過SENet的通道注意力機制提高對信道圖像重要特征的提取,并通過激勵和放縮操作降低噪聲特征權重來抑制噪聲干擾。最后將殘差網(wǎng)絡融入到SENet中,能夠解決由于網(wǎng)絡層數(shù)的加深而導致梯消失,網(wǎng)格退化的問題。

2.2.2 判別器網(wǎng)絡

原始CGAN中判別器是一個簡單的卷積神將網(wǎng)絡,對于生成器生成的信道圖像的判別效果不佳。為了提高判別器網(wǎng)的準確度,使用了判別器中的patch結構[14]來識別輸入細節(jié)。與常規(guī)判別器不同,常規(guī)判別器將輸入映射到一個單個標量輸出表示真或者假,而使用patch結構的判別器將輸入映射到感受野,其中每個元素表示輸入的部分是真的還是假的。

如圖5所示,判別器網(wǎng)絡的前端由1個卷積層、1個LeakyReLU層、1個Droupt層和3個編碼塊組成,1個編碼塊由1個卷積層、1個BN層、1個LeakyReLU層和1個Droupt層構成。針對在訓練時判別器網(wǎng)絡很容易出現(xiàn)過擬合現(xiàn)象,在編碼塊中引入了Dropout機制[15]來解決這一問題。具體做法是在每個編碼塊的LeakyReLU層后添加Droupt層,參數(shù)dropout_ratio的值設置為0.25,即經過Droupt層后25%的輸出值會被網(wǎng)絡拋棄,即將激活值置零,從而減小網(wǎng)絡的大小,有效防止網(wǎng)絡過擬合,提升網(wǎng)絡的泛化能力,其中卷積層的卷積核大小全部設置為3×3。在最后一層,使用卷積層代替全連接層來獲得感受野,然后平均感受野的所有響應,以提供判別器的最終輸出。

圖5 RSENet-CGAN的判別網(wǎng)絡Fig.5 The discriminant network of RSENet-CGAN

2.2.3 損失函數(shù)的設計

原始CGAN網(wǎng)絡的生成器部分只添加了一個條件約束,這使得網(wǎng)絡會過于自由,然而在模型訓練階段仍然會出現(xiàn)模型崩塌,生成的信道圖像不穩(wěn)定的問題。為了有效提高模型訓練的穩(wěn)定性,在原始CGAN模型的損失函數(shù)中添加了一個回歸損失項,最終要計算的目標損失是

(11)

對抗網(wǎng)絡損失項用于提升生成器和判別器的準確率,引入的回歸損失項用于提高生成器生成的信道圖像與真實信道圖像的相似性,進而降低網(wǎng)絡模型的不穩(wěn)定問題。其中對抗網(wǎng)絡的損失如式(12)所示：

LCGAN(Gψ,Dθ,Y,H,Φ)=

E[lgDθ(H,Φ)]+E[lg(1-Dθ(G(Yψ,Φ)))]

(12)

回歸損失主要分為L1損失與L2損失：L1損失又叫最小絕對值誤差,主要用于計算實際值與預測值之間的絕對值之和;L2損失又叫最小平方誤差,主要用于計算實際值與預測值之間的平方差之和。L1損失相較于L2損失收斂速度慢且沒有穩(wěn)定的解,因此采用收斂速度更快的L2損失作為回歸損失,表達式為

L2=E[‖H-Gψ(Y,Φ)‖2]

(13)

式中：H表式信道矩陣;Gψ(Y,Φ)表示在輸入接收信號Y和導頻序列Φ后生成器生成的信道矩陣;‖H-Gψ(Y,Φ)‖2表示真實的信道矩陣與生成的信道矩陣的平方差。網(wǎng)絡模型的優(yōu)化過程即使得L2損失不斷減小的過程。

3 仿真設計與結果分析

3.1 仿真數(shù)據(jù)與參數(shù)

仿真配置：GPU為GeForceRTX2080Ti;CPU為Intel i5-9400F;內存為32 GB;操作系統(tǒng)為Ubuntu 19.10;深度學習框架為Tensorflow2.0。訓練使用的數(shù)據(jù)集通過DeepMIMO生成,場景采用的是戶外大規(guī)模MIMO的毫米波光線追蹤場景。該場景是一個十字路口,水平街道長600 m,寬40 m,垂直街道長440 m,寬40 m。兩條街道兩側都有樓房,水平街道兩側建筑物的底座尺寸為30 m×40 m,垂直街道建筑物的底座為60 m×60 m。具體的仿真參數(shù)設置見表1。

表1 室外大規(guī)模MIMO仿真信道參數(shù)Tab.1 Outdoor massive MIMO simulation channel parameters

在參數(shù)設置時將用戶數(shù)k固定為32,根據(jù)設置的天線數(shù)量可以生成4個信道矩陣H分別為64×32,128×32,192×32和256×32的數(shù)據(jù)集。接收信號Y的相應數(shù)據(jù)集由信道矩陣數(shù)據(jù)集和使用1 b量化的導頻序列生成,同時在接收信號中加入不同信道比的高斯白噪聲。數(shù)據(jù)集按照70%,20%,10%劃分為訓練集、測試集和驗證集。DeepMIMO根據(jù)場景參數(shù)生成用戶與天線陣列之間的信道向量。

(14)

式中：‖·‖表示矩陣范數(shù)計算;E表示期望。通過計算10lg{·}來獲得NMSE,NMSE的值越小表示模型估計的精確度越高。

3.2 仿真結果分析

圖6比較了在SNR為0 dB時,基于RSENet-CGAN的毫米波大規(guī)模MIMO系統(tǒng)中導頻序列長度和神經網(wǎng)絡的層數(shù)對于信道估計精度的影響。從圖中可以看出,RSENet-CGAN的估計誤差隨著神經網(wǎng)絡層數(shù)的增加而降低,與CGAN網(wǎng)絡收斂于8層相比,本文所提出的基于RSENet-CGAN的算法由于引入了殘差網(wǎng)絡加快了網(wǎng)絡的收斂速度,使得網(wǎng)絡收斂于7層內,降低了網(wǎng)絡模型的復雜度。

圖6 不同網(wǎng)絡層數(shù)下的NMSEFig.6 NMSE under different network layers

圖7比較了CGAN與本文所提的RSENet-CGAN方法在不同的迭代層數(shù)下網(wǎng)絡模型的損失,其中SNR=0 dB,導頻序列長度為8,其他參數(shù)保持一致。在不同的迭代次數(shù)下,基于RSENet-CGAN的網(wǎng)絡損失要優(yōu)于CGAN,并在50次epoch后達到最優(yōu)的網(wǎng)絡損失后保持穩(wěn)定。

圖7 SNR=0 dB時不同訓練次數(shù)下的模型損失Fig.7 Model loss under different training times when SNR=0 dB

圖8比較了基站天線數(shù)對于網(wǎng)絡模型估計精度的影響,可以看出,隨著基站天線數(shù)量的增加,CGAN的估計誤差在增大,在基站天線數(shù)量由192增加到256時估計誤差增加得更為明顯,而本文所提出的RSENet-CGAN隨著基站側天線數(shù)量增加仍然能保持穩(wěn)定的估計精度?；緜忍炀€數(shù)量的增加意味著信道矩陣的規(guī)模增大,變得更加復雜,因此網(wǎng)絡模型的學習難度增加,估計精度下降。而在RSENet-CGAN中,網(wǎng)絡引入了殘差通道注意力模塊來去除噪聲,降低了噪聲干擾對于模型的影響,同時在生成器中采用U-Net結構提高了信道矩陣二維圖像的分辨率,保證了網(wǎng)絡模型較強的泛化能力。

圖8 SNR=0 dB時基站天線對網(wǎng)絡模型的NMSE的影響Fig.8 Impact of base station antenna on the NMSE ofnetwork model when SNR=0 dB

圖9比較了OMP、CNN、DnCNN、CGAN與本文的RSENet-CGAN在不同SNR下的NMSE,SNR的范圍設置在-10～30 dB,其中OMP為壓縮感知算法,其他的均為深度學習算法。從圖9中可以看出,OMP算法受噪聲的影響較大,在低信噪比下NMSE較差。RSENet-CGAN由于引入了殘差SENet注意力模塊,降低了噪聲對于網(wǎng)絡模型的干擾,在不同的信噪比下都表現(xiàn)優(yōu)異,相較于CGAN網(wǎng)絡模型估計精度平均提高約了2.2 dB。

圖9 不同信道估計方法下的NMSEFig.9 NMSE under different channel estimation methods

3.3 運行時間

表2列舉了在線估計階段不同方法完成信道估計所耗費的時間,所得的結果為200次線上測試時間的平均值,通過運行時間的快慢可以反映出算法在實際環(huán)境中的實用性。

表2 運行時間比較Tab.2 Run time comparison

由表2可以看出,CNN與DnCNN的計算時間較低,這是因為CNN與DnCNN簡單的體系結構和較少的網(wǎng)絡層。RSENet-CGAN的計算時間要略高于CGAN,這是因為RSENet-CGAN在CGAN基礎上添加了網(wǎng)絡模塊,然而最終的耗時在實時通信系統(tǒng)的實施傳輸中是可以接受的。

4 結 論

本文針對傳統(tǒng)深度學習的信道估計方法受噪聲干擾導致估計精度低、適用性差的問題,提出了一種基于RSENet-CGAN網(wǎng)絡模型的信道估計方法,該模型從低分辨率的接收信號中恢復高分辨率的原始信號。在生成器中引入SENet,通過其模型的通道注意力模塊來抑制噪聲特征,降低噪聲干擾,同時將SENet與殘差網(wǎng)絡相結合來解決網(wǎng)絡層數(shù)加深出現(xiàn)的梯度消失的問題,引入了聯(lián)合損失項來提高網(wǎng)絡的穩(wěn)定性。仿真結果表明,RSENet-CGAN網(wǎng)絡模型相較于壓縮感知OMP和同類型的深度學習算法(如CNN、DnCNN、CGAN)在低SNR下具有更高的估計精度。