注意力机制CNN的毫米波大规模MIMO系统信道估计算法

第44卷 第1期系统工程与电子技术
Vol.44 No.1
2022年1月SystemsEngineeringa
ndElectronicsJanuary                                                  2
022文章编号:1001 506X(2022)01 0307 06 网址:www.sy
s ele.com收稿日期:20201231;修回日期:20210623;网络优先出版日期:20211011。网络优先出版地址:http:
∥kns.cnki.net/kcms/detail/11.2422.TN.20211011.1100.006.html基金项目:贵州省科学技术基金(黔科合基础[2016]1054);贵州省联合资金(黔科合LH字[2017]7226);贵州大学2017年度学术新苗培
养及创新探索专项(黔科合平台人才[2017]5788);贵州省科技计划(黔科合SY字[2011]3111)资助课题 通讯作者.引用格式:刘紫燕,马珊珊,梁静,等.注意力机制CNN的毫米波大规模MIMO系统信道估计算法[J].系统工程与电子技术,2022,44(1):
307 312.犚犲犳犲狉犲狀犮犲犳狅狉犿犪狋:LIUZY,MASS,LIANGJ,etal.AttentionmechanismbasedCNNchannelestimationalg
orithminmillimeter wavemassiveMIMOsystem[J].SystemsEngineeringa
ndElectronics,2022,44(1):307 312.注意力机制犆犖犖的毫米波大规模犕犐犕犗系统
信道估计算法
刘紫燕 ,马珊珊,梁 静,朱明成,袁 磊
(贵州大学大数据与信息工程学院,贵州贵阳550025)
  摘 要:在室外光线追踪通信场景下,针对毫米波大规模多输入多输出(multipleinputmultipleoutp
ut,MI MO)
信道具有稀疏特性、系统受噪声因素影响导致信道估计精度低的问题,提出一种基于图像去噪的注意力机制卷积神经网络信道估计方法。首先,
设定参数产生模拟真实环境的数据集,将所产生的信道矩阵看作二维图像。然后,构建注意力机制网络以增强图像中噪声特征的显著性,并将注意力机制网络嵌入卷积神经网络中进行特征
融合。最后,通过网络模型提取噪声并得到去噪的图像,即估计信道矩阵。仿真结果表明,与最小二乘法(leastsquare,LS)、最小均方误差(minimummeansquareerror,MMSE)、卷积神经网络(convolutionalneuralnetwork,CNN)和去噪CNN(denoisingCNN,DnCNN)算法相比,所提出的Attention CNN方法信道估计精度平均提升约1.86dB。
关键词:毫米波大规模多输入多输出;信道估计;卷积神经网络;注意力机制;去噪
中图分类号:TP391.9    文献标志码:A    犇犗犐:10.12305/j.
issn.1001 506X.2022.01.38犃狋狋犲狀狋犻狅狀犿犲犮犺犪狀犻狊犿犫犪狊犲犱犆犖犖犮犺犪狀狀犲犾犲狊狋犻犿犪狋犻狅狀犪犾犵
狅狉犻狋犺犿犻狀犿犻犾犾犻犿犲狋犲狉 狑犪狏犲犿犪狊狊犻狏犲犕犐犕犗狊狔
狊狋犲犿LIUZiyan ,MAShanshan,LIANGJing,ZHUMingcheng,YUANLe
i(犆狅犾犾犲犵犲狅犳犅犻犵犇犪狋犪犪狀犱犐狀犳狅狉犿犪狋犻狅狀犈狀犵犻狀犲犲狉犻狀犵,犌狌犻狕犺狅狌犝狀犻狏犲狉狊犻狋狔,犌狌犻狔
犪狀犵550025,犆犺犻狀犪)  犃犫狊狋狉犪犮狋:Inoutdoorraytracingcommunicationscenarios,aiminga
ttheproblemsoflowchannelestimationaccuracydefectedbyitssparsecharacteristicsandnoisefactorsinmillimeter wavemassivemultip
leinputmultipleoutput(MIMO),animagedenoisinga
ttentionmechanismbasedconvolutionalneuralnetworkchannelestimationalgorithmisproposed.Firstly,afterconstructingthedatasetforsimulatin
gtherealenvironmentbysettingtheparameters,generatechannelmatrixisregardedasatwo dimensionalimage.Then,theattentionmechanismnetworkisconstructedtoenhancethesaliencyofthenoisefeaturesintheimage,andtheattentionmechanismnetworkisembeddedintheconvolutionalneuralnetwork(CNN)forfeaturefusion.Finally,thenoiseextractedbythenetworkmodelachievesthedenoisingeffectandthedenoisedimag
e,theestimatedchannelmatrixisobtained.ThesimulationresultsdemonstratethattheproposedattentionmechanismbasedCNN(Attention CNN)algorithmachievesbetterperformanceofhig水写布
herchannelestimationaccuracy,wh
ichimprovedbyabout1.86dBonaverage,comparedwi
thleastsquare(LS),minimummeansquareerror(MMSE),CNNanddenoisingc
onvolutionalneuralnetwork(DnCNN).犓犲狔狑狅
狉犱狊:millimeter wavemassivemultipleinputmultipleoutput(MIMO);channelestimation;convolutionalneuralnetwork(CNN);attentionmechanism;denoising
Copyright©博看网 www.bookan. All Rights Reserved.
 ·3
08 ·系统工程与电子技术
第44卷
0 引 言
毫米波大规模多输入多输出(multipleinputmultip
leoutp
ut,MIMO)作为5G关键技术,在提升移动通信系统性能方面因其具有的高速率和高效率得到了广泛运用[12]。
由于在收发端部署了大量天线,系统反馈、开销、信道矩阵尺寸变化给系统的通信质量带来了挑战。信道状态信息获取的准确性反应了系统的通信质量,对于毫米波大规模MIMO系统信道估计的研究具有重要意义[34]。信号传播的过程中,受到外界环境、收发信机地理位置、系统配置等影响,对其产生大量数据信息进行学习有利于提取系统信息,为信道估计提供基础。深度学习作为人工智能领域的主要研究方法,其构建的网络模型对大量样本数据具有强大分析能力和识别能力。近年来,将深度学习用于解决通信系统信道估计[57]、信号检测[8]、预编码[9]等问题具有较好鲁棒性为通信领域研究提供了新兴方向。传统信道估计方法主要有最小二乘法(leastsquare,LS)[10]、最小均方误差(minimummeansquareerror,MMSE)[11]和压缩感知[12]算法。LS算法依据导频辅助作用进行线性插值估计未知信道响应信息,其导频开销大,对多天线系统估计精度较差;MMSE算法需要基于信道的统计特性和先验信息,
计算复杂度高;压缩感知算法通过重构恢复对信号进行处理,对信道的特性具有稀疏性要求。近几
年将深度学习方法用于解决信道估计问题受到学者们的关注。将信道矩阵视作二维图像[1315],其方式区别于传统信道估计算法,通过图像处理方法进行信道估计[16]。文献[17]
基于导频辅助作用,通过已知位置的信息估计出信道响应的未知值。但其方法依然依赖于导频的辅助作用,训练过程
中导致系统开销大。随着天线数目的增大,在图像转换过程中存在矩阵维数大的问题,还需要对图像进行去噪、边缘优化等操作。文献[18]引入去噪卷积神经网络(denoisingconvolutionalneuralnetwork,DnCNN)
[19]对信道矩阵图像进行去噪处理,该网络的性能优于基于压缩感知的算法。而DnCNN是针对特定的噪音水平量身定做的,只有当噪
音水平在训练范围内时效果才显著。因此,将信道矩阵视为自然图像进行训练,采用深度学习训练模型估计方法,可适用于多种信号噪声级别及空间相关噪声,并可以提升训
练速度。在去噪过程中,由于前期需要人为设定噪声水平,而噪声通常是与通道和空间相关的,卷积神经网络(convo lutionalneuralnetwork,CNN)
在去噪方面具有较好的鲁棒性[2021]。
基于导频的信道估计方法,会产生导频污染与开销从
水粉盒而影响通信性能,基于深度学习的信道估计方法可以不依赖导频信号的辅助,根据信道特性采取图像去噪的方式解决信道估计问题。由于系统受噪声影响,为提升去噪泛化能力和估计精度。本文提出一种基于注意力机制的CNN的信道估计方案,以CNN为基础网络,融合注意力机制构建信道估计网络模型。将信道矩阵视为图像进行去噪处
理,
通过CNN提取信道噪声信息,结合注意力机制增强图像噪声特性并进行特征融合提取噪声,该网络具有良好的去噪效果。1 系统模型搭建毫米波大规模MIMO系统,因大规模MIMO系统中天线数量增多,为减少射频链路和降低系统能耗,采用由
p2p网络电视录像专家
加法器和移相器构成数模混合结构[22]
。其中端和用
户端数量分别为犅、犝,配置天线数分别为犖狋、犖狉,
射频链路数分别为犖狉犳狋、犖狉犳狉
。在狋时刻,系统传输的数据流为犖狊,经系统传输,第狀个用户向第犿个端发送信号狊,接受信号狔可以表示为狔犿=犠犎犿,狀犕狊+狀(1)式中:狔犿为接收信号,狔犿∈犆犖狉×1;
狀为信道中的高斯白噪声,服从N(0,σ2狀
犐犖狉)分布;犠为系统接收端的混合合并器,犠∈犆犖狊×犖狉;犕为系统发射端的混合预编码器,犕∈犆犖狋×犖狊
;犎犿,狀为毫米波信道,其中,犎犿,狀=ρ∑犔犻=1
α犾 狉(φ犾) H狋(θ犾);ρ是信道的归一化因子,α犾是第犾条信道的增益, 狉是接收端天线的相
位响应向量, H狋是发射端天线的相位响向量。φ犾和θ犾
分别是第犾条信道的到达角和离开角。在生成信道路径犾后,信道矩阵可由信道响应加权相加,
信道矩阵犎可以表示为犎=犙狉犎犾犙H狋(2)
式中:犎犾=ρdiag(α1,α2,…,α犔);犙狉和犙狋分别是收发端阵列响应矩阵。
考虑到大规模天线系统中天线间的相关性和毫米波在传播过程中经历散射次数有限,
信道犎犿,狀元素之间存在一定相关性,
信道呈现稀疏特性。依据此特性,可将信道矩阵犎看作二维自然图像[23],考虑信道噪声的影响,采用图像去噪技术提取信道噪声部分,通过网络模型进行训练和测试,
得到估计的信道矩阵,从而实现信道估计。2 基于注意力机制的犆犖犖信道估计2.1 基于注意力机制的图像特征提取
注意力机制被广泛运用在自然语言处理、图像识别、语音识别等领域,是深度学习技术中关键核心技术之一[24]。其与人类视觉注意力机制相似,通过注意力机制可以从大
量信息中快速提取出有效的信息,极大提高信息处理的效率。注意力机制的过程如图1所示,其过程主要分为3个阶段:第一阶段为将从模型的卷积层中提取得到犣犻,犼(0≤
犻≤犠,0≤犼≤犎),其中犠、犎表示图片的大小,通过传输到注意力层,将得到犣犻,犼计算与各个元素犓犾,犾=犻犼之间的相
关性。表达式为
Similarity(
犓犾,犣犻,犼)=犓犾犣犻,犼(3)Copyright©博看网 www.bookan. All Rights Reserved.
 第1期刘紫燕等:注意力机制CNN的毫米波大规模MIMO系统信道估计算法·309 ·
 第二阶段对第一阶段的结果进行数值转换,进行归一
化处理,引入SoftMax。表达式为
α犻,犼=SoftMax(Sim犻,犼)(4)
第三阶段将α犻,犼与犓犾中对应的权重值Value犻,犼进行加
权求和得到权重值。表达式为
Attention(犓犾,犣犻,犼)=∑犠犻=1∑犎犼=1α犻,犼Value犻,犼(5)高度规
其输入是从卷积层中提取到的特征,输出是该特征的
注意力权重
图1 注意力机制计算过程
Fig.1 Computationprocessofattentionmechanism
算法1 注意力机制算法
烧结焊剂
输入:卷积层提取特征犣犻,犼
输出:权重Attention
1.犠,犎
2.Similarity(犓犾,犣犻,犼)=犓犾犣犻,犼
3.α犻,犼=SoftMax(Sim犻,犼)
4.for犻<0to犠do;
5. for犼<0to犎do;
6.Attention(犓犾,犣犻,犼)=∑犠犻=1∑犎犼=1α犻,犼·Value犻,犼
7. endfor
8.endfor
2.2 基于注意力机制犆犖犖信道估计
CNN是由基础的神经元之间线性加权组成,并且是具
有卷积结构的深度神经网络。卷积结构可以有效减少网络
参数,缓解模型过拟合问题[25]。其特征提取功能的核心模
块是由网络中隐含层的卷积层和池化层组成,是一种多层
的监督学习神经网络。该网络模型中的权重参数逐层调节
主要通过梯度下降法最小化损失函数,通过不断的迭代训
练可以提高网络的性能。因此,在图像分类[26]、识别[27]、去
噪[28]等领域得到广泛运用。
CNN包括卷积层、激励层、池化层和全连接层,其网络
结构如图2所示。卷积层(Conv)可以实现对输入图片的特
征进行提取,其具有局部感受野和权值共享两个特性[29]。
池化层(BN)可以降低网络参数并避免特征维数大而出现过
拟合问题。激励层(Relu)为了防止数据中存在较大或小的
数据对训练效果弱化。全连接层通过进行特征融合并输出。
Fig.2 CNNstructure
本文提出基于注意力机制CNN的信道估计模型如图3
所示,其中模型由基础的CNN和注意力机制网络组成,将
信道矩阵犎看作二维图像输入到网络模型中。
Fig.3 ChannelestimationmodelbasedonattentionmechanismCNN
通过CNN前两层提取图像的浅层特征,将CNN提取
的浅层特征输入到注意力网络中,通过结合注意力机制网
络提取的特征,融合后得到显著特征。最后,将提取的特征
通过卷积层进行噪声提取,将提取的噪声通过全连接层输
出。输入是含信道噪声矩阵,通过模型提取噪声,输出是估
计信道矩阵。整个模型包含15层,除layer1层、layer2层
和输出全连接层外,每层由Conv+BN+Relu组成,其中
Conv代表卷积,BN代表批量归一化,Relu代表激活函数采
用Relu函数,卷积核采用3×3×64大小。
2.3 评价指标
本文主要采用归一化均方误差(normalizedmeansquare
error,NMSE)来评价信道估计质量。其是用来衡量估计量
与被估计量之间差异程度,表达式为
NMSE=E{^犎-犎2222}(6)
式中:^犎是模型估计的信道矩阵,NMS越小,则估计性能
越好。
2.4 复杂度分析
表1为本文提出和对比算法的复杂度比较,其中犖为
子载波数,犔为路径数。基于深度学习的信道估计方法,主
要考虑以在线估计的复杂性为度量。
表1 算法复杂度对比
犜犪犫犾犲1 犆狅犿狆犪狉犻狊狅狀狅犳犪犾犵狅狉犻狋犺犿犮狅犿狆犾犲狓犻狋狔
算法乘法运算次数复杂度
LS犝2+犖犗(犝2)
MMSE4犝3+犖犗(犝3)
CNN102犝3犅+36犔犗(犝3犅)
DnCNN128犝2犅+24犔犗(犝2犅)
Attention CNN176犝2犅+32犔犗(犝2犅)Copyright©博看网 www.bookan. All Rights Reserved.
 ·310 ·系统工程与电子技术第44卷                                                   
由表1可知,考虑在线估计阶段,本文所提算法的复杂度高于LS,但较LS估计精度有较大提升,复杂度低于MMSE。主要是神经网络进行在线训练,将已经训练好的网络用于估计,通过对矩阵进行乘法加权无需进行求逆,其复杂度较低。所提算法低于CNN,与DnCNN复杂度处于同等级,因增加了注意力机制,相较于CNN和DnCNN收敛得更快,相较于DnCNN可以得到更高的估计精度。
3 仿真结果与分析
本文所采用的数据集主要模拟在十字街道上分布的建筑物、和用户之间的通信场景,通过Dee
pMIMO捕捉周围环境和位置信息,将产生的数据通过网络模型进行训练并估计信道状态信息。首先通过文献[30]的方式产生数据集,将得到的信道矩阵输入到网络中。数据集的产生中提供了18个可以选择的,本文选定了第5~8个。在其分布的100万多用户中选取第1200~1800行的用户。天线数犕=犕狓×犕狔×犕狕,分别代表狓,狔,狕方向上天线的数量,参数设置如表2所示。其次选取样本数40000,其中75%用于训练数据集,15%用于验证数据,10%用于测试数据。最后本文将所提出的算法与LS、MMSE、CNN、DnCNN方法进行比较分析。
表2 系统仿真的主要参数
犜犪犫犾犲2 犕犪犻狀狆犪狉犪犿犲狋犲狉狊狅犳狊狔狊狋犲犿狊犻犿狌犾犪狋犻狅狀
参数数值
数5,6,7,8
用户数1200~1800
天线数犕狓=1,犕狔=16,犕狕=8
天线间距0.5
系统带宽/GHz0.5
OFDM子载波数1024
路径数5
学习率γ0.001
激活函数Relu
SNR范围/dB30
bach_size32
epoch300
图4分别对比了CNN、DnCNN2种方法和所提方法在不同迭代次数下各网络模型的损失。通过设定相同网络参数,在不同迭代次数下,优于基于注意力机制模块的优化,在提取特征时更加注重需要关注的特征而忽略不重要的特征,基于所提方法的网络模型在损失性能上优于CNN、DnCNN
图4 不同迭代次数下各网络模型的损失
Fig.4 Lossofeachnetworkmodelunderdifferentiterationtimes
图5~图7分别对比了在信噪比(signaltonoiseratio,
SNR)分别为10dB、20dB、30dB时,CNN、DnCNN两种方
法和所提方法在不同网络层数下各网络模型的NMSE性
能比较。从图4~图6可以看出,通过不断增加网络层的数
量来对比模型的估计性能,所提方法在相同网络层数下性
能优于CNN、DnCNN方法。从图4可以看出,当网络层数
为9和11时,可以发现所提方法和DnCNN方法的NMSE
性能在同一等级。从图5可以看出,当网络层数为9和10
时,可以发现所提方法和DnCNN方法MSE性能在同一等
级。此外,所提方法在12层内收敛,而CNN、DnCNN在
15层和14层收敛。从图6可以看出,当网络层数为9和
13时,可以发现所提方法和DnCNN方法MSE性能在同
一等级。此外,所提方法在11层内收敛,而CNN、DnCNN
在14层和13层收敛。本文方法模型上较其他简单和实
用。随着神经网络层数的增加,所提方法都能取得更好的
NMSE性能
图5 不同网络层数下各网络模型的NMSE性能比较(SNR=10dB)
Fig.5 NMSEperformancecomparisonofvariousnetworkmodels
underdifferentnetworklayers(SNR=10dB)Copyright©博看网 www.bookan. All Rights Reserved.
 第1期
刘紫燕等:注意力机制CNN的毫米波大规模MIMO系统信道估计算法
·311 
·
 图6 不同网络层数下各网络模型的NMSE性能比较(SNR=20dB)Fig.6 NMSEperformancecomparisonofvariousnetworkmodelsunderdifferentnetworklayers(SNR=20dB
伞齿轮传动
)图7 NMSE(SNR=30dB)
Fig.
7 NMSEperformancecomparisonofvariousnetworkmodelsunderdifferentnetworklay
ers(SNR=30dB)图8分别对比了LS、MMSE、CNN、DnCNN4种方法和本文所提方法在不同SNR下的NMSE性能,其中LS和MMSE为传统信道估计算法。LS算法的估计性能最差,MMSE算法较LS算法有一定的提升。从图8可以看出,本文所提方法较CNN、DnCNN方法估计性能平均提升约1.53dB。在SNR为0~15dB情况下,比CNN、DnCNN方法估计性能平均提高约0.15~0.23dB;在16~30dB情况下基于所提方法的信道估计性能平均提高约0.68~1.43dB。由于所提方法对样本进行训练学习时增加了注意力机制模块,在噪声提取上表现出了更好的性能,在同一SNR下,基于所提方法的信道估计精度平均提升约1.86dB。图8 基于Attention CNN和其他方法的NMSE曲线Fig.8 Normalizedmeansq
uareerrorcurvesbasedonAttention CNNandothermethods
深度学习方法应用于通信领域主要得益于对未知模型
强大的学习能力,
提出基于注意力机制CNN方法相较于其他方法性能有所提升。本文通过选取分布的中较为集中的几个和多个用户产生更符合实际通信场景的数据,
仿真结果表明,在不同SNR情况下,其估计精度有所提升,并且随着信噪比增加,NMSE减小,
估计性能越好。4 结 论
针对信道估计受噪声、系统性能影响的问题,本文通过
DeepMIMO模拟产生数据集,
将产生信道矩阵视为图像的方式。本文通过注意力机制模块增强图像空间像素特征,将注意力机制结合CNN对图像进行去噪。结果表明,本文所提算法的信道估计精度较其他方法有所提升。下一步的研究
方向是创建更切合真实环境的数据集,其他图像的处理方式提取信道特征以及更简单的网络模型提升信道估计的精度。
参考文献
[1]MUMTAZS,RODRIQUEZJ,DAILL.mmWavemassiveMI
MO:aparadigmfor5G[M].NewYork:Academic,2016.[2]BOCCARDIF,HEATHR,LOZANOA,etal.Fivedisruptivetechnologyd
irectionsfor5G[J].IEEECommunicationsMaga zine,2014,52(2):7480.
[3]康国良.毫米波大规模MIMO系统信道估计算法研究[D].南昌:江西理工大学,2018.
KANGGL.Researchonchannelestimationalgorithmformilli meterwavemassiveMIMOsystem[D].Nanchang:JiangxiUni versityofScienceandTechnology,2018.[4]SWINDLEHURSTAL,AYANOGLUE,HEYDARIP,etal.Millimeter wavemassiveMIMO:thenextwirelessrevolution?[J].
IEEECommunicationMagazine,2014,52(9):5662.[5]SUNZH,ZHAOZ,FUXM,etal.LimitedfeedbackdoubledirectionalmassiveMIMOchannelestimation:fromlow rankmodelingtodeeplearning[C]∥Proc.oftheIEEE19thInterna tionalWorkshoponSignalProcessingAdvancesinWirelessCommunications,2018.[6]HUANGX,LIUSM.MassiveMIMOchannelestimationforvehicularcommunications:adeeplearningbasedapproach[C]∥Proc.oftheIEEEInternationalConferenceonCommunications
Workshops,2020.[7]DEMIROT,BJORNSONE.ChannelestimationinmassiveMIMOunderhardwarenon linearities:Bayesianmethodsversusdeeplearning[
J].IEEEOpenJournaloftheCommunicationsSociety,2
020,32(8):109124.[8]YEH,LIGY,JUANGB.Powerofdeeplearningf
orchannelestimationandsignaldetectioninOFDMsystems[J].IEEEWirelessCommunicationsLetters,2018,7(1):114117.
[9]ANGHJ,SONGY,YANGJH,etal.Deep learning basedmillimeter wavemassiveMIMOforhybridprecoding[
J].IEEETrans.onVehicularTechnology,2
019,68(3):30273032.[10]MAJJ,PINGL.Data aidedchannelestimationinlargeantennasystems[J].IEEETrans.onSignalProcessing,2014,62(12):31113124.Copyright©博看网 www.bookan. All Rights Reserved.

本文发布于:2024-09-21 23:35:31,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/3/256826.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:信道   估计   网络
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议