92 | 电子制作 2021年05月
于学习样本数据所存在的内在规律和表示幅度，数种深度学习框架已被成功应用在计算机视觉、语音识别、图像处理等领域并获取了极好的效果。同时，“深度学习”也成为成为类似术语，或者说是神经网络的描述重塑表示方法[1]。深度学习相对于支持向量机、最大熵值计算方法等"浅层学习"而言是一类深层次的研究方向。深度学习是通过对原始信号进行逐层特征变换，输入和输出结果的不断迭用，将样本数据层层转换到新的特征空间，从而自动地学习得到层次化的特征表示，快速分层处理数据建立模型，更有利于分类或特征的可视化[2]。
深度学习算法打破了传统神经网络对训练层数的限制，采用贪婪无监督逐层训练方法，分开处理层层网络结构，后一层网络沿用前一层的训练结果进行训练。最后每层参数训练完后，在整个网络中利用有监督学习进行参数微调，从而达到提高精度的作用，本文就深度学习发展现状及进行简单概述并对其未来设计进行展望[4]。
1 深度学习的国内外研究
■1.1 深度学习在自然语言处理方面的研究
深度学习是以海量数据输入为基础的多层神经网络，是一种规则的自学习方法。近年来对多层神经网络的处理算法不断优化，结合最新的计算机技术以及先进的CPU处理器等，使它出现了突破性的进展。比如行人的图像中，就包含了彩、光线、五官等各种信息，而深度学习的关键就是通过多层非线性映射将这些因素成功分离并提取。简单说，就是可以减少参数，同时还不断有海量数据的输入，彻底颠覆了“人造特征”的范式，开启了数据驱动即数据自提取特征的范式，计算机自己发现规则，进行自学习。现在计算机认图的能力已经凌驾于人类之上，尤其在图像和语音等复杂应用方面，深度学习技术有了很大的进展。手眼协调。所有行为都从学习中自然浮现，而不是依靠传统的系统程序，完全颠覆以往的算法，利用深度学习实现图像深度信息的采集[4]。
市面上已有的可实现实现人的跟踪的无人机，它的方法就在于，可以通过人工的方式进行特征选择，
拿简单的颜特征举例，若单用机械的方式查，在几个人穿着相同的衣服有着差不多的体态的情况下就很容易跟丢或混淆，此时，若想在这个基础上继续优化算法，将特征进行调整，实属非常困难，而且调整后，还会存在对过去某些环境状态不适用的问题，算法的不停迭代却会影响前面的效果。而利用深度学习，把所有人最显眼的个人信息做出来，只区分好前景和背景。区分之后，背景全部用数学方式进行填充，再以此为基础不断生产大量背景数据，进行自学习，便利了查过程。■1.2 深度学习在图像识别方面的研究
图1 利用卷积神经网络建立行人重识别模型
对于图像的处理是深度学习算法最早尝试应用的领域，从一开始的大量数据提取到不断优化算法，现如今的图像处理技术已十分成熟，尤其是2012年在网络的训练中引入了权重衰减的概念，可以以更简便的算法及参数幅度产生更多的数据。现在深度学习网络模型能够理解和识别一般的自然图像，不仅大幅提高了图像识别的精度，同时也避免了需要消耗大量的时间进行人工特征提取等重复性工作，使得运算
www�ele169�com | 93
科技论坛
效率得到了大大的提升[4-5]。
2 深度学习网络
深度神经网络是由多个单层非线性网络叠加而成的可以分为前馈深度网络、反馈深度网络和双向深度网络3类[4]。 ■2.1 前馈深度网络
作为最早进行模型建立的人工神经网络之一，前馈深度
网络也叫前馈神经网络，其特点在于数据的单方向流动，从输入到达输出单元，且不会构成有向环。典型的前馈神经网
络有卷积神经网络和单层卷积神经网络等。
2.1.1 单层卷积神经网络
堆栈式
卷积阶段的输入是由n 1个n 2×n 3大二维特征图构成的
三维数组，以x i 为，该阶段的输出y 也是个三维数组，由
m 1个m 2×m 3大特征图构成。在卷积阶段，连接输入特征图
x i 和特征图y j 的记为ij ω，核的大小为23k k ×[4]
铝钉机
。输出特征
图为：
*j j ij i i
y b x ω=
+∑. (1)
式中：*为二维离散卷积的运算符，b j 为练的偏置函数。
非线性阶段是通过非线性变换的方式过滤有效的卷积
阶段得到的特征向量，提高数据处理的精度，两种非线性操
作函数如图2所示。
图2 两种非线性操作函数（sin 和cos）
下采样阶段，通常采用平均或最大池化的操作。完全去
掉下采样，通过在卷积阶段设置卷积核窗口滑动达到降低分
[4] 2.1.2 卷积神经网络
卷积神经网络可以进行大型图像识别，是深度前馈人工
神经网络的一种，多次堆叠单层的神经网络结构，后层网络沿用前层网络的数据，其中反向传播法以及有监督的训练方式最为常用，算法流程如图3所示[4]。
在进行图像识别以及解决各类重识别问题中也广泛用
到卷积神经网络，卷积网络模型图如图4所示。
图4 利用神经网络进行层次重识别
卷积神经网络采用原始信号输入，减少复杂的特征提取
次数同时避免图像重建过程，相较于传统的计算方法有了较大的改进，利用权值共享结构降低了网络模型的复杂度，对特征图进行子抽样，对照图像局部相关系原则有效地减少数据处理量。 ■2.2 反馈深度网络
区别于前馈深度网络，反馈深度网络反解输入信号，而
不是通过编码信号进行数据处理。典型的反馈深度网络有反卷积网络、层次稀疏编码网络等，通过求解最优输入信号分
解问题计算特征，使得特征更精准，更有利于信号的分类或重建。
■2.3 双向深度网络
双向深度网络结构上结合了编码器层和解码器层方式
单层网络的预训练和逐层反向迭代误差两个部分，每层使用输入信号L I 与ω计成信号L 1I +传下一层，信号L 1I +再同的权值
ω计成重构信号'L I 映输入层，
通过不断缩小L I 与I L '间差，再
通过反向迭代误差对整个网络结构进行权值微调。典型的双
向深度网络有深度玻尔兹曼机、
栈式自编码器等。
94 | 电子制作 2021年05
月
积深度置信网络证明了深度置信网络适应卷积方式运作，利用邻域像素的空域关系进行卷积操作，更容易得到变换后的高维图像[4]。
■3.2 深度循环网络深度循环网络是提出的一类专门用来处理序列的循环神经网络，它可以像神经网络那样扩展到更长的序列。它主要由输人层、隐藏层和输出层组成，从而实现了时间记忆的功能。相比传统的网络，它更加符合生物神经元的连接方式，
并且已被广泛地应用在自然语言处理等领域，取得了不错的进展[11][20]。
■3.3 随机梯度下降法
随机梯度下降法是用来求解最小二乘法问题的一种迭
代法，随机梯度下降法中求解最小化损失函数的算法过程是每次随机取一组样本j θ，对应的待拟合函数h(x)，根据梯
度下降法，用损失函数()J θ对θ求，
再不断根据学习率更新，得到:
()
j j
J αθθθασθ=−
(2)
SGD 一轮迭代只选用一条随机选取的数据，学习时间
自平衡两轮车非常迅速。在非凸函数上，梯度下降法求得的可能是极值而非最值，因此耗费大量的时间和内存，而随机梯度下降法拥有最终收敛于一个较好的局部极值点的优势，但易出现损失函数波动等问题。
4 未来发展趋势
根据深度学习的特点和现如今取得的进展，深度学习在
未来的发展中体现出神经网络呈层数越来越多，结构越来越复杂的趋势。当然网络层数越多，结构越复杂深度学习网络的性能越好，学习效果也越来越好，这表明在未来的发展中深度网络技术将会不断进步。再者深度神经网络节点功能也局部匹配，再根据视线测出的两个匹配数据的差距，去推算空间
的具体位置，这样的判断方法无疑存在很大的误差，而深度学习的出现，使得很多公司辛苦积累的软件算法失去效果，以前提出的“算法为核心竞争力”，正在逐步转变为，“数据为核心竞争力”，这同时也要求技术人员必须进入新的起跑线，研究新技术，尤其是不断研究像深度学习这样具有强大功能以及竞争力的模型方法。
目前我们所能接触到的深度学习算法多体现在语音识
别，手势识别、图像识别、自然语言的问题处理等方面，利用编程语言及算法实现识别功能，利用网络上部分开放的资源进行识别功能的体现，像百度、小米等人工智能语音都是我们学习的对象。深度学习在如今的发展中依托先进的计算
机技术以及日益进步的处理器等硬件实力的增强不断进行算法的优化与提升，大大解决了以前大量数据冗余的问题，且提出多种模型解决复杂的专业疑难，在我们的生活中多方面以成功进行使用，但在未来基于深度学习中的无标记数据的特征学习、模型规模与训练速度以及其他方法的融合都是
值得我们进一步研究的问题。
拉紧装置参考文献
＊ [1]谭笑枫，李广帅.深度学习发展综述[D].陕西西安：火箭军工程大学,710025.
＊ [2]张沛阳.深度学习理论综述与研究展望[N].网络安全技术与应用,2020.4(43-44).＊ [3]孙志军，薛磊，许阳明，等.深度学习研究综述[D].安徽合肥：电子工程学院,2012.＊ [4]尹宝才，王文通，王立春.深度学习研究综述[D].北京：北京工业大学,2015.＊ [5]余涛.基于稀疏自编码器的手写体数字识别[J].数字技术与应用，(1),66,68.＊ [6]张一飞，陈忠，张峰，等．基于栈式去噪自编码器的遥感图
科技论坛
像分类[J]．计算机应用，2016 (S2):171-174,188.
＊ [7]戴晓爱，郭宋恒，任清等．基于堆栈式稀疏自编码器的高光谱影像分类[J]．电子科技大学学报，2016,45,(3):382-386.＊ [8]黄丽霞，王亚楠，张雪英等．基于深度自编码网络语音识别噪声鲁棒性研究[J]计算机工程与应用，2017 (13):49-54.
＊ [9]朱芳枚，赵力，梁瑞宇等.面向中文语音情感识别的改进栈式自编码结构[J]．东南大学学报（自然科学版），2017(4)：631-636.
层压钢板＊ [10]许倩文，吉兴全，张玉振，等．基于栈式稀疏自编码器的矿用变压器故障诊断[J]．工矿自动化，2018,44 (10)：33-37＊ [11]刘辉海，赵星宇，赵洪山，等.基于深度自编码网络模型的风电机组齿轮箱故障检测[J]．电工技术学报，2017 (17)．＊ [12]张董，游福成，王惠华，等．受限制Boltzmami机深度置信网络与手写数字识别.北京印刷学院学报，2016,24 （4）：56-58
＊ [13]高鑫，欧阳宁，袁华．基于快速去噪和深度信念网络的高光谱图像分类方法[J]．桂林电子科技大学学报，2016 (6)：46-476＊ [14]Xiyun Yang,Yanfeng Zhang,Wei Lv,Dong Wang. Image reco gnition of wind turbine blade damage based on a deep learni ng model with transfer learning and an ensemble learning cla ssifier[J]. Renewable Energy,2021,163.
＊ [15]Ting Pang,Jeannie Hsiu Ding Wong,Wei Lin Ng,Chee Seng Chan. Deep learning radiomics in breast cancer with different
modalities: Overview and future[J]. Expert Systems With Appli cations,2020,158.
＊ [16]解帅.深度学习和深度强化学习综述[J].信息技术与信息化,2020(05):225-227.
＊ [17]Enoch Chang,Justin Du,Roy Decker,James Yu,Henry Park ,Sanjay Aneja. Development and Validation of a Deep Learn ing Algorithm to Predict Radiation Pneumonitis and Esopha gitis Following Lung Stereotactic Body Radiation Therapy[J]. International Journal of Radiation Oncology, Biology, Physi cs,2020,108(2).
＊ [18]Enoch Chang,Justin Du,Roy Decker,James Yu,Henry Park ,Sanjay Aneja. Development and Validation of a Deep Learn ing Algorithm to Predict Radiation Pneumonitis and Esopha gitis Followin
g Lung Stereotactic Body Radiation Therapy[J]. International Journal of Radiation Oncology, Biology, Physi cs,2020,108(2).
＊ [19]石先让，苏洋，提艳，宋廷伦，戴振泳.T＿CenterNet: 基于Cen terNet目标检测算法的改进模型[J/OL].计算机工程:1-13[2020-09-22]./10.19678/j.issn.1000-3428.0058800.
＊ [20]Sébastien Villon,David Mouillot,Marc Chaumont,Gérard Subsol,Thomas Claverie,Sébastien Villéger. Author Correction: A new method to control error rates in automated species ide ntification with deep learning algorithms[J]. Scientific Repor ts,2020,10(1)
接收到的WIFI信号强度如表2所示。
表2 接收信号强度数据对比（单位dBm）
次数12345678910范围内铜管-70-75-73-74-71-73-69-73-71-70定向-70-68-72-69-68-67-70-71-68-66范围外铜管-70-71-72-70-69-73-74-72-73-75定向-83-82-84-81-80-83-85-82-83-81从表2中可以看出，在定向天线的辐射范围内，由于定向天线发射信号的特性，安装定向天线视频监控设备的WIFI接收信号的强度明显高于代表了全向天线的铜管天线，然而处于定向天线的辐射范围外时，由于铜管天线在各个距离该辐射点的强度相同，所以全向天线的信号明显强于处于辐射范围外的定向天线。
丝绵机
4 结束语
为了降低无线网络视频监控设备的功耗，提高其续航能力，研究系统的低功耗方案显得尤为必要。本方案以MIPS 架构的AT J227X硬件平台为主控，STM32作为MCU，当设备在待机模式下保持主控芯片断电，MCU保持待机，同时WIFI模块处于低功耗工作模式。当网络视频连接请求时，环形主控模块和MCU工作，从而实现降低系统功耗的目的。参考文献
＊ [1]梁晶. 嵌入式系统低功耗设计研究与实现[D].华中科技大学,2004.
＊ [2]杭州巨星科技股份有限公司.一种激光测距专用电路及基于电路的测距方法:CN202010923243.8[P].2020-12-01.
＊ [3]张海存，李喆，刘勇.基于STM32F103模拟绝对式编码器的设计[J].航空精密制造技术,2020,56(4):30-32.
＊ [4]邹志剑.时分多通道透视雷达信号处理与显控系统研究[D].四川：电子科技大学,2016.
＊ [5]熊峰.WiFi Mesh融合网络组播传输优化的研究与实现[D].湖北：华中科技大学,2018.
＊ [6]金海.线性静态传感网络生命周期极大似然延展算法[J].科技通报,2015,31(10):85-87
＊ [7]蔺炜.全向及定向圆极化天线的小型化研究[J].南京信息工程大学学报,2019,11(1):1-7.
＊ [8]张梦怡，王田.一种可应用于物联网的高增益双频定向天线的设计与分析[J].现代电子技术,2018,41(23):6-8,12.
（上接第100页）
www�ele169�com | 95
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议