ＩＳＳＮ１００６－７１６７
ＣＮ３１－１７０７／Ｔ
ＲＥＳＥＡＲＣＨＡＮＤＥＸＰＬＯＲＡＴＩＯＮＩＮＬＡＢＯＲＡＴＯＲＹ
第４０卷第５期 Ｖｏｌ．４０Ｎｏ．５
２０２１年５月Ｍａｙ２０２１
ＤＯＩ：
１０．１９９２７／ｊ．ｃｎｋｉ．ｓｙｙｔ．２０２１．０５．０１４
李成范１
， 胡子荣１
， 刘 岚２
， 丁雪海１
， 童维勤
１
（１．上海大学计算机工
程与科学学院，上海２００４４４；２．上海工程技术大学电子电气工程学院，上海２０１６２０）
摘 要：以“中国视云”科研平台为依托，针对神经网络模型可视化展示，提出一种卷积神经网络（ＣＮＮ）核函数可视化方法。该方法中，通过使用最大激活函数对神经网络核函数进行可视化计算并形成功能模块。实验结果表明：该方法能够清晰展示ＣＮＮ核函数和资源占用变化，具有方便操作、泛用性高等特点。该方法可对ＣＮＮ模型的解释和模型结构与参数改进提供参考和借鉴。关键词：中国视云；卷积神经网络；模块化；可视化；核函数 中图分类号：ＴＰ３１６．８ 文献标志码：Ａ 文章编号：
１００６－７１６７（２０２１）０５－００５７－０５ＡＮｅｗＭｅｔｈｏｄｏｆＫｅｒｎｅｌＦｕｎｃｔｉｏｎＶｉｓｕａｌｉｚａｔｉｏｎｗｉｔｈ
ＣＮＮＢａｓｅｄｏｎｔｈｅＣｈｉｎａＶｉｓｉｏｎＣｌｏｕｄ
ＬＩＣｈｅｎｇｆａｎ１， ＨＵＺｉｒｏｎｇ１，
ＬＩＵＬａｎ２， ＤＩＮＧＸｕｅｈａｉ１，
ＴＯＮＧＷｅｉｑｉｎ１
（１．ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＳｃｉｅｎｃｅ，Ｓｈａ
ｎｇｈａｉＵｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ２００４４４，Ｃｈｉｎａ；２．ＳｃｈｏｏｌｏｆＥｌｅｃｔｒｏｎｉｃａｎｄＥｌｅｃｔｒｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ，ＳｈａｎｇｈａｉＵｎｉｖｅｒｓｉｔｙｏｆＥｎｇｉｎｅｅｒｉｎｇＳｃｉｅｎｃｅ，
Ｓｈａｎｇｈａｉ２０１６２０，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：ＢａｓｅｄｏｎｔｈｅＣｈｉｎａＶｉｓｕａｌＣｌｏｕｄｐｌａｔｆｏｒｍｏｆＳｈａｎｇｈａｉＵｎｉｖｅｒｓｉｔｙ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｓａｎｅｗｍｅｔｈｏｄｏｆｋｅｒｎｅｌｆｕｎｃｔｉｏｎｖｉｓｕａｌｉｚａｔｉｏｎｗｉｔｈＣＮＮｆｏｒｔｈｅｖｉｓｕａｌｉｚａｔｉｏｎｄｅｍｏｎｓｔｒａｔｉｏｎｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｍｏｄｅｌｓ．Ｉｎｔｈｉｓｍｅｔｈｏｄ，ｔｈｅｋｅｒｎｅｌ
ｆｕｎｃｔｉｏｎｏｆＣＮＮｉｓｖｉｓｕａｌｉｚｅｄｂｙｔｈｅｍａｘｉｍｕｍａｃｔｉｖａｔｉｏｎｆｕｎｃｔｉｏｎａｎｄｔｈｅｎｆｏｒｍｅｄｔｈｅｆｕｎｃｔｉｏｎａｌｍｏｄｕｌｅｓ．ＴｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｃａｎｃｌｅａｒｌｙｄｅｍｏｎｓｔｒａｔｅｔｈｅｃｈａｎｇｅｓｏｆｋｅｒｎｅｌｆｕｎｃｔｉｏｎａｎｄｒｅｓｏｕｒｃｅｏｃｃｕｐａｎｃｙｉｎｔｈｅＣＮＮｍｏｄｅｌ，
ａｎｄｈａｓｔｈｅｃｈａｒａｃｔｅｒｉｓｔｉｃｓｏｆｃｏｎｖｅｎｉｅｎｔｏｐｅｒａｔｉｏ
ｎａｎｄｈｉｇｈｇｅｎｅｒａｌｉｚａｔｉｏｎ．ＩｔｃａｎｐｒｏｖｉｄｅｒｅｆｅｒｅｎｃｅｆｏｒｔｈｅｉｎｔｅｒｐｒｅｔａｔｉｏｎｏｆｔｈｅＣＮＮｍｏｄｅｌａｎｄｔｈｅｉｍｐｒｏｖｅｍｅｎｔｏｆｔｈｅｍｏｄｅｌｓｔｒｕｃｔｕｒｅａｎｄｐａｒａｍｅｔｅｒｓ．Ｋｅｙｗｏｒｄｓ：ＣｈｉｎａｖｉｓｉｏｎＣｌｏｕｄ；ｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋ（ＣＮＮ
）；ｍｏｄｕｌａｒｉｚａｔｉｏｎ；ｖｉｓｕａｌｉｚａｔｉｏｎ；ｋｅｒｎｅｌｆｕｎｃｔｉｏｎ
收稿日期：２０２０ ０７ ３０
基金项目：上海市科委项目（１９１４２２０１６００，１９ｄｚ２２５２６００
）作者简介：李成范（１９８１－
），男，河南南阳人，博士，高级实验师，主要从事智能信息处理、实验技术信息化及科普推广研究。
Ｔｅｌ．：０２１ ６６１３５２５７；Ｅ ｍａｉｌ：
ｌｃｈｆ＠ｓｈｕ．ｅｄｕ．ｃｎ
aod通信作者：刘
岚（１９８２
），女，山东济宁人，博士，实验师，主要从事智能信息处理和实验技术信息化研究。Ｔｅｌ．：０２１ ６６７４５３６６；Ｅ ｍａｉｌ：ｌｉｕｌａｎ＠ｓｕｅｓ．ｅｄｕ．ｃｎ
０
引
言近年来，人工智能领域发展迅速，尤其在深度学习这一重要领域尤为明显。图形处理器（ＧｒａｐｈｉｃｓＰｒｏｃｅｓｓｉｎｇＵｎｉｔ，ＧＰＵ）
计算和并行计算的发展，推动着神经网络领域的研究快速步入了一个飞速发展的
阶段。神经网络在人工智能领域发展中起着重要作用，但依旧是可解释性有限的黑盒函数近似器，尤其现在涌现的好多模型都是封装过的，以至于难以理解内部的具体结构。比如卷积神经网络（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ，ＣＮＮ）［１
］和循环神经网络（ＲｅｃｕｒｒｅｎｔＮｅｕｒａｌＮｅｔｗｏｒｋ，ＲＮＮ）等深度学习模型，尽管在许多方面表现突出，但网络结构复杂，模型参数较多，以至从数学角度解释最终的输出与模型参数之间的关联面临着很大的困难
［２ ４
］。对模型层次间参数关联和输出之间的影响也并不清楚。随着我国综合国力的持续增长和政府对科研投入
中国男体
第
４０卷 力度的不断加大，当前大型科研仪器保有量呈现井喷
式增长趋势［５ ７
］。这为科技创新与发展提供了坚实的硬件基础。高校作为社会的一个重要组成部分，大型仪器的保
有量和使用现状在一定程度上体现了其科技创新和服务社会的水平。高校大型科学仪器不仅设备数量众多，而且类型复杂多样，使用状况也不尽相同［８
］。“中国视云”科研平台于２０１８年搭建而成。本文依托“中国视云”这一大型科学仪器平台，针对深度学习可视化中存在的问题和现有开发工具的不足，通
过对ＣＮＮ可视化进行研究［９ １３
］，实现对神经网络结
构、核函数、资源调度、学习特征可视化；通过可视化方法解释神经网络，还原和展示神经网络的训练过程［１４ １５ ］。国内外对可视化方面的研究也颇多，２００９年Ｅｒｈａｎ等提出了对传统的浅层网络进行解释的激活函数最大化算法［１６
］，后期衍生出的许多特征可视化方法都是基于这种方法；Ｍａｈｅｎｄｒａｎ等提出了网络反演算法重建基于多个神经元激活的输入图像，以此来实现每个卷积层中学习到的综合特征图可视化，揭示了
ＣＮＮ在隐藏层层面的内部特征［１７
］；Ｚｅｉｌｅｒ等
［１８
］提出了基于反ＣＮＮ的可视化方法，通过直接映射解释ＣＮＮ中突出显示激活的特定神经元，从而直接链接神经元
和输入数据；周博磊等在２０１８年提出了基于网络剖分 的可视化［１９
］，通过引用异构图像数据集有效地将输入图像分割为多个具有各种语义定义的部分，显著提高了神经元的可解释性。深度学习可视化发展主要体现在对深度学习可视化内容的研究不断深入和可视化的工具越来越多［２０ ２１］，功能也越来越强大。深度学习可视化逐渐向涉及整个模型训练过程和特征量化的方向发展。这些工具目前仍局限于网络结构、特征图、训练参数等可视化［２２ ２３
］。随着深度学习可视化研究的深入，可视化工
具势必会越来越多、功能也愈加丰富
［２４
］。本文提出的一种基于“中国视云”平台的ＣＮＮ可视化方法，通过利用最大激活函数方法和模块化封装技术有效解决了可视化工具兼容性低、可视化种类单一、网络层次和训练过程细节模糊问题，具有较好的应用前景。
１
可视化工具模块设计
本可视化库封装采用Ｐｙｔｈｏｎ文件，用户可以通过
ｉｍｐｏｒｔ工具直接引入。该可视化库的功能主要分为以下两个方面：（１）创建数据存放目录。该功能通过将一次运行中的数据都存放至同一个目录，方便后端对数据文件的读取；
（２）可视化功能模块。该
模块文件中封装了多个可视化功能，用户可以通过引入该模块来调用相应
方法。１．１ 网络结构网络结构可视化技术主要采用ｊＣａｎｖａｓ．ｊｓ图形库。ｊＣａｎｖａｓ．ｊｓ图形库是一个基于ｊＱｕｅｒｙ框
架和ｃａｎｖａｓ标签的纯ＪａｖａＳｃｒｉｐｔ库，它提供多种基础图形和文本功能，并且通过ｊＱｕｅｒｙ封装一系列交互功能，例如点击、鼠标悬停等。特征图可视化、核函数可视化都是基于网络结构可视化来实现的，通过选定网络某一层将相应层次的
特征图、核函数内容可视化出来，本文采用的是
Ｒｅｓｎｅｔ残差神经网络进行实验，网络结构如图１所示。由图１可见，Ｒｅｓｎｅｔ是由６层网络构成的，分别为１个卷积层、４个残差层和１个
池化层全连接层
。图
１ Ｒｅｓｎｅｔ５０
网络结构图
１．２
核函数
在神经网络中，核函数可视化是通过
ＡｃｔｉｖａｔｉｏｎＭａｘｉｍｉｚａｔｉｏｎ（ＡＭ）算法实现的。ＡＭ算法是用来可视化各个卷积层输入偏好的一种算法，其中每个神经元都负责提取特定特征。对于给定具有该特征的输入，则可在该神经元处得到最大的激活值。ＡＭ算法是通过输入特征ｘ来
最大化神经元的激活函数：ｆ（ｘ）＝ａｒｇｍａｘｘ
ａｉ，ｊ（θ，
ｘ）（１）式中：ｘ为神经网络的输入；ａｉ，ｊ
（θ，ｘ）为输入特征ｘ第ｉ层中的第ｊ个卷积的激活；θ为权重或偏置值。算法的执行流程大致分为４步：（１）输入图像，获得某一层的特定卷积的激活ａｉ，ｊ
。（２）在ＣＮＮ参数固定情况下，计算激活ａｉ，ｊ
（θ，ｘ）与输入图像的梯度 ａｉ，ｊ
（θ，ｘ）／ ｘ。（３）通过迭代来更改输入图像的像素，使得激活最大化，采用梯度上升算法：
ｘｉ＋１
＝ｘｉ
＋η ａｉ，ｊ
（θ，ｘ） ｘ
ｉ
（２）式中，η为步长。（４）通
过引用正则项获得与真实值相近的解。把网络的直接输入特征ｘ认为是零均值的输入，则优化
问题可定义为
ｆ（ｘ）＝ａｒｇｍａｘｘ
［ａｉ
（ｘ）－Ｒθ
（ｘ）］（３）式中，Ｒθ（ｘ）为样本均值。在实际计算中，通过正则化操作，Ｒθ
（ｘ）将特征ｘ映射为更合适的形式，因此
ｘ的８
５
第
５期李成范，等：一种基于“中国视云”平台的ＣＮＮ核函数可视化方法 迭代公式又可表示为ｘ′＝Ｒθ
ｘ＋η ａｉ
（ｘ） ()ｘ（４）式中，Ｒθ
的常用表达方式包括Ｌ２ｄｅｃａｙ公式、高斯模糊、将范数值较小的像素设置为０、将贡献度小的像素设置为０４种。通过ＡＭ算法获得输入层的输入偏好，得知神经网络卷积核获得的是什么特征，最终达到了解神经网络学习内容的目的。１．３ 资源占用关于资源占用情况的可视化，通过计算每个变量的大小来显示所占用的显存大小，进而确定所需要的显存和容量。网络训练过程中占用资源的
可视化能够为网络设计者和用户显示每层网络运算时间、运算占用资源等情况，从而能够更好指导相关人员分配内存，有针对性的优化网络结构。此外，通过资源占用可视化方法能够查看每一层隐藏层所消耗的时间和占用资源，进而重新设计和优化网络。可视化展示是通过将每个网络层的资源占用比例与运行时间比例以图形显示实现的。１．４ 高维数据降维针对高维数据降维可视化，主要使用最常用的主成分分析法（ｐｒｉｎｃｉｐａｌｃｏｍｐｏｎｅｎｔｓａｎａｌｙｓｉｓ，ＰＣＡ）来实现对高维数据降维之后的可视化展示。ＰＣＡ是通过计算数据矩阵的协方差矩阵获得矩阵中的若干个特征值最大的特征向量。针对高维数据降维，采用奇异值分解方法（ｓｉｎｇｕｌａｒｖａｌｕｅｄｅｃｏｍｐｏｓｉｔｉｏｎ，ＳＶＤ）
来分解协方差矩阵实现ＰＣＡ算法，具体步骤如下：
步骤
１ 输入数据集Ｘ＝ｘ１
，ｘ２
，…，ｘ{}ｎ
进行降维处理；
步骤
２ 去平均值，即每一特征减去各自的平均值；
计算机在线应用
步骤３ 计算每一个特征的协方差矩阵；步骤
４ 利用ＳＶＤ计算协方差矩阵的特征值与特征向量；步骤５ 排序并选择若干个最大的特征值，将特
征向量分别作为列向量组成特征向量矩阵；
步骤６ 将
数据转换到新构建的特征向量空间，进行降维结果可视化展示。
２ 实 验２．１ 实验环境及数据集
本实验依托“中国视云”平台，实验环境基于Ｌｉｎｕｘ服务器，所需的软件为：Ｐｙｔｈｏｎ３．６＋Ｐｙｔｏｒｃｈ１．２
＋ｔｏｒｃｈｖｉｓｉｏｎ０．４＋ＴｅｎｓｏｒＢｏａｒｄ２．０。
为便于对比和验证效果，本实验选择图像识别领
域中公开的ｃｉｆａｒ１０数据集进行测试与验证。该数据集共有６００００张彩图像，图像尺寸均为３２×３２像
素；每６０００张图像为一个类别，一共１０类。在数据集中，设定训练集为前５００００张图像，测试集为后１００００张图像；每一类数据集中又随机抽取１０００张图像作为测试集，余下图像随机排列组成训练集。实验利用ＲｅｓＮｅｔ５０网络对设定好规则的ｃｉｆａｒ１０数据集进行训练，并使用本文所开发的可视化工具进行核函数和资源占用等展示。２．２ 实验过程实验步骤包括以下步骤：（１）预处理数据集，包括载入ｃｉｆａｒ１０数据集和相应的标注；（２）搭建ＲｅｓＮｅｔ５０网络，调用可视化模块中的特征图可视化、核函数可视化函数等功能，将需要可视化的内容写入到数据文件；（３）将数据文件存放至指定目录，通过浏览器访问的方式展示可视化内容。２．３ 实验结果本实验通过“中国视云”平台分别展示网络结构可视化、核函数可视化、资源占有数据可视化和高维数据降维可视化等结果。（１）图２为ＣＮＮ网络结构可视化页面。在卷积层中，分别展示卷积过程、批标准化（Ｂａｔｃｈ
Ｎｏｒｍａｌｉｚａｔｉｏｎ，ＢＮ）、线性整流函数（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒ
ｕｎｉｔ，ＲｅＬＵ）和最大池化层（ｍａｘｐｏｏｌｌａｙｅｒ）。具体结果如图３所
示。图２ ＣＮＮ网络结构 由图３可见，ＣＮＮ网络每层之间捕捉的特征效果明显不同，通过激活函数和最大池化层后特征效果更加明显。在ＲｅｓｉｄｕａｌＢｌｏｃｋ层的输出特征显示中，以第４层为例，具体展示结果如图４所示。 由图４可见，ＲｅｓｉｄｕａｌＢｌｏｃｋ层中的特征图输出展示结果中已经突出显示了部分数据亮点。（２）图５展示了ＲｅｓＮｅｔ５０网络中第４个残差层的可视化结果。由图５可见，在ＲｅｓＮｅｔ５０网络结构９
５
第
４０卷 图
３ ＣｏｎｖＬａｙｅｒ
中各层输出特征图
图中上方为Ｃｏｎｖ层的输出特征，右上方为ＢＮ层的输出特征，左下方
为
ＲｅＬＵ层的输出特征，右下方为ＭａｘＰｏｏｌ层的输出特征（ａ）具体结构
（ｂ）展示结果
图
４ ＲｅｓｉｄｕａｌＢｌｏｃｋ
第４层的结构和输出特征
图５
ＲｅｓｉｄｕａｌＢｌｏｃｋ
网络结构可视化
中，不仅显示出第４层结构包含一个卷积层和２个
教师幸福感调查残差层，通过将存在卷积过程的计算层放在辅助层中，可以通过点击相应的层来查看输入偏好。
图６为残差层中卷积计算得到的输入偏好结果展示。在卷积层和残差层中，通过输入偏好的可视化，使得ＲｅｓＮｅｔ５０模型学习过程和得到的特征结果清晰可见。
图
６ ＲｅｓｉｄｕａｌＢｌｏｃｋ４
中各层输入偏好三五太难了
从图６中
看出，神经网络在深层中更加关注纹理特征。由于输入偏好为随机图像，所以神经网络在浅层更加关注颜特征（图７）
。图
７ ＲｅｓｉｄｕａｌＢｌｏｃｋ１
中ＣｏｎｖＢｌｏｃｋ层输入偏好
由图６、７可
见，根据可视化结果可以清晰地了解特征学习程度和特征提取效果，根据可视化结果对模型参数或其他细节进行调整，以便达到更好的特征学习效果。（３）在资源占用的可视化中，分别生成资源占用情况的环形柱状图，结果如图８、９所示。由图８可
见，ＲｅｓＮｅｔ５０网
络的每一层中分别包含若干个展示各层占用内存情况的子计算层，图
９分别显示ＲｅｓＮｅｔ５０网络中每层和每层中子计算层的计算耗时情况。
图８ 资
源占用情况图９ 计算耗时情况
（４）在
三维数据可视化中，主要显示测试集在测试过程中高维数据降维的结果，如图１０所示。从图
１０中清晰地看出测试用例的分布情况，这表明模型已经具备了分类特征，不同类别数据在经过ＰＣ
Ａ降维后，分类情况非常明显。
０
６
第５期
李成范，等：一种基于“中国视云”平台的ＣＮＮ核函数可视化方法
图１０ 高维数据降维结果展示
３ 结 语
本文提出的一种基于“中国视云”平台的ＣＮＮ核函数可视化方法，并从网络结构、残差层、资源占用、高维数据降维等方面进行讨论和分析。
（１）通过最大激活函数实现ＣＮＮ核函数可视化。与已有的核函数可视化方法比较，本文提出的方法能够清晰地可视化出每层的输出特征和神经网络学习特征。
（２）实现资源占用可视化，能够清晰显示神经网络每层资源使用和计算耗时情况，有助于调整网络
结构和参数优化。
（３）实现可视化功能模块化，加强可视化模块泛用性。后续用户可通过直接调用封装好的模块实现所需的可视化功能。
通过对神经网络核函数细节的可视化展示，不仅可以让研究人员近距离、直观地了解每层之间的变化和联系，而且能够通过可视化展示改进模型结构和参数，优化模型性能。
参考文献（Ｒｅｆｅｒｅｎｃｅｓ）：
［１］ 周飞燕，金林鹏，董 军．卷积神经网络研究综述［Ｊ］．计算机学报，２０１７，４０（６）：１２２９ １２５１．
［２］ ＨａｒｌｅｙＡＷ．Ａｎｉｎｔｅｒａｃｔｉｖｅｎｏｄｅ ｌｉｎｋｖｉｓｕａｌｉｚａｔｉｏｎｏｆｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＬｅｃｔｕｒｅＮｏｔｅｓｉｎＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，２０１５，
９４７４：８６７ ８７７．
［３］ 刘建伟，王园方，罗雄麟．深度记忆网络研究进展［Ｊ］．计算机学报，２０２０，２４（２）：１ ５２．
［４］ ＷａｎｇＺＪ，ＴｕｒｋｏＲ，ＳｈａｉｋｈＯ，ｅｔａｌ．ＣＮＮ１０１：Ｉｎｔｅｒａｃｔｉｖｅｖｉｓｕａｌｌｅａｒｎｉｎｇｆｏｒｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．Ｈｕｍａｎ Ｃｏｍｐｕｔｅｒ
Ｉｎｔｅｒａｃｔｉｏｎ，２０２０，３３（４）：２５ ３２．
［５］ 朱立才，孙 峰，胡小刚，等．采用有力措施提高大型仪器设备的使用率与效益［Ｊ］．实验室研究与探索，２０１０，２９（７）：
１７６ １７８．
［６］ 李成范，周时强，刘 岚，等．高校贵重仪器共享服务和示范应用实践与探索［Ｊ］．实验室研究与探索，２０１８，３７（７）：２９６ ３００．［７］ 赵青山，邹月利，徐雅琴．大型仪器设备科学管理体系的研究与实践［Ｊ］．实验科学与技术，２０１０，８（３）：１７１ １７３．［８］ 左铁镛．高等学校实验室建设的作用与思考［Ｊ］．实验室研究与探索，２０１１，３０（４）：１ ５．［９］ ＳｕｎＸＫ，ＬｉＣＦ，ＬｉｕＬ，ｅｔａｌ．Ｄｙｎａｍｉｃｍｏｎｉｔｏｒｉｎｇｏｆｈａｚｅ
ｐｏｌｌｕｔｉｏｎｕｓｉｎｇｓａｔｅｌｌｉｔｅｒｅｍｏｔｅｓｅｎｓｉｎｇ［Ｊ］．ＩＥＥＥＳｅｎｓｏｒｓＪｏｕｒｎａｌ，
２０１５，２０（２０）：１１８０２ １１８１１．
［１０］ ＳｔｒｏｂｅｌｔＨ，ＧｅｈｒｍａｎｎＳ，ＰｆｉｓｔｅｒＨ，ｅｔａｌ．ＬＳＴＭＶｉｓ：Ａｔｏｏｌｆｏｒ
ｖｉｓｕａｌａｎａｌｙｓｉｓｏｆｈｉｄｄｅｎｓｔａｔｅｄｙｎａｍｉｃｓｉｎｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋｓ
［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＶｉｓｕａｌｉｚａｔｉｏｎａｎｄＣｏｍｐｕｔｅｒＧｒａｐｈｉｃｓ，
２０１８，２４（１）：６６７ ６７６．
［１１］ ＫａｈｎｇＭ，ＣｈａｕＤＨ．ＨｏｗｄｏｅｓｖｉｓｕａｌｉｚａｔｉｏｎｈｅｌｐｐｅｏｐｌｅｌｅａｒｎｄｅｅｐｌｅａｒｎｉｎｇＥｖａｌｕａｔｉｏｎｏｆＧＡＮｌａｂ［Ｃ］／／ＩＥＥＥ２０１９Ｗｏｒｋｓｈｏｐｏｎ
ＥｖａｌｕａｔｉｏｎｏｆＩｎｔｅｒａｃｔｉｖｅＶｉｓｕａｌＭａｃｈｉｎｅＬｅａｒｎｉｎｇＳｙｓｔｅｍｓ（ＶＩＳ）．
Ｖａｎｃｏｕｖｅｒ，ＢＣ，Ｃａｎａｄａ：［ｓ．ｎ．］，２０１９：１１１ １１３．
［１２］ ＣｈｏＳ，ＣｈｏｉＪ．Ｖｉｓｕａｌｉｚａｔｉｏｎｏｆｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｔｉｍｅｓｅｒｉｅｓｉｎｐｕｔｄａｔａ［Ｊ］．ＪｏｕｒｎａｌｏｆＫＩＩＳＥ，２０２０，４７（５）：
４４５ ４５３．
［１３］ ＹｏｓｉｎｓｋｉＪ，ＣｌｕｎｅＪ，ＮｇｕｙｅｎＡ，ｅｔａｌ．Ｕｎｄｅｒｓｔａｎｄｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋｓｔｈｒｏｕｇｈｄｅｅｐｖｉｓｕａｌｉｚａｔｉｏｎ［Ｊ］．ＣｏｍｐｕｔｅｒＶｉｓｉｏｎａｎｄ
ＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ，２０１５，２５（３）：２５６ ２６８．
［１４］ ＬｉｕＭ，ＳｈｉＪ，ＣａｏＫ，ｅｔａｌ．Ａｎａｌｙｚｉｎｇｔｈｅｔｒａｉｎｉｎｇｐｒｏｃｅｓｓｅｓｏｆｄｅｅｐｇｅｎｅｒａｔｉｖｅｍｏｄｅｌｓ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＶｉｓｕａｌｉｚａｔｉｏｎａｎｄ
ＣｏｍｐｕｔｅｒＧｒａｐｈｉｃｓ，２０１８，２４（１）：７７ ８７．
［１５］ ＰｅｚｚｏｔｔｉＮ，ＨｏｌｌｔＴ，ＶａｎＧｅｍｅｒｔＪ，ｅｔａｌ．ＤｅｅｐＥｙｅｓ：ｐｒｏｇｒｅｓｓｉｖｅｖｉｓｕａｌａｎａｌｙｔｉｃｓｆｏｒｄｅｓｉｇｎｉｎｇｄｅｅ
ｐｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＩＥＥＥ
ＴｒａｎｓａｃｔｉｏｎｓｏｎＶｉｓｕａｌｉｚａｔｉｏｎａｎｄＣｏｍｐｕｔｅｒＧｒａｐｈｉｃｓ，２０１８，２４
（１）：９８ １０８．
［１６］ ＫａｒｉｍｉＤ，ＳａｌｃｕｄｅａｎＳＥ．Ｒｅｄｕｃｉｎｇｔｈｅｈａｕｓｄｏｒｆｆｄｉｓｔａｎｃｅｉｎｍｅｄｉｃａｌｉｍａｇｅｓｅｇｍｅｎｔａｔｉｏｎｗｉｔｈｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．
ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＭｅｄｉｃａｌＩｍａｇｉｎｇ，２０１９，２２（８）：５６４ ５７１．［１７］ ＤｅｖｌｉｎＪ，ＣｈａｎｇＭＷ，ＬｅｅＫ，ｅｔａｌ．Ｂｅｒｔ：Ｐｒｅ ｔｒａｉｎｉｎｇｏｆｄｅｅｐ
ｂｉｄｉｒｅｃｔｉｏｎａｌｔｒａｎｓｆｏｒｍｅｒｓｆｏｒｌａｎｇｕａｇｅｕｎｄｅｒｓｔａｎｄｉｎｇ［Ｊ］．Ｃｏｍｐｕｔｅｒ
ａｎｄＬａｎｇｕａｇｅ，２０１８，１１（２）：１ １６．
［１８］ ＺｅｉｌｅｒＭＤ，ＦｅｒｇｕｓＲ．Ｖｉｓｕａｌｉｚｉｎｇａｎｄｕｎｄｅｒｓｔａｎｄｉｎｇｃｏｎｖｏｌｕｔｉｏｎａｌ
ｎｅｔｗｏｒｋｓ［Ｃ］／／１３ｔｈＥｕｒｏｐｅａｎｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎ
（ＥＣＣＶ）．Ｚｕｒｉｃｈ，Ｓｗｉｔｚｅｒｌａｎｄ：［ｓ．ｎ．］，２０１４：８１８ ８３３．［１９］ ＺｈｏｕＺ，ＣａｉＨ，ＲｏｎｇＳ，ｅｔａｌ．Ａｃｔｉｖａｔｉｏｎｍａｘｉｍｉｚａｔｉｏｎｇｅｎｅｒａｔｉｖｅａｄｖｅｒｓａｒｉａｌｎｅｔｓ［Ｃ］／／ＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＬｅａｒｎｉｎｇ
Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ（ＩＣＬＲ）．Ｖａｎｃｏｕｖｅｒ，Ｃａｎａｄａ：［ｓ．ｎ．］，２０１７：２４
４８．
［２０］ ＹａｎｇＹ，ＣｈｅｎＴ．Ａｎａｌｙｓｉｓａｎｄｖｉｓｕａｌｉｚａｔｉｏｎｉｍｐｌｅｍｅｎｔａｔｉｏｎｏｆ
ｍｅｄｉｃａｌｂｉｇｄａｔａｒｅｓｏｕｒｃｅｓｈａｒｉｎｇｍｅｃｈａｎｉｓｍｂａｓｅｄｏ
ｎｄｅｅｐｌｅａｒｎｉｎｇ石榴套袋技术
［Ｊ］．ＩＥＥＥＡｃｃｅｓｓ，２０１９，７（９９）：１５６０７７ １５６０８８．
［２１］ ＫａｈｎｇＭ，ＡｎｄｒｅｗｓＰＹ，ＫａｌｒｏＡ，ｅｔａｌ．ＡｃｔｉＶｉｓ：Ｖｉｓｕａｌｅｘｐｌｏｒａｔｉｏｎｏｆｉｎｄｕｓｔｒｙ ｓｃａｌｅｄｅｅｐｎｅｕｒａｌｎｅｔｗｏｒｋｍｏｄｅｌｓ［Ｊ］．ＩＥＥＥ
ＴｒａｎｓａｃｔｉｏｎｓｏｎＶｉｓｕａｌｉｚａｔｉｏｎａｎｄＣｏｍｐｕｔｅｒＧｒａｐｈｉｃｓ，２０１８，２４
（１）：８８ ９７．
［２２］ ＳｈａｆｆｅｒＣＡ，ＣｏｏｐｅｒＭＬ，ＡｌｏｎＡＪＤ，ｅｔａｌ．Ａｌｇｏｒｉｔｈｍｖｉｓｕａｌｉｚａｔｉｏｎ：ＴｈｅＳｔａｔｅｏｆｔｈｅｆｉｅｌｄ［Ｊ］．ＡＣＭＴｒａｎｓａｃｔｉｏｎｓｏｎ
ＣｏｍｐｕｔｉｎｇＥｄｕｃａｔｉｏｎ，２０１０，１０（３）：１ ２２．
［２３］ ＳｉｍｏｎｙａｎＫ，ＺｉｓｓｅｒｍａｎＡ．Ｖｅｒｙｄｅｅｐｃｏｎｖｏｌｕｔｉｏ
ｎａｌｎｅｔｗｏｒｋｓｆｏｒｌａｒｇｅ ｓｃａｌｅｉｍａｇｅｒｅｃｏｇｎｉｔｉｏｎ［Ｃ］／／ＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎ
ＬｅａｒｎｉｎｇＲｅｐｒｅｓｅｎｔａｔｉｏｎｓ（ＩＣＬＲ）．Ｂａｎｆｆ，ＡＢ，Ｃａｎａｄａ：［ｓ．ｎ．］，
２０１４：３２４ ３３８．
［２４］ 罗 荣，王 亮，肖玉杰．深度学习技术应用现状分析与发展趋势研究［Ｊ］．计算机教育，２０１９（１０）：１９ ２２．
１６
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议