图像卷积及其计算（特征图尺⼨、参数量、计算量）
卷积前后特征图尺⼨的计算定义参数如下：输⼊特征图尺⼨： 卷积核尺⼨： 步长： 填充的像素数：则有输出特征图尺⼨为 ：
参数量的计算
卷积层的参数量卷积的参数量即卷积核的参数量，设我们有如下参数：卷积核尺⼨：前⼀层的通道数：当前层的卷积核个数：单个卷积核的参数量：
有 个卷积核，故：
纯化水微生物限度全连接层的参数量
上⾯已经说过卷积层的参数量计算⽅法了，那如何计算全连接层的参数量？其实和卷积层参数量的计算⽅法是⼀样的。我们在进⾏全连接层的计算之前需要将最后⼀层卷积得到的特征图展开为⼀维的向量，即 ，其中 是最后⼀层卷积输出特征图的⾼宽和通道数， 即为本全连接层的输⼊特征维度，⼜设 为输出特征维度，则有：
可以理解为是⼀个卷积层，我们就是⽤4096个 的卷积核去做卷积。
验证
我们⽤VGG16， PyTorch来验证我们的公式是否正确。
W ×W
F ×F
S
P
N ×N N =(W −F +2P )/S +1
K
C in
C out
Params =kernel C ×in K 2
C out Params =conv K ×2C ×in C out白介素8
D =in H ×W ×C H , W , C D in D out Params =FC D ×in D out
7×7×512
VGG16的第⼀个卷积层输⼊为原图像 ，卷积核个数为 ，尺⼨为3，则根据公式，我们有VGG16第⼀个卷积层的参数量：
VGG16第⼀个全连接层的输⼊维度数为最后⼀张特征图的尺⼨拉直：，输出维度数为4046，则：
⼿动计算好之后我们⽤PyTorch来打印输出以下看⼀下：
import torch
from torchvision .models import resnet50, vgg16
import numpy as np
model = vgg16()
双脉冲发动机for name , parameters in model .named_parameters ():
print (name , ':', np .prod (parameters .size ()))
输出：
features.0.weight : 1728
features.0.bias : 64
...
classifier.0.weight : 102760448
classifier.0.bias : 4096
计算正确。
pengyouwang卷积的计算量
参考：
MAC
MAC：Multiply Accumulate，乘加运算。乘积累加运算（英语：Multiply Accumulate, MAC）是在数字信号处理器或⼀些微处理器中的特殊运算。实现此运算操作的硬件电路单元，被称为“乘数累加器”。这种运算的操作，是将乘法的乘积结果和累加器的值相加，再存⼊累加器： 使⽤MAC可以将原本需要的两个指令操作减少到⼀个指令操作，从⽽提⾼运算效率。
计算量FLOPs 的计算
以下不考虑激活函数的计算量。
卷积层
=输⼊通道数， =卷积核尺⼨，=输出特征图空间尺⼨，=输出通道数。
⼀个MAC算两个个浮点运算，所以在最前⾯。不考虑bias时有，有bias时没有。由于考虑的⼀般是模型推理时的计算量，所以上述公式是针对⼀个输⼊样本的情况，即batch size=1。咨询业
理解上⾯这个公式分两步，括号内是第⼀步，计算出输出特征图的⼀个pixel的计算量，然后再乘以 拓展到整个输出特征图。
224×224×364Params =conv K ×2C ×in C =out 3×23×64=1728物探局
D =in 7×7×512Params =FC D ×in D =out 4096×4096=102760448
a ←a +
b ×c
(2×C ×i K −21)×H ×W ×C 0
C i K H ,W C o ×2−1−1H ×W ×C o
括号内的部分⼜可以分为两步，。第⼀项是乘法运算数，第⼆项是加法运算数，因为 个数相加，要加 次，所以不考虑bias，会有⼀个，如果考虑bias，刚好中和掉，括号内变为 。
全连接层
全连接层： =输⼊层神经元个数 ，=输出层神经元个数。
还是因为⼀个MAC算两个个浮点运算，所以在最前⾯。同样不考虑bias时有，有bias时没有。分析同理，括号内是⼀个输出神经元的计算量，拓展到了输出神经元。可以⽤ thop 库来验证。
Ref (2⋅C ⋅i K −21)=(C ⋅i K )+2(C ⋅i K −21)n n −1−12⋅C ⋅i K 2(2×I −1)×O
I O ×2−1−1O
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议