基于跨模态注意力机制的超短期太阳辐射预测方法及系统



1.本发明涉及可再生能源开发利用技术领域,具体涉及一种基于跨模态注意力机制的超短期太阳辐射预测方法及系统。


背景技术:



2.太阳辐射作为影响光伏功率的重要因素,其间歇性和波动性导致的光伏输出功率波动,影响了对电网的安全稳定控制,进而限制了其大规模应用。因此,有必要运用太阳辐射超短期预测成果,减少电网备用储备和辅助成本,提升电网电能质量,进而提升电网安全稳定运行控制水平。
3.数据来源是影响数据驱动的太阳辐射预测模型的重要因素。常规的基于历史太阳辐射与数值天气预报数据的预测模型受到数据精度与算法原理的制约,难以适应超短期时间尺度的预测要求。而地基云图数据的引入,使得准确预测超短期时间尺度的太阳辐射成为可能。然而,现有的算法存在特征之间关联特性提取不充分、未充分利用运算资源等问题,从而制约了太阳辐射预测模型的应用价值。如何高效利用运算资源,充分提取历史数据的时序特征与多元特征中的耦合特征,进而提升预测模型对于太阳辐射突变预测能力,是当前可再生能源利用的难点。


技术实现要素:



4.发明目的:本发明的目是提供一种基于跨模态注意力机制的超短期太阳辐射预测方法及系统,解决上述太阳辐射预测技术的难点。
5.技术方案:为了实现上述发明目的,本发明提出的基于注意力机制和地基云图的超短期太阳辐射预测方法,包括以下步骤:
6.(1)利用farneback光流法将灰度地基云图数据转换为帧间光流场,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比,利用经验公式估计晴空太阳辐射值;
7.(2)对地基云图帧间光流图进行裁剪、拼接、嵌入,通过自注意力机制和多层感知机提取地基云图帧间光流场的局部动态特征,得到云图动态特征编码e
opt

8.(3)通过稀疏自注意力机制提取历史时序数据的时序耦合特征,得到历史时序特征编码e
his
,所述历史时序数据包括历史太阳辐射i
his
、晴空太阳辐射估计值ig、历史温度数据t
his
、历史湿度数据h
his
、地基云图晴空比数据kc;
9.(4)通过跨模态注意力机制将云图动态特征编码e
opt
和历史时序特征编码e
his
进行融合,得到融合特征向量e
fus

10.(5)基于融合特征向量e
fus
和解码器输入x
de
通过生成式解码得到太阳辐射超短期多步预测结果。
11.进一步地,利用farneback光流法将灰度地基云图数据转换为帧间光流场包括:
12.将地基云图用二次多项式来近似表示:i(x)~x
t
ax+b
t
x+c,其中,x指的是像素的空间位置表示(x,y)
t
,a、b、c为二次多项式系数;
13.基于相邻云图的亮度不变性假设,匹配云图相邻帧的二次多项式系数,并作实用性调整:
14.i1(x)≈i2(x)
[0015][0016][0017]
由此得到farneback稠密光流计算方法的目标函数,其函数公式为:
[0018][0019]
对目标函数进行梯度下降,融合x轴向和y轴向的光流图,得到连续云图帧的整体稠密光流解。
[0020]
进一步地,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比包括:
[0021]
计算rgb全彩地基云图各个像素位置的红蓝比矩阵rbr,并归一化为值域为[0,1]的正则化红蓝比矩阵nrbr,计算式如下:
[0022][0023]
其中,r和b分别为全彩地基云图的红和蓝通道下的像素矩阵;
[0024]
对于得到的地基云图正则化红蓝比矩阵nrbr,通过和预设阈值τ进行比较判断,将晴空区域标志为1,云层覆盖区域标志为0,得到地基云图全域标志位cv,定义如下:
[0025][0026]
基于地基云图全域标志位计算地基云图全域晴空比kc,计算式如下:
[0027]
kc=∑cv/(h
×
w)
[0028]
其中,h与w分别为地基云图的高度和宽度。
[0029]
进一步地,所述步骤(2)包括:
[0030]
将尺寸为(h,w,2)的地基云图帧间光流图在各通道上裁剪为n个尺寸为(p,p)的光流块,其中,n=h
×
w/p2;将各个光流块平铺成一维向量并进行融合,得到尺寸为(n,2p2)的光流表征x
p
;通过全连接层对各个光流块实施词嵌入操作,嵌入维度为d
model
;引入位置编码e
pos
来区分n个光流块的空间位置,得到光流特征编码方法的输入特征z0,定义如下:
[0031][0032]
其中,[
·
]为融合操作;e表示词嵌入转化矩阵;
[0033]
将特征z0输入包括自注意力机制和多层感知机的编码子模块,并在自注意力机制和多层感知机处理前分别实施层归一化操作,对自注意力机制和多层感知机处理后得到的特征向量附加残差连接;在重复m次操作后,得到云图动态特征编码e
opt
,自第l-1层到第l层的特征映射,定义如下:
[0034]z′
l
=msa(ln(z
l-1
))+z
l-1
[0035]zl
=mlp(ln(z

l
))+z

l

[0036]
其中,msa表示多头自注意力机制编码操作,ln表示层归一化操作,mlp表示多层感知机编码操作,经过m层编码操作,选取第m层的输出作为光流动态特征编码e
opt
=ln(zm)。
[0037]
进一步地,所述步骤(3)包括:
[0038]
基于历史时序数据构建输入特征l
x
为输入时序数据的时间步长,根据词嵌入维度d
model
对历史时序数据作词嵌入操作;
[0039]
通过稀疏自注意力机制提取每一特征间的时序特征以及不同特征间的耦合特征,并通过蒸馏机制进行特征精炼,蒸馏机制包括一维卷积、激活函数以及池化操作,定义如下:
[0040][0041]
其中,表示第t个时间步的输入特征在第j层蒸馏得到的特征向量,maxpool(
·
)为最大池化操作;elu(
·
)为激活函数;conv1d(
·
)为时间维度的一维卷积操作;[
·
]
ab
为稀疏自注意力机制,所述稀疏注意力机制选取m(qi,k)的值降序排列中前u个特征作为稀疏注意力机制的质询向量
[0042][0043][0044]
其中,as(q,k,v)为稀疏注意力机制更新得到的值向量,softmax(
·
)为激活函数,v为稀疏注意力机制的值向量value,k为稀疏注意力机制键向量key,lk为键向量的长度,q表示稀疏注意力的质询向量query;
[0045]
基于多层蒸馏机制,得到时序数据特征编码e
his

[0046]
进一步地,所述步骤(4)包括:
[0047]
将云图动态编码特征e
opt
作为注意力机制的键向量和值向量,历史时序特征编码e
his
作为质询向量,运用跨模态注意力机制计算两者特征之间的耦合联系,并通过堆叠多层跨模态注意力机制提升特征挖掘的水平,每一层跨模态注意力机制的定义如下:
[0048][0049]
同样地,将历史时序特征编码e
his
作为注意力机制的键向量和值向量,云图动态编码特征e
opt
作为质询向量,得到:
[0050][0051]
分别对得到的特征y
opt
和y
his
应用多层感知机进行前馈操作,使其向量维度与词嵌入维度d
model
一致,最后将得到的特征进行融合,得到最终的融合特征编码e
fus
,定义如下:
[0052][0053]
进一步地,所述步骤(5)包括:
[0054]
将待预测数据前的一段时间内的历史数据作为标志位x
token
,定义如下:
[0055][0056]
其中,l
token
和l0分别为标志位和待预测向量的长度;
[0057]
对解码器输入x
de
词嵌入操作,词嵌入维度为d
model
,得到注意力机制的输入向量y0;对y0分别作稀疏自注意力机制运算和多头注意力机制处理,其中,多头注意力机制设置稀疏自注意力机制的输出作为value,融合特征向量e
fus
作为query和key;通过多层稀疏自注意力机制运算和多头注意力机制得到解码器输出向量,再通过多层感知机的前馈操作得到太阳辐射的多步预测结果
[0058][0059]
其中,[
·
]
ab
为稀疏自注意力机制。
[0060]
本发明还提供一种基于跨模态注意力机制的超短期太阳辐射预测系统,包括:
[0061]
特征抽取模块,用于利用farneback光流法将灰度地基云图数据转换为帧间光流场,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比,利用经验公式估计晴空太阳辐射值;
[0062]
第一编码模块,用于对地基云图帧间光流图进行裁剪、拼接、嵌入,通过自注意力机制和多层感知机提取地基云图帧间光流场的局部动态特征,得到云图动态特征编码e
opt

[0063]
第二编码模块,用于通过稀疏自注意力机制提取历史时序数据的时序耦合特征,得到历史时序特征编码e
his
,所述历史时序数据包括历史太阳辐射i
his
、晴空太阳辐射估计值ig、历史温度数据t
his
、历史湿度数据h
his
、地基云图晴空比数据kc;
[0064]
跨模态学习模块,用于通过跨模态注意力机制将云图动态特征编码e
opt
和历史时序特征编码e
his
进行融合,得到融合特征向量e
fus

[0065]
解码模块,用于基于融合特征向量e
fus
和解码器输入x
de
通过生成式解码得到太阳辐射超短期多步预测结果。
[0066]
本发明还提供一种计算机设备,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如上所述的基于注意力机制和地基云图的超短期太阳辐射预测方法的步骤。
[0067]
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的基于注意力机制和地基云图的超短期太阳辐射预测方法的步骤。
[0068]
有益效果:本发明应用注意力机制实现全过程并行化计算,充分利用运算资源,提升运算效率;通过基于稀疏自注意力机制的历史时序特征提取方法,能够关注较长时间步的时序信息,着力弥补常用的循环神经网络系列模型对较远时间信息丢失的问题;通过跨模态学习方法,能够挖掘地基云图动态特征与历史时序特征之间的耦合特性,提升模型对多源数据关联特征的表征能力;从而本发明提出的基于注意力机制的端到端深度学习框架,能够高效提取特征内的历史时序联系以及多源特征间的耦合特性,实现提前10~30分钟的太阳辐射准确预测任务。本发明贴合电网经济安全调度实际,可应用于部署全天空成像仪的光伏电站,提升太阳能资源利用水平,缓解太阳辐射随机性与波动性对电网的冲击,
满足电网监控与经济安全调控的需求,并能高效利用运算资源,具有良好的社会效益和经济效益。
附图说明
[0069]
图1为本发明的太阳辐射预测方法流程示意图;
[0070]
图2为本发明提出的图像动态注意力机制示意图;
[0071]
图3为本发明采用的稀疏自注意力时序特征提取方法的示意图;
[0072]
图4为本发明采用的跨模态学习方法的示意图;
[0073]
图5为本发明采用的生成式解码方法的示意图;
[0074]
图6为本发明实施例中采用所提方法的预测结果时序拟合展示图。
[0075]
图7为本发明实施例中不同气象条件下跨模态注意力机制的注意力权重分布图。
具体实施方式
[0076]
下面结合附图对本发明的技术方案作进一步说明。
[0077]
如图1所示,本发明基于跨模态注意力机制的超短期太阳辐射预测方法包括:用于基于地基云图数据提取特征特征抽取步骤;用于基于光流场和历史时序数据获取云图动态特征编码和历史时序特征编码的编码步骤;用于对特征编码进行融合得到融合特征向量的跨模态学习步骤;以及用于通过生成式解码得到太阳辐射超短期多步预测结果的解码步骤。
[0078]
在本发明的实施方式中,提取特征的操作包括地基云图光流转换、地基云图晴空比计算、晴空太阳辐射估计方法。
[0079]
地基云图光流转换方法:将地基云图数据转化成动态光流场,是为了让深度模型更容易提取到云图中云团运动的动态特征,从而提升模型对于太阳辐射波动特性的捕获能力。本发明采用farneback光流计算方法,将灰度地基云图数据转换为帧间光流场,其方法具体包括:
[0080]
将地基云图用二次多项式来近似表示:i(x)~x
t
ax+b
t
x+c,其中,x指的是像素的空间位置表示(x,y)
t
,a、b、c为二次多项式系数;
[0081]
基于相邻云图的亮度不变性假设,匹配云图相邻帧的二次多项式系数,并作实用性调整:
[0082]
i1(x)≈i2(x)
[0083][0084][0085]
由此得到farneback稠密光流计算方法的目标函数,其函数公式为:
[0086][0087]
对目标函数进行梯度下降,融合x轴向和y轴向的光流图,得到连续云图帧的整体稠密光流解。
[0088]
地基云图晴空比计算方法:计算地基云图晴空比可以直观地获取云团对于晴空的遮挡情况,连续的地基云图晴空比数据反映了云团的生消与运动情况,从而为准确预测太阳辐射提供支撑。本发明采用正则化红蓝比阈值法,对rgb全彩地基云图计算晴空比例,其方法具体包括:
[0089]
首先,计算rgb全彩地基云图各个像素位置的红蓝比矩阵rbr,并转换为值域为[0,1]的正则化红蓝比矩阵nrbr,定义如下:
[0090][0091]
其中,r和b分别为全彩地基云图的红和蓝通道下的像素矩阵。
[0092]
其次,对于得到的地基云图正则化红蓝比矩阵nrbr,通过阈值判断,将晴空区域标志为1,云层覆盖区域标志为0,得到地基云图全域标志位cv,本发明中采用经验方法设置阈值τ=0.45,地基云图全域标志位cv的定义如下:
[0093][0094]
最后,计算地基云图全域晴空比kc,定义如下:
[0095]
kc=∑cv/(h
×
w)
[0096]
其中,h与w分别为地基云图的高度和宽度。
[0097]
晴空太阳辐射估计方法:通过经验公式估计晴空无云层遮挡下的太阳辐射值,可以作为待预测太阳辐射的基准值,使得模型得以把握日内太阳辐射变化的总体趋势。其方法如下:
[0098][0099][0100]
θh=(12-hs)
×
15
°
[0101]
其中,i
sol
为太阳常数,在本发明中取值为1367w/m2,n
day
∈[0,365],为一年中的天数,为光伏站址的纬度,hs为一天中的时刻。
[0102]
根据本发明的实施方式,编码步骤包括编码云图动态特征和编码历史时序特征,如图2所示,云图动态特征编码又称为图像动态注意力机制,具体包括构建输入特征和光流特征编码。
[0103]
构建输入特征的方法具体包括:首先,将尺寸为(h,w)的地基云图帧间x轴向和y轴向的光流图,在各通道上分别裁剪为n个尺寸为(p,p)的光流图块,其中,n=h
×
w/p2;其次,将各个光流图块平铺成一维向量并进行融合,得到尺寸为(n,2p2)的光流表征x
p
;接着,对光流表征x
p
实施词嵌入操作,词嵌入操作是为了保证模型全过程中,所有参与运算的向量的表征方式是对齐的,因此需要设置统一的词嵌入维度为d
model
;最后,为了区分每个轴向光流图中n个光流块的空间位置,引入位置编码e
pos
,e
pos
通过one-hot编码标定了每个光流图块在输入光流图中的空间位置,得到光流特征编码方法的输入特征z0,定义如下:
[0104][0105]
其中,[
·
]为融合操作,e表示词嵌入转化矩阵。
[0106]
光流特征编码方法由多个感应层组成。其中,每个感应层包括两个步骤:首先,对输入执行层归一化(layer normalization,ln)操作,执行多头注意力机制(multi-head self-attention,msa)操作,并附加残差连接;接着,对第一步得到的输出执行层归一化,执行多层感知机(multilayer perceptron,mlp)以及附加残差连接。由此得到感应层的输出。在重复m次感应层后,得到输出zm作为云图动态特征编码e
opt
。其中,多头自注意力机制msa由多个自注意力机制(self-attention,sa)组成:
[0107][0108]
层归一化方法定义如下:
[0109][0110]
从第l-1到第l层的感应层定义如下:
[0111]z′
l
=msa(ln(z
l-1
))+z
l-1
[0112]zl
=mlp(ln(z

l
))+z

l
[0113]
其中,u
msa
指输入多头注意力机制的特征向量,h指的是多头注意力机制数目,z
ij
指的是以词嵌入维度为通道,由空间位置(i,j)表征的列向量,长度与词嵌入维度一致,e(
·
)和var(
·
)分别指求均值与求方差操作。
[0114]
如图3所示,编码历史时序特征方法包括:
[0115]
首先,融合历史时序数据特征,特征包括:历史太阳辐射i
his
,晴空太阳辐射估计值ig,历史温度数据t
his
,历史湿度数据h
his
,地基云图晴空比数据kc,得到历史时序数据作为输入特征x0,l
x
为输入时序数据的时间步长,定义如下:
[0116][0117]
其次,对历史时序数据作词嵌入操作,词嵌入维度设置为d
model

[0118]
由于时序特征具有较高的时间冗余性,意味着如果将整体时间序列输入,会影响特征提取的效率;并且考虑到,不同类型的时序特征之间内含丰富的耦合信息(历史辐射、估计晴空辐射、温度、湿度、晴空比)。因此,有必要关注特征间的耦合信息,进一步提升时序特征提取能力,本发明通过稀疏自注意力机制提取每一特征间的时序特征,以及不同特征间的耦合特征,并通过蒸馏机制进行特征精炼,蒸馏机制包括一维卷积、激活函数以及池化操作,定义如下:
[0119][0120][0121]
其中,表示第t个时间步的输入特征在第j层蒸馏得到的特征向量。maxpool(
·
)为最大池化操作,在本发明中步长设置为1;elu(
·
)为激活函数,α为控制负因子的常数;conv1d(
·
)为时间维度的一维卷积操作,在本发明中卷积核的大小设置为3;[
·
]
ab
为稀疏自注意力机制。本发明中,稀疏自注意力机制的实施过程包括:通过计算改进的kl散度公式,得到时间步选择函数:
[0122][0123]
其中,k为注意力机制键向量(key),lk为键向量的长度,q表示注意力的质询向量(query)。
[0124]
接着,选取m(qi,k)降序排列中前u个特征,形成稀疏化的质询向量替代全局质询向量q,作为稀疏注意力机制的质询向量,得到稀疏注意力机制,定义如下:
[0125][0126][0127]
其中,v为稀疏注意力机制的值(value)向量,c为激活函数softmax(
·
)输入向量维度。
[0128]
本发明中,为了更好地挖掘不同特征间的耦合信息,通过堆叠多层蒸馏机制,迭代得到时序数据特征编码e
his

[0129]
如图4所示,跨模态学习步骤基于云图动态特征编码和历史时序数据编码,通过跨模态注意力机制得到融合特征向量,具体方法包括:
[0130]
首先,将云图动态编码特征e
opt
作为注意力机制的键向量和值向量,历史时序特征编码e
his
作为质询向量,运用跨模态注意力机制计算两者特征之间的耦合联系,并通过堆叠多层跨模态注意力机制提升特征挖掘的水平。上述每一层跨模态注意力机制的定义如下:
[0131][0132]
同样地,将历史时序特征编码e
his
作为注意力机制的键向量和值向量,云图动态编码特征e
opt
作为质询向量,可得到:
[0133][0134]
应用跨模态注意力机制的本质,是通过注意力机制的全局信息搜索能力,寻模态间的耦合特征,即挖掘云图动态光流场与历史数据之间的耦合联系。接着,分别对得到的特征y
opt
和y
his
应用多层感知机进行前馈操作,使其向量维度与词嵌入维度d
model
一致。最后,将得到的特征进行融合,得到最终的融合特征编码e
fus
,定义如下:
[0135][0136]
解码步骤应用生成式解码方法,接受所述融合特征向量e
fus
与解码器输入x
de
。为了避免误差累积,生成式解码仅通过一次前馈输出多步预测结果。首先,为了提升模型对于太阳辐射变化趋势的感知能力,解码模块将待预测数据前的一段时间内的历史数据作为标志位x
token
,定义如下:
[0137]
[0138]
其中,x0是模型待预测的向量。l
token
和l0分别为标志位和待预测向量的长度。
[0139]
其次,对解码器输入x
de
词嵌入操作,词嵌入维度为d
model
,得到向量y0;再次,对y0分别作稀疏自注意力机制运算和多头注意力机制;其中,多头注意力机制设置稀疏自注意力机制的输出作为值向量,融合特征向量e
fus
作为质询向量和键向量;
[0140]
接着,通过稀疏自注意力机制运算和多头注意力机制得到解码器输出向量;最后,通过多层感知机的前馈操作得到太阳辐射的多步预测结果
[0141][0142]
为了验证本发明所提方法的性能,实施例中进行了如下实验。选取了美国国家可再生能源实验室,太阳能资源研究实验室提供的数据集。测量位置位于美国科罗拉多州,坐标位置为北纬39.74度,西经105.18度。地基云图由asi-16全天空成像仪拍摄,时间分辨率为10分钟。太阳辐射数据和气象数据的测量时间分辨率为1分钟。基于上述方法对该地区超短期太阳辐射进行预测。并通过量化误差指标评价模型性能。本实施例中采用三种误差分析指标:平均偏差误差(mae)、平均绝对百分误差(mape)、归一化均方根误差(nrmse),定义如下:
[0143][0144][0145][0146]
对于美国可再生能源实验室的数据集,选取2021年1月-2021年12月的数据为训练样本(共26280个样本),从2022年1月-2022年6月选取5256个样本为测试样本,使用本发明得到的太阳辐射预测误差如表1所示。此外,为了直观反映预测效果,图6展示了使用本发明方法得到的提前10分钟的太阳辐射预测曲线,图7展示了跨模态特征融合模块训练得到的权重。其中,在图7中,沿横轴的高亮部分表示被激活的时间步及其权重分布,沿纵轴的高亮部分则表示了被激活的光流图块及其权重分布图7充分说明了本发明有效利用了两种不同模态的信息(历史时序数据、地基云图数据)。从表1,图6可以看出,本发明的方法能够准确预测提前10分钟到30分钟的太阳辐射,满足支撑光伏接入的新能源电网的实时监控与调度需求。
[0147]
表1基于美国可再生能源实验室数据集的测试样本误差
[0148]
误差评价指标提前10分钟提前20分钟提前30分钟mae(w/m2)34.2143.6449.53mape(%)21.3126.8135.73nrmse(%)4.285.115.74
[0149]
综上所述,本发明设计的基于跨模态注意力机制的太阳辐射预测方法,首先设计稀疏自注意力机制与云图动态特征提取方法,利用注意力机制的全局搜索机制,分别高效提取历史时序数据与地基云图数据的隐性特征;进而运用跨模态注意力机制,充分提取历
史时序特征与云图动态特征之间的耦合联系,有效弥补当前对耦合特征的融合机制研究不足的问题,实现了端到端的超短期太阳辐射多步预测,能够显著提升提前10分钟至30分钟的太阳辐射预测精度。本发明可应用于部署全天空成像仪的光伏电站,指导电网调控部门根据太阳辐射实时预测结果,调整发电计划,降低备用容量,满足电网监控与经济安全调控的需求。
[0150]
基于与方法实施例相同的技术构思,本发明还提供一种基于跨模态注意力机制的超短期太阳辐射预测系统,包括:
[0151]
特征抽取模块,用于利用farneback光流法将灰度地基云图数据转换为帧间光流场,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比,利用经验公式估计晴空太阳辐射值;
[0152]
第一编码模块,用于对地基云图帧间光流图进行裁剪、拼接、嵌入,通过自注意力机制和多层感知机提取地基云图帧间光流场的局部动态特征,得到云图动态特征编码e
opt

[0153]
第二编码模块,用于通过稀疏自注意力机制提取历史时序数据的时序耦合特征,得到历史时序特征编码e
his
,所述历史时序数据包括历史太阳辐射i
his
、晴空太阳辐射估计值ig、历史温度数据t
his
、历史湿度数据h
his
、地基云图晴空比数据kc;
[0154]
跨模态学习模块,用于将云图动态特征编码e
opt
和历史时序特征编码e
his
进行融合,得到融合特征向量e
fus

[0155]
解码模块,用于基于融合特征向量e
fus
和解码器输入x
de
通过生成式解码得到太阳辐射超短期多步预测结果。
[0156]
应当理解,本发明实施例中的基于跨模态注意力机制的超短期太阳辐射预测系统可以实现上述方法实施例中的全部技术方案,其各个功能模块的功能可以根据上述方法实施例中的方法具体实现,其具体实现过程可参照上述实施例中的相关描述,此处不再赘述。
[0157]
本发明还提供一种计算机设备,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如上所述的基于跨模态注意力机制的超短期太阳辐射预测方法的步骤。
[0158]
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的基于跨模态注意力机制的超短期太阳辐射预测方法的步骤。
[0159]
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0160]
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实
现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0161]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0162]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

技术特征:


1.一种基于跨模态注意力机制的超短期太阳辐射预测方法,其特征在于,包括以下步骤:(1)利用farneback光流法将灰度地基云图数据转换为帧间光流场,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比,利用经验公式估计晴空太阳辐射值;(2)对地基云图帧间光流图进行裁剪、拼接、嵌入,通过自注意力机制和多层感知机提取地基云图帧间光流场的局部动态特征,得到云图动态特征编码e
opt
;(3)通过稀疏自注意力机制提取历史时序数据的时序耦合特征,得到历史时序特征编码e
his
,所述历史时序数据包括历史太阳辐射i
his
、晴空太阳辐射估计值i
g
、历史温度数据t
his
、历史湿度数据h
his
、地基云图晴空比数据k
c
;(4)通过跨模态注意力机制将云图动态特征编码e
opt
和历史时序特征编码e
his
进行融合,得到融合特征向量e
fus
;(5)基于融合特征向量e
fus
和解码器输入x
de
通过生成式解码得到太阳辐射超短期多步预测结果。2.根据权利要求1所述的方法,其特征在于,所述步骤(1)中,利用farneback光流法将灰度地基云图数据转换为帧间光流场包括:将地基云图用二次多项式来近似表示:i(x)~x
t
ax+b
t
x+c,其中,x指的是像素的空间位置表示(x,y)
t
,a、b、c为二次多项式系数;基于相邻云图的亮度不变性假设,匹配云图相邻帧的二次多项式系数,并作实用性调整:i1(x)≈i2(x)(x)由此得到farneback稠密光流计算方法的目标函数,其函数公式为:对目标函数进行梯度下降,融合x轴向和y轴向的光流图,得到连续云图帧的整体稠密光流解。3.根据权利要求1所述的方法,其特征在于,所述步骤(1)中,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比包括:计算rgb全彩地基云图各个像素位置的红蓝比矩阵rbr,并归一化为值域为[0,1]的正则化红蓝比矩阵nrbr,计算式如下:其中,r和b分别为全彩地基云图的红和蓝通道下的像素矩阵;对于得到的地基云图正则化红蓝比矩阵nrbr,通过和预设阈值τ进行比较判断,将晴空区域标志为1,云层覆盖区域标志为0,得到地基云图全域标志位cv,定义如下:
基于地基云图全域标志位计算地基云图全域晴空比k
c
,计算式如下:k
c
=∑cv/(h
×
w)其中,h与w分别为地基云图的高度和宽度。4.根据权利要求1所述的方法,其特征在于,所述步骤(2)包括:将尺寸为(h,w,2)的地基云图帧间光流图在各通道上裁剪为n个尺寸为(p,p)的光流块,其中,n=h
×
w/p2;将各个光流块平铺成一维向量并进行融合,得到尺寸为(n,2p2)的光流表征x
p
;通过全连接层对各个光流块实施词嵌入操作,嵌入维度为d
model
;引入位置编码e
pos
来区分n个光流块的空间位置,得到光流特征编码方法的输入特征z0,定义如下:其中,[
·
]为融合操作;e表示词嵌入转化矩阵;将特征z0输入包括自注意力机制和多层感知机的编码子模块,并在自注意力机制和多层感知机处理前分别实施层归一化操作,对自注意力机制和多层感知机处理后得到的特征向量附加残差连接;在重复m次操作后,得到云图动态特征编码e
opt
,自第l-1层到第l层的特征映射,定义如下:z

l
=msa(ln(z
l-1
))+z
l-1
z
l
=mlp(ln(z

l
))+z

l
其中,msa表示多头自注意力机制编码操作,ln表示层归一化操作,mlp表示多层感知机编码操作,经过m层编码操作,选取第m层的输出作为光流动态特征编码e
opt
=ln(z
m
)。5.根据权利要求1所述的方法,其特征在于,所述步骤(3)包括:基于历史时序数据构建输入特征l
x
为输入时序数据的时间步长,根据词嵌入维度d
model
对历史时序数据作词嵌入操作;通过稀疏自注意力机制提取每一特征间的时序特征以及不同特征间的耦合特征,并通过蒸馏机制进行特征精炼,蒸馏机制包括一维卷积、激活函数以及池化操作,定义如下:其中,表示第t个时间步的输入特征在第j层蒸馏得到的特征向量,maxpool(
·
)为最大池化操作;elu(
·
)为激活函数;conv1d(
·
)为时间维度的一维卷积操作;[
·
]
ab
为稀疏自注意力机制,所述稀疏自注意力机制选取m(q
i
,k)的值降序排列中前u个特征作为稀疏自注意力机制的质询向量意力机制的质询向量意力机制的质询向量其中,a
s
(q,k,v)为稀疏注意力机制更新得到的值向量,softmax(
·
)为激活函数,v为稀疏注意力机制的值向量value,k为稀疏注意力机制键向量key,l
k
为键向量的长度,表示稀
疏注意力的质询向量query;基于多层蒸馏机制,得到时序数据特征编码e
his
。6.根据权利要求1所述的方法,其特征在于,所述步骤(4)包括:将云图动态编码特征e
opt
作为注意力机制的键向量和值向量,历史时序特征编码e
his
作为质询向量,运用跨模态注意力机制计算两者特征之间的耦合联系,并通过堆叠多层跨模态注意力机制提升特征挖掘的水平,每一层跨模态注意力机制的定义如下:同样地,将历史时序特征编码e
his
作为注意力机制的键向量和值向量,云图动态编码特征e
opt
作为质询向量,得到:分别对得到的特征y
opt
和y
his
应用多层感知机进行前馈操作,使其向量维度与词嵌入维度d
model
一致,最后将得到的特征进行融合,得到最终的融合特征编码e
fus
,定义如下:7.根据权利要求1所述的方法,其特征在于,所述步骤(5)包括:将待预测数据前的一段时间内的历史数据作为标志位x
token
,定义如下:其中,l
token
和l0分别为标志位和待预测向量的长度;对解码器输入x
de
词嵌入操作,词嵌入维度为d
model
,得到注意力机制的输入向量y0;对y0分别作稀疏自注意力机制运算和多头注意力机制处理,其中,多头注意力机制设置稀疏自注意力机制的输出作为值向量,融合特征向量e
fus
作为质询向量和键向量;通过多层稀疏自注意力机制运算和多头注意力机制得到解码器输出向量,再通过多层感知机的前馈操作得到太阳辐射的多步预测结果到太阳辐射的多步预测结果其中,[
·
]
ab
为稀疏自注意力机制。8.一种跨模态注意力机制的超短期太阳辐射预测系统,其特征在于,包括:特征抽取模块,用于利用farneback光流法将灰度地基云图数据转换为帧间光流场,基于rgb全彩地基云图通过红蓝像素占比计算地基云图晴空比,利用经验公式估计晴空太阳辐射值;第一编码模块,用于对地基云图帧间光流图进行裁剪、拼接、嵌入,通过自注意力机制和多层感知机提取地基云图帧间光流场的局部动态特征,得到云图动态特征编码;第二编码模块,用于通过稀疏自注意力机制提取历史时序数据的时序耦合特征,得到历史时序特征编码,所述历史时序数据包括历史太阳辐射i
his
、晴空太阳辐射估计值i
g
、历史温度数据t
his
、历史湿度数据h
his
、地基云图晴空比数据k
c
;跨模态学习模块,用于通过跨模态注意力机制将云图动态特征编码和历史时序特征编码进行融合,得到融合特征向量;
解码模块,用于基于融合特征向量通过生成式解码得到太阳辐射超短期多步预测结果。9.一种计算机设备,其特征在于,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如权利要求1-7中任一项所述的基于注意力机制和地基云图的超短期太阳辐射预测方法的步骤。10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的基于注意力机制和地基云图的超短期太阳辐射预测方法的步骤。

技术总结


本发明公开了一种基于跨模态注意力机制的超短期太阳辐射预测方法及系统,方法包括:计算地基云图帧间光流图、晴空太阳辐射估计值、地基云图晴空比等重要特征;以地基云图数据帧间光流场为输入,通过图像动态注意力方法汇集地基云图动态局部特征;基于历史太阳辐射、历史气象数据、晴空太阳辐射估计值和云图晴空比数据,通过稀疏自注意力方法得到历史时序特征编码;通过跨模态学习方法将两种特征进行融合,得到融合特征向量;通过生成式解码得到预测输出,用以预测未来10分钟至30分钟的太阳辐射。本发明可应用于部署全天空成像仪的光伏电站,获得高精度超短期太阳辐射预测结果,满足电网监控与经济安全调控的需求。满足电网监控与经济安全调控的需求。满足电网监控与经济安全调控的需求。


技术研发人员:

臧海祥 刘璟璇 张越 李叶阳 周亦洲 陈胜 韩海腾 黄蔓云 朱瑛 卫志农 孙国强

受保护的技术使用者:

河海大学

技术研发日:

2022.11.02

技术公布日:

2022/12/23

本文发布于:2024-09-21 15:34:02,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/44173.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:云图   特征   向量   注意力
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议