基于连续动态画面的移动对象高效追踪方法

著录项
  • CN202010539071.4
  • 20200613
  • CN111696129A
  • 20200922
  • 荆门汇易佳信息科技有限公司
  • 刘秀萍;王程
  • G06T7/20
  • G06T7/20

  • 湖北省荆门市掇刀区(高新区)龙井大道238号(九派通创业园)
  • 湖北(42)
摘要
本发明提供的基于连续动态画面的移动对象高效追踪方法,基于低秩分析的凸优化方法从受到较大损坏的连续动态画面数据中恢复出低秩矩阵,高效准确的实现连续动态画面目标跟踪,采用结合稀疏和低秩的矩阵恢复方法,低秩分析方法克服了传统追踪算法在实际环境下不能较好地处理光照变化和遮挡的瓶颈,本发明的具有明显的有效性、先进性和实用性。在处理光照改变的连续图像序列移动对象追踪问题上有非常好的效果,在处理遮盖的连续图像序列移动对象追踪问题上效果也较为突出,没有进行相关的特征提取等复杂并费时费力的操作,算法运行成本较低,对比现有技术的其它算法优势明显。
权利要求

1.基于连续动态画面的移动对象高效追踪方法,其特征在于,采用矩形框在选取的连续图像第一帧中标定待追踪目标的真实位置,然后用同样大小和相同位置的矩形框选取后续帧的候选目标区域,每一帧被选取的区域构成的矩阵定义为观察监测矩阵,结合仿射变换和稀疏与低秩矩阵恢复将观察监测矩阵分解为一个代表追踪目标的低秩矩阵和一个代表干扰项的稀疏矩阵,从受到干扰项损坏的观察监测矩阵中恢复出代表追踪目标的低秩矩阵,即可求得最优的追踪目标运动轨迹;

本发明的基于稀疏与低秩矩阵恢复的移动对象追踪模型包括低秩矩阵恢复模型、干扰项的稀疏矩阵模型、观察监测矩阵模型,本发明的基于稀疏与低秩矩阵恢复的移动对象追踪算法包括变换参数的求解、低秩矩阵的求解、稀疏矩阵的求解;

本发明采用的仿射变换属于几何变换形式,引入齐次坐标,平移公式如式1所示:

原坐标为(x,y),变换后坐标为(x1,y1),定义齐次坐标为(ax,ay,a),令系数a取值为1,即像素(x,y)的齐次坐标为(x,y,1);

仿射变换公式如式2所示:

结合齐次坐标,用矩阵形式对方程组式2进行变形,得到如式3所示的关系:

(b(5),b(6))T=(Δx,Δy)T是平移矢量,取不同参数时可以实现旋转、缩放、错切操作,即设定不同值,对应不同的变换,b(i),i=1,2,…,6均为实数;

若D1和D2分别代表两张没有对齐的图像,假设存在一个可逆变换e:满足式4所示:

其中向量b包含仿射变换的6个可变参数,不同图像的变换参数不同。

2.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,移动对象追踪的预备工作是在输入连续图像的第一帧画面中确定一个待追踪目标,采用样式表示法表示追踪目标,即用一个手动标示的矩形框内部区域的像素集定义要追踪的移动对象;每一帧矩形框图像组成的矩阵具有低秩特征,即每帧矩形框内的图像类似度最高,本发明根据预先设置的矩形框的内容经过变换后追踪移动对象;

基于稀疏与低秩矩阵恢复,一个观察监测矩阵A可以通过最优化模型算法分解成一个低秩矩阵B和一个稀疏矩阵C,本发明将矩阵分解应用到连续图像移动对象追踪求解问题上,利用求得的低秩矩阵信息得到移动对象运动信息。

3.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,低秩矩阵恢复模型中,假设已知p张已经对齐的灰度图像为则已对齐的图像线性相关;若将每一张图像展开成一列,构成一个包含q个元素的向量该向量包含感兴趣区域的q个像素点,并且满足q≥p;最后把这p个向量组成一个矩阵,如式5所示:

则矩阵B近乎具有低秩特征,即:

rank(B)≤k 式6

k是一个预先设置的一个常数。

4.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,干扰项的稀疏矩阵模型中,把出现光照改变和遮盖的像素点位置称为干扰项,非刚体目标运动过程中发生的轻微形变也看作是干扰项;先假设这些干扰项为稀疏项,可能存在于每个像素点或部分像素点,但这些干扰项的张度值和位置未知,暂且不管这些干扰项的具体信息,只定义一个稀疏矩阵利用表示一个连续图像序列被矩形框截取的包含q个像素的待处理图像,将其重写为一个包含q个元素的列向量,则第i帧的第j个像素点用ij表示;

定义一个二进制矩阵K∈{0,1}q×p标记选取区域内的干扰项,即当第ij像素点对应的像素是干扰项,则Kij=1;当第ij像素点对应的像素不属于干扰项,则Kij=0,如式7所示:

属于干扰项的像素点在Di中的张度和位置改变不规律,不满足低秩矩阵的线性相关条件,可以和低秩矩阵分离开,构成一个稀疏矩阵C;而稀疏矩阵C可根据标记信息K正交投影到一个线性空间NK(C),如式8所示:

另外是投影的补集,即

5.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,观察监测矩阵模型描述如下:假设是输入连续图像中用a×h大小的矩形框表示的图像区域,将每一个块图像展开成一个含有q个像素点的列向量vec(Di),列向量组成一个矩阵,为观察监测矩阵

当Kij=0时,表示没有光照改变或者遮盖物,即如式9所示:

Aij=Bij+dij 式9

dij表示高斯噪声,在无干扰项出现的情况下,待追踪的目标即低秩矩阵B和观察监测矩阵A通过最小二乘法进行匹配;当Kij=1时,表示被追踪目标的情景复杂,观察监测矩阵A由低秩矩阵B和稀疏矩阵C叠加而成,如式10所示:

Aij=Bij+Cij+dij 式10

结合低秩矩阵恢复模型、干扰项的稀疏矩阵模型和观察监测矩阵模型,用式11所示的目标函数将低秩矩阵B和稀疏矩阵C最优化:

其中g是一个正的常数,上式说明待追踪目标组成的矩阵A应该满足低秩性质,而且和观测序列组成的矩阵D通过最小二乘法进行拟合;

式11的目标函数是非凸的,利用核范数代替矩阵秩的求解,对非凸函数进行放松得到凸优化函数,联合投影函数,对应的偶数形式的目标函数如式12所示:

e>0是一个关联矩阵秩k的参数,控制低秩矩阵核范数的复杂度。

6.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,连续图像序列中移动对象追踪最终的视觉效果即最初标记的矩形框在每一帧图像中都能准确框住待追踪的目标,在图像变换中的仿射变换是求一张图像上的像素点与另外一张图像上对应的像素点的关联关系,将仿射变换应用到连续图像序列中,通过不断迭代实现低秩矩阵的估计,获得移动对象的最接近实际情况的移动信息,矩形框根据移动信息实现相应的运动,最后保证待追踪目标始终处于矩形框内,实现移动对象的追踪效果;

定义第i帧图像中对应的变换参数组成的向量为则变换后的第i帧图像为变换后的观察监测矩阵如式13所示:

其中则描述的最优化的目标函数变为式14:

通过交替迭代优化和求解式14)所示的最优化函数,如下列方程组所示:

7.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,变换参数的求解中,约束项是非线性的,对b进行泰勒展开,使对应约束项具有线性性质;

根据假设已知低秩矩阵和稀疏矩阵的标记矩阵来求解每次迭代结束时最优的变换参数

采用增量细化方法解决参数运动估算问题:在每一次迭代时,用一个小的增量Δb更新参数其中则应用泰勒级数对进行展开,得到的线性化等式如式18所示:

其中Fi是第i帧画面对应变换参数bi的雅可比行列式,{di}表示的标准基,每次迭代后的变换参数如式19所示:

采用最小二乘法求解式19中针对Δb的最优化;

图像变换同时独立应用在每一张图像上,每次迭代环节中,b1,...,bp的更新分开单独进行。

8.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,低秩矩阵的求解中,给定稀疏矩阵的标记矩阵和更新后的变换参数式14中的最优化问题转化为如式16的低秩矩阵的求解的最优化问题,根据将式16进行公式变形如式20:

令那么式20变成式21所示:

式21最优化问题的最优解,对应原理如下所示:

原理:给定一个矩阵G,约束项如式21的最优化函数的最优解是其中Θe表示奇异值临界值函数,即如式22所示:

Θe(G)=U∑eVT 式22

U∑eVT是矩阵G的SVD分解,对应的∑=diag[d1,...,dq],而奇异值临界值体现在∑e=diag[(d1-e)+,...,(dm-e)+],其中t+=max(t,0);

根据原理的描述,式20的最优化低秩矩阵的解通过迭代式23得到:

证实了方法的收敛性。

9.根据权利要求1所述的基于连续动态画面的移动对象高效追踪方法,其特征在于,稀疏矩阵的求解中,干扰项的稀疏矩阵模型可知,间接的用标记矩阵K∈{0,1}q×p表示稀疏矩阵的干扰项出现的位置,在稀疏矩阵的求解C的同时,也相当于是求解最优化的标记矩阵K,式17的最优化求解是对标记矩阵K进行优化;

给定更新后的变换参数和低秩矩阵根据K进行最小化式14,因为K∈{0,1}q×p,式17变形为式24所示:

其中当固定低秩矩阵时,是一个常量。

说明书
技术领域

本发明涉及一种移动对象高效追踪方法,特别涉及基于连续动态画面的移动对象高效追踪方法,属于移动对象追踪技术领域。

自然条件下运动中的物体最容易引起人类视觉系统的关注,对生理视觉系统,运动感知已成为一种自然无意识的视觉行为。但随着智能化的发展,给机器赋予感知运动的能力仍然有很大的研究和应用空间,并且伴随计算机和网络技术的快速发展,信息量爆发式的增长,对信息自动获取技术提出了更高的要求。在计算机视觉领域内对连续图像序列中的移动对象进行追踪是一个热门应用课题,在交通监视、车辆导航、人机交互、虚拟现实和自动化监测等领域有广阔的应用前景。

移动对象追踪首先在初始连续图像帧中选取待追踪目标,然后在后续连续图像帧寻与真正目标最类似的候选区域,追踪器利用特定且统一的方式对最类似区域进行标记。追踪器可提供以追踪目标为中心的信息。移动对象追踪的应用环节中,需考虑许多复杂因素,比如图像中的噪声、追踪目标形状或运动方式复杂、三维图像转换到二维图像过程中造成的信息丢失、追踪目标是非刚性的、追踪目标被遮盖、光照改变等影响。为满足使用需求,追踪过程的实时性是重要因素,因此追踪过程是一个艰巨复杂的任务。为使追踪过程简单化,可通过对运动或外观加以特定的先验信息,也可以限制物体运动恒速,或通过先验信息明确其常量加速度,事先明确待追踪目标个数、相应尺寸及外观形状信息也是简化追踪过程的常用方法。因此移动对象追踪问题不仅要保证能正确追踪到目标,还要克服外界客观影响和目标自身引起的主观改变,最终实现高精度和实时的追踪效果。

现有技术的移动对象追踪方法是已知目标在第一张图像里的初始状态,即位置和内容,然后估算目标在后续帧的状态。根据移动对象追踪的流程,到目前为止的移动对象追踪研究现状包括目标表示、特征提取、建模追踪方法。

目标表示是视觉追踪算法的重要组成部分,追踪场景中可以定义任何感兴趣的东西为追踪目标,目标可以由其形状和外观来表示,也可以用矩形框和椭圆框表示,这类表示方法不仅适用于简单的刚体目标,对非刚体的移动对象也适用。对于非刚性目标,尤其是运动较复杂的目标,采用边缘或者边缘内的剪影表示法。外观表示一般都会和形状表示共同用在待追踪目标的表示步骤。但现有技术的目标表示只能获得单一视图的外观信息,只适合追踪那些姿势改变不大的目标。

特征提取正确合适在追踪过程中至关重要,提取特征必须具有独特性以区别目标物体与非目标物体。图像处理领域里经常使用的视觉特征包含颜、边缘、光流、纹理等特征。目标的外观颜主要受光照和表面反射率影响。现有技术通过计算图像中像素点光流的方向和张值,得到图像的光流特征,但光流法在计算量、光照改变以及克服噪声影响上不占优势,应用不是很广泛。纹理是量化平滑度属性的强度改变估算,相比于颜和边缘特征,纹理特征需要生成描述符,但和边缘特征类似,纹理特征不能较好地感知光照改变。

建模追踪方法主要分为模型分类和目标状态估算两类,其中模型分类追踪方法包括生成模型和鉴别模型,目标状态估算方法包括依据候选目标的概率分布来确定真实的待追踪目标状态的方法和候选目标与真正目标的确定模板进行状态匹配的追踪方法。当目标模板在追踪过程不发生改变时,利用颜直方图距离的类似度评价函数,可以较好的追踪,但是当目标不满足上述前提时,即目标发生较大改变时,追踪方法效果会很差。主要缺点是不能同时处理光照改变和像素损坏或部分遮盖的情况,计算特征和模型分类过程会增加计算成本,而且相邻帧的图像间存在较大的相关性和冗余度。

本发明充分考虑连续图像序列之间的相关性和冗余度,将连续图像序列中移动对象的追踪问题看作是通过图像变换和低秩与稀疏矩阵恢复来寻与待追踪目标最类似的区域。从视觉效果角度出发来思考最终的移动对象追踪的理想效果,即是在人眼视觉最先关注的范围内的移动对象就好像没有发生任何移动,即总能保证目标完整出现在最先关注的那一个区域范围内。

首先初始环节,在输入连续图像的第一帧中用手动选取一个矩形框表示待追踪目标,然后在后续连续图像帧获取与第一帧连续图像序列中的相同位置的矩形框内的区域来表示待处理的候选区域。由于移动对象的移动,导致后续帧的矩形框里不可能如第一帧一样完好地包含整个待追踪目标,然而移动对象追踪最后要求输出的每一个矩形框都要完整地包含待追踪目标,即保证每一个矩形框内的区域展开构成的一个列向量,这些列向量之间是类似的,所有列向量构成的矩阵具有低秩特征。另外,实际情况下采集的连续图像序列会存在光照改变或者遮盖物等因素对移动对象追踪造成干扰,发明把这些因素假设为干扰项,并且这些干扰项在每一帧连续图像序列中是稀疏的。与低秩矩阵构成方式相同,这些干扰项对应的列向量构成的矩阵可以看作是稀疏矩阵。通过矩阵分解的思想,利用最优化方法将观察监测矩阵分解为一个表示成功追踪目标状态的低秩矩阵和一个表示干扰项的稀疏矩阵,其中必不可少的环节便是在优化迭代的步骤中,采用相邻帧画面之间求得的仿射变换对应的变换参数来更新待处理图像。算法求解步骤采用交替迭代优化的方法分别约束低秩矩阵以及稀疏矩阵,以此更新变换参数,利用低秩矩阵的最优实现了移动对象的运动轨迹的估算,即每一帧连续图像序列对应的变换参数,最终实现不受光照改变和遮盖物等影响的连续图像移动对象追踪。

综上,针对现有技术存在的部分缺陷,本发明拟解决以下问题:

一是现有技术采集的视频序列中受光照变化和遮挡等因素影响,这些因素增加了求解运动目标追踪问题的难度,现有技术的追踪算法涉及到外观表示和特征表示,概率性跟踪和确定性跟踪,模式分类和模板匹配等多个方面,但是其在处理光照变化和遮挡等方面跟踪效果欠佳,只能获得单一视图的外观信息,只适合追踪那些姿势改变不大的目标。在计算量、光照改变以及克服噪声影响上不占优势,不能较好地感知光照改变。

二是现有技术出现了基于范数最小化的稀疏表示等建模目标跟踪方法,但是其计算成本比较大,目标发生较大改变时,追踪方法效果会很差。主要缺点是不能同时处理光照改变和像素损坏或部分遮盖的情况,计算特征和模型分类过程会增加计算成本,而且相邻帧的图像间存在较大的相关性和冗余度,现有技术的该方法局限性大,无法推广运用。

三是现有技术的方法不能从受到较大损坏的连续动态画面数据中恢复出低秩矩阵,实现连续动态画面目标跟踪,传统追踪算法在实际环境下不能较好的处理光照变化和遮挡的瓶颈,最终选定的区域相似度很低,求得的跟踪目标运动轨迹准确率低,无法实现准确高效的追踪目标。

四是现有技术的双目立体视觉匹配方法,在处理光照改变的连续图像序列移动对象追踪问题上效果不好,在处理遮盖的连续图像序列移动对象追踪问题上效果也不好,存在大量进行相关特征提取等复杂并费时费力的操作,所以算法复杂度高,不容易实现且效果不好。

针对现有技术的不足,本发明提供的基于连续动态画面的移动对象高效追踪方法,基于低秩分析的凸优化方法从受到较大损坏的连续动态画面数据中恢复出低秩矩阵,高效准确的实现连续动态画面目标跟踪,采用结合稀疏和低秩的矩阵恢复方法,低秩分析方法克服了传统追踪算法在实际环境下不能较好地处理光照变化和遮挡的瓶颈,本发明的具有明显的有效性、先进性和实用性。在处理光照改变的连续图像序列移动对象追踪问题上有非常好的效果,在处理遮盖的连续图像序列移动对象追踪问题上效果也较为突出,没有进行相关的特征提取等复杂并费时费力的操作,算法运行成本较低,对比现有技术的其它算法优势明显。

为达到以上技术效果,本发明所采用的技术方案如下:

基于连续动态画面的移动对象高效追踪方法,采用矩形框在选取的连续图像第一帧中标定待追踪目标的真实位置,然后用同样大小和相同位置的矩形框选取后续帧的候选目标区域,每一帧被选取的区域构成的矩阵定义为观察监测矩阵,结合仿射变换和稀疏与低秩矩阵恢复将观察监测矩阵分解为一个代表追踪目标的低秩矩阵和一个代表干扰项的稀疏矩阵,从受到干扰项损坏的观察监测矩阵中恢复出代表追踪目标的低秩矩阵,即可求得最优的追踪目标运动轨迹;

本发明的基于稀疏与低秩矩阵恢复的移动对象追踪模型包括低秩矩阵恢复模型、干扰项的稀疏矩阵模型、观察监测矩阵模型,本发明的基于稀疏与低秩矩阵恢复的移动对象追踪算法包括变换参数的求解、低秩矩阵的求解、稀疏矩阵的求解;

本发明采用的仿射变换属于几何变换形式,引入齐次坐标,平移公式如式1所示:

原坐标为(x,y),变换后坐标为(x1,y1),定义齐次坐标为(ax,ay,a),令系数a取值为1,即像素(x,y)的齐次坐标为(x,y,1);

仿射变换公式如式2所示:

结合齐次坐标,用矩阵形式对方程组式2进行变形,得到如式3所示的关系:

(b(5),b(6))T=(Δx,Δy)T是平移矢量,取不同参数时可以实现旋转、缩放、错切操作,即设定不同值,对应不同的变换,b(i),i=1,2,…,6均为实数;

若D1和D2分别代表两张没有对齐的图像,假设存在一个可逆变换e:满足式4所示:

其中向量b包含仿射变换的6个可变参数,不同图像的变换参数不同。

基于连续动态画面的移动对象高效追踪方法,进一步的,低秩矩阵恢复模型中,假设已知p张已经对齐的灰度图像为则已对齐的图像线性相关;若将每一张图像展开成一列,构成一个包含q个元素的向量该向量包含感兴趣区域的q个像素点,并且满足q≥p;最后把这p个向量组成一个矩阵,如式5所示:

则矩阵B近乎具有低秩特征,即:

rank(B)≤k 式6

k是一个预先设置的一个常数。

基于连续动态画面的移动对象高效追踪方法,进一步的,移动对象追踪的预备工作是在输入连续图像的第一帧画面中确定一个待追踪目标,采用样式表示法表示追踪目标,即用一个手动标示的矩形框内部区域的像素集定义要追踪的移动对象;每一帧矩形框图像组成的矩阵具有低秩特征,即每帧矩形框内的图像类似度最高,本发明根据预先设置的矩形框的内容经过变换后追踪移动对象;

基于稀疏与低秩矩阵恢复,一个观察监测矩阵A可以通过最优化模型算法分解成一个低秩矩阵B和一个稀疏矩阵C,本发明将矩阵分解应用到连续图像移动对象追踪求解问题上,利用求得的低秩矩阵信息得到移动对象运动信息。

基于连续动态画面的移动对象高效追踪方法,进一步的,干扰项的稀疏矩阵模型中,把出现光照改变和遮盖的像素点位置称为干扰项,非刚体目标运动过程中发生的轻微形变也看作是干扰项;先假设这些干扰项为稀疏项,可能存在于每个像素点或部分像素点,但这些干扰项的张度值和位置未知,暂且不管这些干扰项的具体信息,只定义一个稀疏矩阵利用表示一个连续图像序列被矩形框截取的包含q个像素的待处理图像,将其重写为一个包含q个元素的列向量,则第i帧的第j个像素点用ij表示;

定义一个二进制矩阵K∈{0,1}q×p标记选取区域内的干扰项,即当第ij像素点对应的像素是干扰项,则Kij=1;当第ij像素点对应的像素不属于干扰项,则Kij=0,如式7所示:

属于干扰项的像素点在Di中的张度和位置改变不规律,不满足低秩矩阵的线性相关条件,可以和低秩矩阵分离开,构成一个稀疏矩阵C;而稀疏矩阵C可根据标记信息K正交投影到一个线性空间NK(C),如式8所示:

另外是投影的补集,即

基于连续动态画面的移动对象高效追踪方法,进一步的,观察监测矩阵模型描述如下:假设是输入连续图像中用a×h大小的矩形框表示的图像区域,将每一个块图像展开成一个含有q个像素点的列向量vec(Di),列向量组成一个矩阵,为观察监测矩阵

当Kij=0时,表示没有光照改变或者遮盖物,即如式9所示:

Aij=Bij+dij 式9

dij表示高斯噪声,在无干扰项出现的情况下,待追踪的目标即低秩矩阵B和观察监测矩阵A通过最小二乘法进行匹配;当Kij=1时,表示被追踪目标的情景复杂,观察监测矩阵A由低秩矩阵B和稀疏矩阵C叠加而成,如式10所示:

Aij=Bij+Cij+dij 式10

结合低秩矩阵恢复模型、干扰项的稀疏矩阵模型和观察监测矩阵模型,用式11所示的目标函数将低秩矩阵B和稀疏矩阵C最优化:

其中g是一个正的常数,上式说明待追踪目标组成的矩阵A应该满足低秩性质,而且和观测序列组成的矩阵D通过最小二乘法进行拟合;

式11的目标函数是非凸的,利用核范数代替矩阵秩的求解,对非凸函数进行放松得到凸优化函数,联合投影函数,对应的偶数形式的目标函数如式12所示:

e>0是一个关联矩阵秩k的参数,控制低秩矩阵核范数的复杂度。

基于连续动态画面的移动对象高效追踪方法,进一步的,连续图像序列中移动对象追踪最终的视觉效果即最初标记的矩形框在每一帧图像中都能准确框住待追踪的目标,在图像变换中的仿射变换是求一张图像上的像素点与另外一张图像上对应的像素点的关联关系,将仿射变换应用到连续图像序列中,通过不断迭代实现低秩矩阵的估计,获得移动对象的最接近实际情况的移动信息,矩形框根据移动信息实现相应的运动,最后保证待追踪目标始终处于矩形框内,实现移动对象的追踪效果;

定义第i帧图像中对应的变换参数组成的向量为则变换后的第i帧图像为变换后的观察监测矩阵如式13所示:

其中则描述的最优化的目标函数变为式14:

通过交替迭代优化和求解式14)所示的最优化函数,如下列方程组所示:

基于连续动态画面的移动对象高效追踪方法,进一步的,变换参数的求解中,约束项是非线性的,对b进行泰勒展开,使对应约束项具有线性性质;

根据假设已知低秩矩阵和稀疏矩阵的标记矩阵来求解每次迭代结束时最优的变换参数

采用增量细化方法解决参数运动估算问题:在每一次迭代时,用一个小的增量Δb更新参数其中则应用泰勒级数对进行展开,得到的线性化等式如式18所示:

其中Fi是第i帧画面对应变换参数bi的雅可比行列式,{di}表示的标准基,每次迭代后的变换参数如式19所示:

采用最小二乘法求解式19中针对Δb的最优化;

图像变换同时独立应用在每一张图像上,每次迭代环节中,b1,...,bp的更新分开单独进行。

基于连续动态画面的移动对象高效追踪方法,进一步的,低秩矩阵的求解中,给定稀疏矩阵的标记矩阵和更新后的变换参数式14中的最优化问题转化为如式16的低秩矩阵的求解的最优化问题,根据将式16进行公式变形如式20:

令那么式20变成式21所示:

式21最优化问题的最优解,对应原理如下所示:

原理:给定一个矩阵G,约束项如式21的最优化函数的最优解是其中Θe表示奇异值临界值函数,即如式22所示:

Θe(G)=U∑eVT 式22

U∑eVT是矩阵G的SVD分解,对应的而奇异值临界值体现在∑e=diag[(d1-e)+,...,(dm-e)+],其中t+=max(t,0);

根据原理的描述,式20的最优化低秩矩阵的解通过迭代式23得到:

证实了方法的收敛性。

基于连续动态画面的移动对象高效追踪方法,进一步的,稀疏矩阵的求解中,干扰项的稀疏矩阵模型可知,间接的用标记矩阵K∈{0,1}q×p表示稀疏矩阵的干扰项出现的位置,在稀疏矩阵的求解C的同时,也相当于是求解最优化的标记矩阵K,式17的最优化求解是对标记矩阵K进行优化;

给定更新后的变换参数和低秩矩阵根据K进行最小化式14,因为k∈{0,1}q×p,式17变形为式24所示:

其中当固定低秩矩阵时,是一个常量。

与现有技术相比,本发明的优点和创新点在于:

一是本发明提供的基于连续动态画面的移动对象高效追踪方法,基于低秩分析的凸优化方法从受到较大损坏的连续动态画面数据中恢复出低秩矩阵,高效准确的实现连续动态画面目标跟踪,采用结合稀疏和低秩的矩阵恢复方法,低秩分析方法克服了传统追踪算法在实际环境下不能较好地处理光照变化和遮挡的瓶颈,本发明的具有明显的有效性、先进性和实用性。

二是本发明提供的基于连续动态画面的移动对象高效追踪方法,根据连续图像序列待追踪目标区域每帧之间理论上是相似的,即对应的列向量构成的矩阵是低秩的,解决目标追踪的方案是通过对候选目标区域与最初标定的真实目标区域进行仿射变换,使得最终选定的区域都是相似的,对后续的移动对象高效追踪奠定了良好的工作基础。

三是本发明提供的基于连续动态画面的移动对象高效追踪方法,把追踪的目标区域对应的列向量构成的矩阵看作是低秩的,把光照变化和遮挡等影响追踪效果的干扰项看作是稀疏项,即其对应的矩阵是稀疏的。通过矩阵恢复方法,从受到干扰项损坏的观测矩阵中恢复出代表追踪目标的低秩矩阵,即可求得最优的跟踪目标运动轨迹,实现准确高效的追踪目标,本发明算法在速度方面保持有较大优势。

四是本发明提供的基于连续动态画面的移动对象高效追踪方法,通过实验表明,本发明算法在处理光照改变的连续图像序列移动对象追踪问题上有非常好的效果,在处理遮盖的连续图像序列移动对象追踪问题上效果也较为突出,本发明算法没有进行相关的特征提取等复杂并费时费力的操作,所以相比其它算法运行成本较低,其效果相对现有技术的其它算法都得到了明显的改良,对比现有技术的其它算法优势更为明显。

图1是本发明两张图像的像素点之间的仿射变换示意图。

图2是本发明基于连续动态画面的移动对象高效追踪方法的算法流程示意图。

下面结合附图,对本发明提供的基于连续动态画面的移动对象高效追踪方法的技术方案进行进一步的描述,使本领域的技术人员可以更好的理解本发明并能予以实施。

本发明提供的基于连续动态画面的移动对象高效追踪方法,采用矩形框在选取的连续图像第一帧中标定待追踪目标的真实位置,然后用同样大小和相同位置的矩形框选取后续帧的候选目标区域,每一帧被选取的区域构成的矩阵定义为观察监测矩阵,结合仿射变换和稀疏与低秩矩阵恢复将观察监测矩阵分解为一个代表追踪目标的低秩矩阵和一个代表干扰项的稀疏矩阵,从受到干扰项损坏的观察监测矩阵中恢复出代表追踪目标的低秩矩阵,即可求得最优的追踪目标运动轨迹;

本发明的基于稀疏与低秩矩阵恢复的移动对象追踪模型包括低秩矩阵恢复模型、干扰项的稀疏矩阵模型、观察监测矩阵模型,本发明的基于稀疏与低秩矩阵恢复的移动对象追踪算法包括变换参数的求解、低秩矩阵的求解、稀疏矩阵的求解。

一、移动对象追踪的预备工作

移动对象追踪的预备工作是在输入连续图像的第一帧画面中确定一个待追踪目标,采用样式表示法表示追踪目标,即用一个手动标示的矩形框内部区域的像素集定义要追踪的移动对象。而追踪的移动对象在每一帧画面的位置不同,所以即使在相邻帧,每个矩形框内的内容也不一样,而移动对象追踪的最终目的是让每一帧画面的矩形框内都包含相同的完整目标,由每一帧矩形框图像组成的矩阵具有低秩特征,即每帧矩形框内的图像类似度最高,本发明根据预先设置的矩形框的内容经过变换后追踪移动对象。

基于稀疏与低秩矩阵恢复,一个观察监测矩阵A可以通过最优化模型算法分解成一个低秩矩阵B和一个稀疏矩阵C,本发明将矩阵分解应用到连续图像移动对象追踪求解问题上,利用求得的低秩矩阵信息得到移动对象运动信息。

二、图像变换

图像变换包括几何变换和空间变换,图像变换是反映输入图像与其变换后的图像中对应的像素点之间的一个映射函数,即原图像的像素坐标集到变换后图像的像素坐标集的对应映射。图像变换不仅包括简单的平移变换、欧式变换、类似性变换,还包括较为复杂的包含6个自由度的仿射变换和包含8个自由度的投影变换。

仿射变换属于几何变换的最基本形式,图1说明了图像D1中的像素点通过仿射变换映射到图像D2相对应的像素点。

为了能够统一表示变换公式,引入齐次坐标,平移公式如式1所示:

原坐标为(x,y),变换后坐标为(x1,y1),定义齐次坐标为(ax,ay,a),令系数a取值为1,即像素(x,y)的齐次坐标为(x,y,1)。

仿射变换公式如式2所示:

结合齐次坐标,用矩阵形式对方程组式2进行变形,得到如式3所示的关系:

(b(5),b(6))T=(Δx,Δy)T是平移矢量,取不同参数时可以实现旋转、缩放、错切操作,即设定不同值,对应不同的变换,b(i),i=1,2,…,6均为实数。

若D1和D2分别代表两张没有对齐的图像,假设存在一个可逆变换e:满足式4所示:

其中向量b包含仿射变换的6个可变参数,不同图像的变换参数不同。

三、基于稀疏与低秩矩阵恢复的移动对象追踪模型

(一)低秩矩阵恢复模型

移动对象追踪问题可简化为估算待处理图像间的类似性问题,测量一个图像集合之间的类似性的最佳方案是图像之间是互相对齐。假设已知p张已经对齐的灰度图像为则已对齐的图像线性相关。若将每一张图像展开成一列,构成一个包含q个元素的向量该向量包含感兴趣区域的q个像素点,并且满足q≥p。最后把这p个向量组成一个矩阵,如式5所示:

则矩阵B近乎具有低秩特征,即:

rank(B)≤k 式6

k是一个预先设置的一个常数。

正确鉴定这类的具有低秩结构的数据信息十分重要,对于移动对象追踪的期望视觉效果,寻待追踪的目标即是寻与目标最类似的区域,这些不同帧的类似区域分别构成的向量之间满足线性相关,这些向量组成的矩阵具有低秩特征,即移动对象追踪问题是从待处理的连续图像序列组成的观察监测矩阵中恢复出具有低秩特性的矩阵。

(二)干扰项的稀疏矩阵模型

由于实际采集的连续图像会受不同的光照改变和部分遮盖物的影响,对真正的移动对象追踪产生干扰,因此把出现光照改变和遮盖的像素点位置称为干扰项,非刚体目标运动过程中发生的轻微形变也看作是干扰项。先假设这些干扰项为稀疏项,可能存在于每个像素点或部分像素点,但这些干扰项的张度值和位置未知,暂且不管这些干扰项的具体信息,只定义一个稀疏矩阵利用表示一个连续图像序列被矩形框截取的包含q个像素的待处理图像,将其重写为一个包含q个元素的列向量,则第i帧的第j个像素点用ij表示。

定义一个二进制矩阵K∈{0,1}q×p标记选取区域内的干扰项,即当第ij像素点对应的像素是干扰项,则Kij=1;当第ij像素点对应的像素不属于干扰项,则Kij=0,如式7所示:

由于属于干扰项的像素点在Di中的张度和位置改变不规律,因此不满足低秩矩阵的线性相关条件,所以可以和低秩矩阵分离开,构成一个稀疏矩阵C。而稀疏矩阵C可以根据标记信息K正交投影到一个线性空间NK(C),如式8所示:

另外是投影的补集,即

(三)观察监测矩阵模型

结合低秩矩阵恢复模型和干扰项的稀疏矩阵模型,把观察监测矩阵模型描述如下:假设是输入连续图像中用a×h大小的矩形框表示的图像区域,将每一个块图像展开成一个含有q个像素点的列向量vec(Di),列向量组成一个矩阵,为观察监测矩阵

当Kij=0时,表示没有光照改变或者遮盖物,即如式9所示:

Aij=Bij+dij 式9

dij表示高斯噪声,在无干扰项出现的情况下,待追踪的目标即低秩矩阵B和观察监测矩阵A通过最小二乘法进行匹配。当Kij=1时,表示被追踪目标的情景复杂,观察监测矩阵A由低秩矩阵B和稀疏矩阵C叠加而成,如式10所示:

结合低秩矩阵恢复模型、干扰项的稀疏矩阵模型和观察监测矩阵模型,用式11所示的目标函数将低秩矩阵B和稀疏矩阵C最优化:

其中g是一个正的常数,上式说明待追踪目标组成的矩阵A应该满足低秩性质,而且和观测序列组成的矩阵D通过最小二乘法进行拟合。

式11的目标函数是非凸的,利用核范数代替矩阵秩的求解,对非凸函数进行放松得到凸优化函数,联合投影函数,对应的偶数形式的目标函数如式12所示:

e>0是一个关联矩阵秩k的参数,控制低秩矩阵核范数的复杂度。

四、基于稀疏与低秩矩阵恢复的移动对象追踪算法

在连续图像序列中处理移动对象追踪问题,最终的视觉效果即最初标记的矩形框在每一帧图像中都能够准确框住待追踪的目标,因此追踪处理过程中,移动对象是无规则地移动,其在图像处理角度出发就是目标区域对应的像素位置的移动。

在图像变换中的仿射变换是求一张图像上的像素点与另外一张图像上对应的像素点的关联关系,将仿射变换应用到连续图像序列中,通过不断迭代实现低秩矩阵的估计,获得移动对象的最接近实际情况的移动信息,矩形框根据移动信息实现相应的运动,最后保证待追踪目标始终处于矩形框内,实现更加形象的移动对象的追踪效果。由于本发明算法是基于稀疏与低秩矩阵恢复的移动对象追踪算法,定义算法为基于连续动态画面的移动对象高效追踪方法。

定义第i帧图像中对应的变换参数组成的向量为则变换后的第i帧图像为因此变换后的观察监测矩阵如式13所示:

其中则描述的最优化的目标函数变为式14:

通过交替迭代优化和求解式14)所示的最优化函数,如下列方程组所示:

(一)变换参数的求解

由于约束项是非线性的,对b进行泰勒展开,使对应约束项具有线性性质,方便求解目标函数。

根据假设已知低秩矩阵和稀疏矩阵的标记矩阵来求解每次迭代结束时最优的变换参数

采用增量细化方法解决参数运动估算问题:在每一次迭代时,用一个小的增量Δb更新参数其中则应用泰勒级数对进行展开,得到的线性化等式如式18所示:

其中Fi是第i帧画面对应变换参数bi的雅可比行列式,{di}表示的标准基。每次迭代后的变换参数如式19所示:

采用最小二乘法求解式19中针对Δb的最优化。

由于图像变换同时独立应用在每一张图像上,所以每次迭代环节中,b1,...,bp的更新分开单独进行,这样大大提高了算法的运行效率,加速了收敛速度。

(二)低秩矩阵的求解

给定稀疏矩阵的标记矩阵和更新后的变换参数式14中的最优化问题转化为如式16的低秩矩阵的求解的最优化问题,为了便于求解,根据将式16进行公式变形如式20:

令那么式20变成式21所示:

式21最优化问题的最优解,对应的原理如下所示:

原理1:给定一个矩阵G,约束项如式21的最优化函数的最优解是其中Θe表示奇异值临界值函数,即如式22所示:

Θe(G)=U∑eVT 式22

U∑eVT是矩阵G的SVD分解,对应的∑=diag[d1,...,dq],而奇异值临界值体现在∑e=diag[(d1-e)+,...,(dm-e)+],其中t+=max(t,0)。

根据原理1的描述,式20的最优化低秩矩阵的解通过迭代式23得到:

证实了该方法的收敛性。

(三)稀疏矩阵的求解

由干扰项的稀疏矩阵模型可知,间接的用标记矩阵K∈{0,1}q×p表示稀疏矩阵的干扰项出现的位置,因此在稀疏矩阵的求解C的同时,也相当于是求解最优化的标记矩阵K,则式17的最优化求解是对标记矩阵K进行优化。

给定更新后的变换参数和低秩矩阵根据K进行最小化式14,因为K∈{0,1}q×p,则式17变形为式24所示:

其中当固定低秩矩阵时,是一个常量。

五、算法流程

式14中的参数e控制低秩矩阵恢复模型的复杂度,当e的值越大时,估算出来的低秩矩阵的核范数越小。因此在初始阶段,给定一个粗略的目标矩阵的低秩值,即式11中的e的初始值设定为观察监测矩阵的奇异值中排在第二的数值。在每一次迭代更新低秩矩阵时,判断与k的大小,当时,令e=h1e1,h1<1,,减小e,增大低秩矩阵的核范数,直到实施例中令

式14中的参数g控制干扰项的稀疏性,当时,Kij=1的可能性更大,因此g值的大小和干扰项关联很大,初步设定其中是每次迭代后的方差。但由于在前面几次迭代过程中,引进的误差比较大,影响后面g值的选取,于是在算法开始阶段赋予g一个较大的值,每一次迭代后用参数h2=0.5逐步减小g值,即g=h2g2,直到某次迭代后

本发明基于连续动态画面的移动对象高效追踪方法的算法流程如图2所示,具体流程描述为:

输入:观察监测矩阵

初始化:

1:当没有收敛时,一直循环2-10行;

2://更新变换系数

3:

4://5行更新低秩矩阵直到收敛跳转到第6行;

5:

6://若执行第7行,否则执行第8行;

7:e←h1e1//跳转回第4行;

8:估算

9:g←max(h2g2,);

10:

11:达到收敛,结束;

输出:

本发明一是提出了移动对象追踪问题的本质是根据图像变换在其它连续图像帧中到和最初选取的目标区域最类似的区域,使这些区域组成的矩阵满足低秩性质;二是进一步记载了本发明的图像变换中的仿射变换;三是分析了怎样把移动对象追踪问题看作一个矩阵分解问题,即把观察监测矩阵分解为一个表示最终追踪目标的低秩矩阵和一个表示光照改变和遮盖物干扰项的稀疏矩阵,并且对低秩矩阵、稀疏矩阵和观测分别建模;四是为了寻待追踪的目标,将图像变换对应的仿射变换参数应用到观测模型,得到一个基于参数变换的观测模型,然后基于建模分析和低秩矩阵恢复算法,采用交替迭代优化方法求解最优的变换参数最优的低秩矩阵和间接表示稀疏矩阵C的标记矩阵本发明的创新点在于待追踪的目标区域展开成列向量组成的矩阵看作一个待恢复的低秩矩阵,将光照改变或者遮盖等干扰项构成的矩阵看作是一个稀疏矩阵;五是通过流程图和算法描述简洁形象的展示本发明的方法和流程步骤。

连续图像追踪是计算机视觉领域至关重要的课题,应用领域十分广泛,包括人机交互、车辆导航、交通监视、虚拟现实和自动化监测等。视觉角度上,移动对象追踪是圈定被追踪目标的视觉效果,但从追踪算法本身角度出发,移动对象追踪需要处理的不仅是待追踪目标本身,还要考虑外界对其造成的众多影响,比如光照改变、遮盖和复杂背景等,无形中增加了求解移动对象追踪问题的难度。高效准确的排除光照改变和遮盖等干扰项的影响是移动对象追踪的主要问题,本发明基于稀疏与低秩矩阵恢复,创造性的提出基于连续动态画面的移动对象高效追踪方法解决移动对象追踪问题。本发明提出的基于稀疏与低秩矩阵恢复的移动对象追踪模型,其中把通过仿射变换后的待追踪目标组成的矩阵看作待恢复的低秩矩阵,而光照改变和遮盖干扰项组成的矩阵看作待恢复的稀疏矩阵。针对基于稀疏与低秩矩阵恢复的移动对象追踪模型提出基于连续动态画面的移动对象高效追踪方法,通过不断更新变换系数和参数把观察监测矩阵分解为低秩矩阵和稀疏矩阵,求得最优的移动对象追踪结果。最后将本发明算法应用到两个连续图像序列上,验证了本发明算法在移动对象追踪问题上的可行性,不仅定性地将该算法与现有技术最先进的算法进行比较,而且采用中心点误差曲线图、平均中心点误差与重叠率曲线图、平均重叠率对这些算法进行定量地分析,实验表明,本发明算法在处理光照改变的连续图像序列移动对象追踪问题上有非常好的效果,在处理遮盖的连续图像序列移动对象追踪问题上效果也较为突出,本发明算法没有进行相关的特征提取等复杂并费时费力的操作,所以相比其它算法运行成本较低,运行速度较快。

本文发布于:2024-09-24 02:23:16,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/3/73381.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议