自适应滤波-----LMS(LeastMeanSquare)算法

⾃适应滤波-----LMS(LeastMeanSquare)算法⾃适应滤波的意义所在
⾃适应滤波器解决⾮平稳的过程,因为实际信号统计特性可能是⾮平稳的或者是未知的。
⾃适应滤波器的特点:
1.没有关于待提取信息的先验统计知识
银监会
2.直接利⽤观测数据依据某种判据在观测过程中不断递归更新
3.最优化
⾃适应滤波分类:
处理器的结构划分:横向结构、格型结构
重复⼀次计算⾃适应需要的数据划分:成批处理法、递归处理法
按调节算法划分:随机梯度和最⼩⼆乘
区分:ARMA 和MA模型  IIR和FIR
应⽤:
噪声抵消、回声抵消、谱线增强、通道均衡、系统辨识、时间延迟估计
算法的通俗解释:
最⼩均⽅⾃适应滤波,通过两路信号,⼀路为参考信号d,另⼀路信号通过滤波器(H)估计出d',d'和参
考信号d之间要满⾜均⽅误差最⼩的判据,⽽初始状态下滤波器系数设置为W(0),得到的结果d'不满⾜误差最⼩的判据,此时采⽤⾃适应优化算法去调节滤波器系数W,在不断的迭代计算后,到这样的W*使得估计的d'和期望得到的d误差最⼩,⽽采取的最优化算法为随机梯度下降,也即是每进⼀个新数据x(t)求取它梯度并计算W,在这过程中x(t)和d(t)的误差是对应的。
可参考:⽐如取⼀段固定的信号去做滤波没有考虑error满⾜⼀定的值
LMS算法的框架:
wp-1表⽰滤波器系数,xt....xt-p+1表⽰输⼊信号,dtT为参考信号(期望信号)此信号的选择很关键也是容易让⼈困扰的地⽅
Yt表⽰输⼊信号在滤波器作⽤下的输出响应,eT为参考信号和Yt的误差,即是et=dt-Yt;并依据误差et
香港将承认内地婚姻家庭案件判决
的⼤⼩调节滤波器系数w。
模型:
表⽰成矩阵的形式:yt
策略:
求误差函数值et最⼩时的系数w,即是et和W满⾜如下的函数关系式,求解函数值et最⼩时的解w:
假设最终求得的解是W*,那么在每次的迭代计算中如何逐次更新W?使它朝着离W*最近的⽅向前进,相当于要考虑使⽤什么样的算法来求解最优模型。
金属学报算法:
随机梯度下降算法实现最优化
关于梯度下降法分为:梯度下降、批量梯度下降和随机梯度下降,如何区分呢?
为了能到最⼤下降的⽅向,可随机选取⼀个数据点求取梯度,或者是选取⼩批量的数据求取梯度,或者全部数据参与运算,此时有多个数据参与运算,计算量变⼤,但是求解的效果可趋向于全局解。
参考:
随机梯度特点是:单样本求得的梯度值代替真实梯度
递推公式
G(T)为求出的梯度(负值),随机梯度下降法求得的G(T)
所以得:
1、步长的选择很关键,选择过⼤会使得过程发散。为此步长需要满⾜如下的关系式:
构造:
Rx(正定对称⾃相关阵):
则:
则:要使得上述式⼦趋近于0,
也即是求得的系数W不再变化(认为到最合适的W值)
需要满⾜:
aeviou输入法最终收敛条件是:
代码实现:(待续)
LMS的疑问:
期望信号是什么?
⾃适应处理解决的是随机信号的统计特性未知时,如何去⾃适应更新W系数达到过滤出想要的信号,其中W的解最终接近于维纳解W*,也就是说和维纳滤波的最终⽬的是⼀样的:实现⼀个处理器对信号进⾏过滤;只不过维纳滤波知道信号的统计特征,因此在后续滤波器的设计中依据这些统计特征即可⼀步到位的设计出处理器(H,也即是滤波系数或者是系统函数);⽽⾃适应滤波采⽤的⽅法是增加⼀个期望信号d(t)(或者说参考信号更好⼀些),因此就有两路信号,这两路信号是有差别的,可能1路包含了噪声n(t),第2路包含了噪声和想要的信号
s(t)+n(t);,然后依据这两路信号的误差最⼩判据,并采⽤⼀定的优化算法去逐步的迭代计算,当满⾜误差在某⼀个最⼩值时,既可以求出W系数。
参考:1、
2、
3、
和维纳滤波器的区别?
维纳滤波器:已知信号波形的统计特性,构建对应的滤波器。适⽤于平稳随机过程,平稳也即是统计特性不随时间变化的随机过程。
1.维纳滤除算法的通俗解释:
待处理信号x(t)包含真实信号以及噪声成分,现在希望提取的信息为d(t),因此需要设计⼀个处理器
使得估计值d'(t)在⼀个判据下取得极⼩值
为此有3个问题
1、怎么知道d(t)?
3、处理器应该怎么设计?
2、采⽤什么判据?
⾸先d(t)信号我们需要知道它的统计特性知识,即使信号波形本⾝可以不知道;然后d(t)的使⽤是为了后⾯的数学计算;
采⽤的判据是均⽅误差最⼩判据,并求解此策略最终的解需要d(t)的统计特性知识,例如d(t)本⾝的⾃相关、d(t)和x(t)互相关函数;最终求解出H,H本⾝就是最终需要设计的处理器。此后H不再改变。
其中
判据为:
处理器为:
相当于线性均⽅估计的引申
因此所⽤到的假设是:最优线性均⽅估计的选取需要使得估计误差e(t)与所有的x(t)正交;也即是如下公式
满⾜上式时使得均⽅误差最⼩
继续上⾯的问题:如何求解均⽅误差的函数式以得出处理器H?
依据正交原理和均⽅误差的判据可得出如下的维纳-霍夫积分⽅程:
只要知道Rxd和Rx,则上式的积分⽅程可求出h。
2.维纳滤波器具体分类
⾮因果维纳滤波:需要时间轴上的全部信号知识双盲
因果维纳滤波  :FIR型和IIR型 ,因果型即是只需过去的x(t)
后验维纳滤波:如果统计特性未知,那么⾸先需要估计信号的统计特性,再依据此设计维纳滤波器。
互补维纳滤波:在信号不是随机时的处理⽅法,采⽤H1和1-Hz互补⽅式
其中线性均⽅估计是:
【1】参考⽣物医学信号处理
【2】⾃适应滤波原理matlabcode
补充数学知识:完全市场经济地位
奇异矩阵
问题:
答:由以上可知它是⼀个均值为0⽅差为1的⽩噪过程
则E(x)=0  D(x)=E{[x-E(x)]^2}=E(x^2)=1
⽽⾃相关函数离散形式
则Rx(m-n)其中的m-n相当于上述的n。当m=n时Rx(m-n)=E(x^2)=1 否则R(m-n)=E(x1*x2)=E(x1)*E(x2)=0数字特征的知识补充:

本文发布于:2024-09-24 17:17:04,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/477321.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:信号   梯度   统计   算法
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议