最小均方算法(LMS)的原理

最⼩均⽅算法(LMS)的原理
LMS算法介绍
电解质饮料
最⼩均⽅算法(Least Mean Square, LMS)是⼀种简单、应⽤为⼴泛的⾃适应滤波算法,是在维纳滤波理论上运⽤速下降法后的优化延伸,早是由 Widrow 和 Hoff 提出来的。该算法不需要已知输⼊信号和期望信号的统计特征,“当前时刻”的权系数是通过“上⼀时刻”权系数再加上⼀个负均⽅误差梯度的⽐例项求得。这种算法也被称为 Widrow-Hoff LMS 算法,在⾃适应滤波器中得到⼴泛应⽤,其具有原理简单、参数少、收敛速度较快⽽且易于实现等优点。
1 最⼩均⽅误差以及均⽅误差曲⾯
⾃适应滤波算法从某种⾓度也被称为性能表⾯搜索法,在性能曲⾯中,它是通过不断测量⼀个点是否接近⽬标值,来寻优解的。⽬前,使⽤为⼴泛的曲⾯函数之⼀是均⽅误差(MSE)函数,函数表达式如下:。准则函数设计为求均⽅误差函数的⼩值,我们称之为⼩均⽅误差准则(MMSE),维纳滤波器就是基于这个准则推到出来的。公式:,从上式可以看出均⽅误差与滤波器权向量是成⼆次函数关系,引⼊均⽅误差曲⾯来描述函数的映射关系,对应的权向量w的⼆次函数就是⼀个超抛物曲⾯。
2  LMS算法基本原理
人民币利率市场化根据⼩均⽅误差准则以及均⽅误差曲⾯,⾃然的我们会想到沿每⼀时刻均⽅误差的陡下降在权向量⾯上的投影⽅向更新,也就是通过⽬标函
数的反梯度向量来反复迭代更新。由于均⽅误差性能曲⾯只有⼀个唯⼀的极⼩值,只要收敛步长选择恰当,不管初始权向量在哪,后都可以收敛到误差曲⾯的⼩点,或者是在它的⼀个邻域内。这种沿⽬标函数梯度反⽅向来解决⼩化问题的⽅法,我们⼀般称为速下降法,表达式如下:,基于随机梯度算法的⼩均⽅⾃适应滤波算法的完整表达式如下:
LMS ⾃适应算法是⼀种特殊的梯度估计,不必重复使⽤数据,也不必对相关矩阵和互相关矩阵进⾏运算,只需要在每次迭代时利⽤输⼊向量和期望响应,结构简单,易于实现。虽然 LMS 收敛速度较慢,但在解决许多实际中的信号处理问题,LMS 算法是仍然是好的选择。
3  LMS算法性能分析
随机梯度 LMS 算法的性能前⼈有过⼤量研究,按照前⼀章所提到的⾃适应滤波性能指标,假设输⼊
信号和期望信号具有联合平稳性,详细讨论基于横向 FIR 结构的滤波器的标准 LMS 算法的四个性能:⼀、收敛性;⼆、收敛速度;三、稳态误差;四、计算复杂度。只有在输⼊信号具有严格稳定的统计特性时,权向量的优解是不变的。否则,将会随着统计特性的变化⽽变化。⾃适应算法则能够通过不断的调整滤波器权向量,使权向量接近优解。因此,⾃适应算法在平稳条件下的性能表现可以认为是⾮平稳条件下的⼀种特殊情况。如果在平稳条件下,⾃适应算法能够快速,平稳的逼近权向量的优值,那么在⾮平稳条件下,该算法也能很好的逼近时变的权向量优解。
4  影响LMS性能的因素甘精胰岛素
粤东门户>现代产业体系经过上节对 LMS 算法的性能分析,可知衡量其性能的指标主要有收敛速度,稳态误差和计算复杂度等。因此在设计⾃适应滤波器时就必须考虑⾃适应滤波算法是否能够具有快速的收敛速度,较低的稳态误差与计算复杂度,但是这些指标之间常常存在着⽭盾的。例如,收敛速度和稳态误差是成反⽐,有些改进算法的优异性能也通常相对的增加计算复杂度。因此我们需要在这些参数中寻⼀个平衡,⼤程度的提⾼算法的性能。影响⾃适应算法性能参数,主要有步长因⼦,滤波器阶数和滤波器权系数的初始值。

本文发布于:2024-09-23 08:13:09,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/592635.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:算法   误差   向量   适应   性能   收敛
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议