【滤波器】归一化LMS自适应滤波器

一、NLMS自适应滤波器

1、简介

在自适应滤波算法中，稳态误差和收敛速度是其中2个最重要的性能指标。对于传统的固定步长自适应滤波器，在满足稳态误差和收敛速度上存在很大的矛盾：较小的步长能获得很小的稳态误差，但是收敛速度比较慢；另一方面，如果步长增大，则滤波器的收敛速度得以提高，但是以较大的稳态误差作为代价。
为此，人们提出了一种变步长的自适应滤波算法，即 归一化最小均方（Normalized Least Mean Square，NLMS）自适应滤波算法。该滤波算法在滤波初始阶段时的步长较大，收敛速度较快；当算法收敛后，通过减小步长，以保证较高的收敛精度。

看到这里大家是不是有一个疑问，NLMS算法只是在LMS算法的基础上做了归一化，它为什么是一种变步长的LMS算法？这个问题会在算法公式推导的最后面解释，请耐心看完。

2、原理推导

在LMS滤波器的权向量更新公式中，$X(n)$是含有噪声的信号，当$X(n)$较大时，LMS算法会出现梯度噪声放大的问题，为了解决这个问题，可采用归一化LMS算法。
令 $W(n)$ 和 $W(n+1)$ 分别表示第 $n$ 时刻和 $n+1$ 时刻的权向量，则归一化LMS滤波器的设计准则可表述为下面的约束优化问题：
给定输入向量 $X(n)$ 和期望输出 $d(n)$，确定更新的权向量为 $W(n+1)$，以使增量向量 $\delta W(n+1)=W(n+1)-W(n)$ 的欧式范数最小化，即
$$min||\delta W(n+1)||$$
上式受限于约束条件 $W(n+1{)}^H\cdot X(n)=d(n)$。
使用拉格朗日乘数法将约束优化问题转换为无约束优化问题，并构建实值二次代价函数：
$$J(n)=||\delta W(n+1)|{|}^2+Re[{\lambda }^{\ast }(d(n)-W(n+1{)}^H\cdot X(n))]$$
其中，$\lambda$ 为复数拉格朗日乘子，$\ast$ 表示复共轭，$Re$ 表示取实部运算。
进一步，有：
$$J(n)=[W(n+1)-W(n){]}^H\cdot [W(n+1)-W(n)]+\lambda [d(n)-W(n+1{)}^H\cdot X(n)]$$
为使得代价函数 $J(n)$ 有最小值，其对 $W(n+1)$进行求导：
$$\frac{\partial J(n)}{\partial W(n+1)}=2[W(n+1)-W(n)]-\lambda \cdot X(n)$$
令 $\frac{\partial J(n)}{\partial W(n+1)}=0$，则 $W(n+1)=W(n)+\frac{1}{2}\lambda \cdot X(n)$，将其代入约束条件可得：
$$d(n)=[W(n)+\frac{1}{2}\lambda \cdot X(n){]}^H\cdot X(n)=W^H(n)\cdot X(n)+\frac{1}{2}\lambda \cdot X^H(n)\cdot X(n)=W^H(n)\cdot X(n)+\frac{1}{2}\lambda \cdot ||X(n)|{|}^2$$
又因为$d(n)-W^H(n)\cdot X(n)=e(n)$，将其代入上式可得：
$$\lambda =\frac{2e(n)}{||X(n)|{|}^2}$$
综合上述的几个式子，可得：
$$\delta W(n+1)=W(n+1)-W(n)=\frac{1}{2}\lambda \cdot X(n)=\frac{X(n)}{||X(n)|{|}^2}\cdot e(n)$$
为了对一次迭代到下一次迭代抽头权向量的增量变化进行控制而不改变向量的方向，引入一个正的实数标量因子 $\mu$， 可得：
$$\mu \cdot \delta W(n+1)=\mu \cdot [W(n+1)-W(n)]=\mu \cdot \frac{1}{2}\lambda \cdot X(n)=\frac{\mu \cdot X(n)}{||X(n)|{|}^2}\cdot e(n)$$
最终求得代价函数 $J(n)$ 的最优解为：
$$W(n+1)=W(n)+\frac{\mu }{||X(n)|{|}^2}X(n)\cdot e(n)$$
上式就是归一化LMS的权向量更新公式，它表明了乘积向量 $X(n)\cdot e(n)$ 相对于抽头输入向量 $X(n)$ 的欧式范数平方进行了归一化。
为了保证 $\frac{\mu }{||X(n)|{|}^2}$ 的分母不为零，令 $||X(n)|{|}^2$ 加上一个常数$\alpha (0<\alpha \le 1)$，从而得到：
$$W(n+1)=W(n)+\frac{\mu }{\alpha +||X(n)|{|}^2}X(n)\cdot e(n)$$
如果理解NLMS是一种变步长的LMS算法：

把 $\frac{\mu }{\alpha +||X(n)|{|}^2}$ 看做一个整体，即步长${\mu }^{\prime }=\frac{\mu }{\alpha +||X(n)|{|}^2}$，当权向量在迭代更新的过程中，由于 $X(n)$ 在变化，因此步长 ${\mu }^{\prime }$ 也会更新，即认为NLMS滤波器在工作的过程中，其步长会随输入信号 $X(n)$ 而变化。

总结NLMS自适应滤波器的计算步骤如下：
$y(n)=W^T(n)X(n)$ --------------------------------------------------------------- (1)

$e(n)=d(n)-y(n)$ ----------------------------------------------------------------- (2)

$W(n+1)=W(n)+\frac{\mu }{\alpha +||X(n)|{|}^2}X(n)\cdot e(n)$ ------------------------------- (3)

二、MATLAB仿真实验

1、滤波效果

当滤波器阶数 $L=20$，步长因子 $\mu =0.05$ 时，LMS滤波器与NLMS滤波器对信噪比为15dB的输入信号的滤波效果无明显区别。
若增大步长为0.06以上，LMS滤波器的收敛速度明显变快，但稳态误差会急剧上升，滤波器的性能变差；而NLMS滤波器仍然保持较好的滤波性能。

clc;
clear;
close all;

%% 产生仿真信号
fs = 1000;                  % 采样频率
t = (0:1/fs:1-1/fs);        % 时间
f = 10;                     % 信号频率
x = sin(2*pi*f*t+pi/3);     % 原始信号
y = awgn(x,15,'measured');  % 添加高斯白噪声后的信号

%% NLMS自适应滤波器
L = 20;     % 滤波器阶数
Mu = 0.005;   % μ的范围为0到1
xn = y;     % 输入信号
dn = x;     % 期望信号
Alpha = 0.2;

[yn1, W1, en1] = LMS(xn,dn,L,Mu);
[yn2, W2, en2] = NLMS(xn, dn, L, Mu, Alpha);

%% 画图
figure;
subplot(3,1,1);plot(t,xn);xlabel('时间/s');ylabel('幅值');title('滤波器的输入信号');
subplot(3,1,2);plot(t,yn1);xlabel('时间/s');ylabel('幅值');title('LMS滤波器的输出信号');
subplot(3,1,3);plot(t,yn2);xlabel('时间/s');ylabel('幅值');title('NLMS滤波器的输出信号');
figure;
subplot(2,1,1);plot(en1);title('LMS滤波器的误差信号收敛情况');
subplot(2,1,2);plot(en2);title('NLMS滤波器的误差信号收敛情况');
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29

function [yn, W, en] = NLMS(xn, dn, M, mu, alpha)

% input:
%       xn: 输入信号，大小为 1 x n
%       dn: 期望信号
%       M:  滤波器的阶数
%       mu: 收敛因子(步长)
%       alpha: 矫正值
%  output:
%         yn:   输出信号
%         W:    输出权系数
%         en:   输出误差信号

    [m,n] = size(xn);
    if m>1  % 如果输入信号为一列，则进行转置
        xn = xn';
    end
    if m>1 && n>1
        fprintf('输入信号有误！请检查输入信号是否为一行序列');
    end
    
    itr = n;    % 迭代次数等于输入信号的长度
    en = zeros(1,itr);
    W  = zeros(M,itr);    % 初始化权值矩阵，每一列代表一次迭代

    % 求最优权系数
    for i = M:itr                   % 第i次迭代
        x = xn(i:-1:i-M+1);         % 滤波器M个抽头的输入
        y = x*W(:,i-1);             % 滤波器的输出
        en(i) = dn(i) - y;          % 第i次迭代的误差
        W(:,i) = W(:,i-1) + (mu * x' * en(i)) / (alpha + norm(x)^2); % 滤波器权值计算的迭代式
        % norm(x)^2等效为x*x'
    end
    
    % 求输出序列  
    yn = inf * ones(size(xn));      % 初值设置为无穷大，画图的时候yn的前M个值不会绘图
    for k = M:n
        x = xn(k:-1:k-M+1);  
        yn(k) = x*W(:,end);  % 最终输出结果
    end
end
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

2、 不同参数对滤波器性能的影响

（1）步长 $\mu$
NLMS滤波器的步长分别取0.01，0.1，1，1.5时，得到误差信号的收敛情况如下图所示。由图可以看出，步长 $\mu$ 影响着收敛速度和滤波精度，随着 $\mu$ 的增大，收敛速度变快，但收敛后在最优解附近波动幅值变大，稳态精度相应降低；将$\mu$ 值减小则可以保证滤波精度，但算法的收敛时间大大增加，对于实时性有较高要求的系统并不合适。因而需要根据具体情况在收敛速度和滤波精度之间折中，合适的参数也与具体处理的信号特点有关，需要多次尝试取最优值。

（2）滤波器阶数 $L$
在 NLMS 滤波器的步长 $\mu =0.1$的条件下， 滤波器阶数 $L$取10，20，50时对应的误差信号收敛情况如下图所示。由图可见，随着滤波器的阶数增大，对信号的滤波精度有明显的提高，但是滤波器的输出信号中，缺失的数据量也随之增长。

三、参考文献

[1] 杜建邦, 何金阳, 卓超. 基于最小均方自适应算法的光纤陀螺信号实时滤波方法[J]. 中国惯性技术学报, 2020, 28(06): 814-818+828.
[2] 张红梅, 韩万刚. 一种新的变步长LMS自适应滤波算法研究及其应用[J]. 仪器仪表学报, 2015, 36(08): 1822-1830.
[3] 何子述, 夏威等. 现代数字信号处理及其应用[M]. 北京: 清华大学出版社, 2009: 156-157.