下一代的无线通信需要向用户提供高速可靠的数据通信业务，因此未来的无线通信系统应具备较强的抗多径能力和较高的频谱利用率。多载波调制就是一种有效的信息传输技术，它采用多个子载波并行地传输信息符号，使得每个子信道内的符号时间大大延长，系统即可有效地克服传输信道所造成的符号间干扰(ISI)。滤波多音频(FMT)技术就是一种基于滤波器组调制的多载波传输技术，由Giovanni Cherubini等人于1999年提出^[1][2]，并应用于高速数字用户环路(VDSL)的接入，作为VDSL的物理层标准。它的特点是采用了子信道频带不重叠的划分方法，具有良好的消除信道间干扰(ICI)的性能。
　　滤波器组技术是滤波多音频技术的基础，决定了整个FMT系统的性能。当系统对滤波器组的性能有某些特定要求时，现有的滤波器设计方法存在一定的缺陷，无法使FMT系统达到最优的性能。本文针对系统的某些特定要求对滤波器的设计方法进行优化，并研究基于优化的滤波器组的FMT系统在无线通信环境中的性能。
1 FMT及其滤波器组设计
1.1 FMT技术基本原理
　　FMT的系统模型如图1所示。在发送端，M个并行的符号周期为T的调制符号流A_i(nT),i=0,1,…，M-1，经过系数的插值后再经过一个低通滤波器" title="低通滤波器">低通滤波器H( f )进行限带，用一组等频率间隔的子载波进行均匀的频率搬移(频移的大小为K/MT)，在发送端相加后进入信道；在接收端，用对应的子载波从接收到的信号中解调出调制信号，经过与原来的低通滤波器对应的匹配滤波器H^*( f )对输出信号进行系数的信号抽取，恢复符号流。当K=M(或K>M)时，滤波器组被称为严格(或非严格)抽样的滤波器组，本文研究严格抽样的FMT系统。

1.2 滤波器组的设计
　　从前述可以看出，滤波器组是FMT系统的基本组成，滤波器组的性能决定了整个FMT系统的性能，决定着子信道的数量、频谱容忍度、系统实现复杂度和信号的延迟特性。在FMT系统中，通常使用滤波器组的设计方法有：窗函数法、切比雪夫逼近法以及最小均方误差(L2)法等。采用上述方法设计的滤波器在某些特定场合并不能完全符合系统要求，也就不能使FMT系统达到最优，这就要求对以上设计方法进行优化。
2 滤波器组的优化设计
　　在FMT系统中，在采用最小均方误差(L2)法设计滤波器时，为了解决理想滤波器幅频特性的非连续性，需要专门指定滤波器幅频特性的过渡带，造成信号在过渡带的能量损失，而且最小均方误差法只能在均方误差意义上使得滤波器的幅度误差最小，而不能限制通带和阻带的峰值，使得在通带和阻带内可能造成信号较大的失真，影响了整个FMT系统的性能。若要提高系统的性能，就需要对滤波器峰值有严格限定，此时就要对最小均方误差设计法进行优化。
2.1 优化算法
　　通过研究表明，无论是窗函数法、切比雪夫逼近法，还是最小均方误差(L2)法等设计方法，都是为了削弱吉布斯现象的影响而采取的间接方法^[3][4]。为解决上述FMT系统使用最小均方误差(L2)法设计滤波器时存在的问题，笔者提出一种不明确指定的过渡带边缘频率的设计方法，设ω0为滤波器通带的理想截止频率。新的优化算法如下：

　　其中δp和δs可在 [0,1]内变化。
　　设S为一频率集合，S={ω₁,…，ω_r}，其中ω_i∈[0,π]。将S划分为两个集合，其中S₁={ω₁,…，ω_m}和，S₂={ω₁,…，ω_r}且有:
　　S₁={ω₁,…，ω_m}中的频率分量满足:
　　A(ω)=L(ω)　　　　　　(9)
　　S₂={ω_m+1,…，ω_r}中的频率分量满足:
　　A(ω)=U(ω)　　　　　　(10)
　　为满足最小均方误差的条件，根据拉氏函数可设^[5]

　　其中,0≤k≤M。且有:
　　当0≤i≤m时，
　　A(ω_i)=L(ω_i)　　　　　　(13)
　　当m+1≤i≤r时，
　　A(ω_i)=U(ω_i)　　　　　　(14)
　　令W(ω)=1, ω∈[0,π]代入式(12)，并考虑式(5)，在满足式(13)、(14)的情况下，式(12)变为矩阵形式可写为：
　　a+G^tu=c　　　　　　　　　　(15)
且有Ga=d 　　　　　　　　　　　　(16)
　　其中，a是长度为(M+1)的滤波器的参数，a=a₀,…a_m)^t；u为拉格朗日算子，u=(u₁,…u_r)^t；G为振幅A(ω)中余弦因子组成的矩阵，G中的元素为：
　　当0≤i≤m,1≤k≤M时，
　　
　　d为振幅的矢量值，d中的元素d_i可由下式确定：
　　d_i=-L(ω_i)　　0≤i≤q
　　d_i=U(ω_i)　　 q+1≤i≤r                                        (20)
　　于是，式(15)、(16)可以写成如下的矩阵运算形式：
　　
　　至此便得到了滤波器的设计参数。
2.2 仿真实验
　　通过上面的分析，可以看到优化后的最小均方误差法可以在控制幅频响应中通带和阻带的峰值的前提下，得到滤波器幅频响应的均方误差最小。
　　如图2是采用L2法设计的低通滤波器的幅度响应，图3是峰值受限的L2滤波器的幅度响应。通过观察幅度响应可以看到优化前后的两种滤波器性能的差别。L2法指定滤波器的过渡带宽，其通带内峰值起伏较大，而优化后设计的滤波器峰值起伏得到有效控制，减少了信号的幅度失真。

　　将使用这两种方法设计的滤波器应用到FMT系统中，并在AWGN信道中进行频偏情况下误码率的性能比较，如图4所示。其中仿真参数为：采用16QAM调制方式以及接收端DFE均衡方式，SNR=13dB，数据个数为2 560 000。
　　将基于这两种滤波器的FMT系统应用于瑞利多径衰落信道对其进行误码率的性能比较，如图5所示。其中仿真参数为：采用16QAM调制方式以及接收端FSE均衡方式，数据个数为2 560 000。