0 引言

    近年来，以正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)技术为代表的多载波数据传输技术以其在频谱效率、对抗多径衰落、低的实现复杂度等方面的优异性能得到了广泛的应用^[1-2]。然而，OFDM子载波滤波器的旁瓣电平较大，高达-13 dB，难以具备良好的频率选择特性，OFDM系统通过在信号前端加入循环前缀使传输速率降低来克服此缺陷。另外，OFDM系统要求相邻子载波之间严格满足正交性。而滤波器组多载波系统(Filter Bank-based MultiCarrier，FBMC)只需通过设计良好频率选择特性原型滤波器即可，不需要在信号前端加入循环前缀和相邻子载波之间的正交性，提高了信号的传输速率和系统设计灵活性^[3-5]。因此，目前将要代替OFDM技术逐渐被公认是基于滤波器组的多载波技术^[6-7]。

    在FBMC技术中，发送端通过合成滤波器组来实现多载波调制，接收端通过分析滤波器组来实现多载波解调。这些滤波器组由原型滤波器经调制得到^[8-11]。其中，原型滤波器的设计是核心问题，现有的设计算法中，一类是将滤波器组的设计问题转化为以结构参数为变量的优化问题，主要有频率采样的方法^[12-16]、窗函数方法^[17]。其中，窗函数方法是通过对理想滤波器加窗来构造原型滤波器，从而将设计问题转化为关于窗函数参数的优化问题。频率采样方法是通过对理想滤波器频率响应进行等间隔采样，然后求逆傅里叶变换，得到原型滤波器的冲激响应函数。这类方法设计简单，可调节部分参数，设计的原型滤波器具有闭合解，但是因设计自由度小导致性能受限。另一类方法是直接对原型滤波器的系数进行优化，其中代表性算法是基于半定规划(SDP)的方法^[18]。将原型滤波器的设计问题被归结为一个带约束优化问题，从而能获得更佳的原型滤波器。但是所归结的优化问题是关于滤波器系数的高度非线性优化问题，求解较为困难。为了克服这些缺点，文献[19]采用基于?琢BB(?琢-based Branch and Bound)来极大地降低直接算法的求解规模。该算法通过对约束进行有效近似，从而极大地降低了优化变量个数。但是，所需优化的变量个数通过求解SQP来确定,导致计算复杂度高^[19]。该方法设计所得的原型滤波器具备高阻带水平和较低的失真。但是该方法近似中舍去了大量的设计自由度，导致原型滤波器设计性能受限。

    本文所考虑的设计是快速优化得到原型滤波器，根据FBMC系统的性能指标，将原型滤波器的设计问题归结为一个无约束的优化问题，其目标函数是由FBMC系统的符号间干扰(ISI)、信道间干扰(ICI)和原型滤波器的阻带能量所导出，运用修正的牛顿迭代法，可以快速设计得到原型滤波器。与已有设计算法进行仿真对比发现，本算法具有更低的计算代价，得到的FBMC系统有着较好系统性能，从而可以快速而有效地设计大规模通道的FBMC系统。

1 FBMC系统的基本结构

    不失一般性，本文将以FBMC-OQAM(Offset Quadrature Amplitude Modulation)系统为例来阐述FBMC系统的设计问题。图1给出了FBMC-OQAM系统的模型，其中a_k(n)，b_k(n)是第k通道上第n个输入信号的实部和虚部，则输入信号x_k(n)=a_k(n)+jb_k(n)。偏移正交振幅调制(OQAM)中，实部与虚部在时域T/2处同相交错的相互正交，其中T是传输信号的周期，N是综合滤波器通道数，每个通道之间的载波频率是1/T。FBMC-OQAM的基带输入信号为^[7]：

2 FBMC系统的设计

2.1 FBMC系统中性能指标

    在系统中，可以通过减小ISI/ICI来提高系统性能，从而使得系统满足近似完全重构条件，而ISI/ICI可以被确定通过原型滤波器的设计^[19]。根据文献[19]表明ISI/ICI的整体水平可以被表示为：

    将式(7)和式(8)写成矩阵相乘的形式：

2.2 原型滤波器的设计

    基于上述的分析，可以将原型滤波器的设计问题归结为无约束的优化问题，然后用修正牛顿算法进行求解该优化问题。在FBMC-OQAM通信系统中，原型滤波器需要满足线性相位结构^[20]，即：

    另外，为使原型滤波器具有好的频率特性，期望原型滤波器具备高的阻带衰减，这可以通过控制其阻带能量来达到：

    (3)判断||d_k||₂≤η(η是给定的很小的正数)是否成立，若成立，终止该算法迭代，x_k+1为最优的结果；若不成立，令x_k=x_k+1，k=k+1并返回到步骤(2)继续迭代。

2.3 计算复杂度分析

    本文通过修正牛顿迭代算法来设计一个综合性能较好的FBMC-OQAM系统，原型滤波器都是通过闭合公式求解，计算复杂度来自求解线性等式(28)，主要有求矩阵B(x_k)的逆，以及计算向量和矩阵B(x_k)。另外，如果搜索步长取最优值，则计算复杂度高^[20]，所以式(29)采用了单位步长进行计算。因此本文算法有较小的计算消耗。此算法适用于大规模FBMC-OQAM系统的设计，为未来5G通信中发挥作用提供了设计算法方面的储备。

3 仿真结果与分析

    对于FBMC-OQAM系统的评价指标，采用与文献[20]相同的评价指标：最小均方误差(MSE)和阻带能量(SE)。设计例子的仿真程序使用的是MATLAB2010b软件编程并运行于Intel i3-M380主频2.53 GHz的PC。

    例1：设计一个通道载波为N=256、原型滤波器长度L=3N-1和L=4N-1的FBMC-OQAM系统。此外，频率采样法^[13]、优化频率采样法^[15]、窗函数法^[17]和αBB算法^[19]，在本文设计方法中设定η=1×10^-5和α=0.1，在L=3N-1和L=4N-1情况下，本文设计算法迭代3次便可达到终止条件，CPU运行时间24 s(L=3N-1)和60 s(L=4N-1)，表1给出了5种方法所得到的FBMC-OQAM系统性能对比，并且得到的原型滤波器的幅度响应如图2所示。从表1中可以看出本文设计方法提高了FBMC-OQAM系统整体性能，与文献[19]中的αBB算法相比，本文设计方法损耗较小阻带能量来得到更加小的MSE，并且当L=4N-1、α=0.1时计算花费的时间(60 s)远远小于αBB算法计算时间(1 803 s)；与其他方法比较，本文方法通过控制权值，可以更加灵活地平衡系统ISI/ICI与阻带能量之间的关系，从而得到整体性能更加良好的FBMC-OQAM系统。

    例2：设计一个大规模通道载波FBMC-OQAM系统，其中：载波通道为1 024，原型滤波器长度L=3N-1，α=0.1，表2给出所得FBMC-OQAM系统性能，同时原型滤波器的幅度响应如图3所示。

4 结束语

    本文围绕如何有效地设计FBMC-OQAM系统的原型滤波器问题，提出了一种基于无约束优化的快速算法，优化的目标函数综合考虑FBMC-OQAM系统的ISI/ICI和阻带能量。基于推导出的目标函数的梯度向量和海森矩阵，采用修正牛顿算法快速有效地求解了该优化问题。原型滤波器的迭代更新有闭合解，该方法计算复杂度低，适用于大规模系统的设计。理论分析和仿真结果联合表明，本文方法设计得到的FBMC-OQAM系统相比于现有方法有着更好的整体性能。

参考文献

[1] FARHANG B B.OFDM versus filter bank multicarrier：development of broadband communication systems[J].IEEE Signal Process. Mag.2011，28(3)：92-112.

[2] NEE R V，PRASAD R.OFDM for wireless multimedia communications[M].OFDM for Wireless Multimedia Communications.Artech House，2000.

[3] VAIDYANATHAN P P.Filter banks in digital communications[J].IEEE Circuits and Systems Mag，2001，1(2)：4-25.

[4] SIOHAN P，SILCLET C，LACAILLE N.Analysis and design of OFDM/OQAM systems based on filter bank theory[J].IEEE Trans.Signal Processing，2002，50(5)：1170-1283.

[5] AMINI P，KEMPTER R，FARHANG B B.A comparison of alternative filter bank multicarrier methods for cognitive radio systems[C].Presented at the Softw.Defined Radio Tech.Conf..Orlando：FL，2006：13-16.

[6] FARHANG A，MARCHETTI N，DOYLE L E，et al.Filter bank multicarrier for massive MIMO[C].Vehicular Technology Conference.IEEE，2014：284-7.

[7] BANELLI P，BUZZI S，COLAVOLPE G，et al.Modulation formats and waveforms for 5G networks：who will be the heir of OFDM?：an overview of alternative modulation schemes for improved spectral efficiency[J].IEEE Signal Process.Mag，2014，31(6)：80-93.

[8] PHOONG S M，CHANG Y B，CHEN C Y.DFT-modulated filterbank transceivers for multipath fading channels[J].IEEE Trans.Signal Process，2005，53(1)：182-192.

[9] CVETKOVIC Z.Tight Weyl-Heisenberg frames in l2(Z)[J].IEEE Trans.Signal Process，1998，46(5)：1256-1259.

[10] BEAULIEU F D，CHAMPAGNE B.Multicarrier modulation using perfect reconstruction DFT filter bank transceivers[C].In Proc.5th Int.Conf.Inf.，Commun.，Signal Process.，Bangkok，Thailand，2005：111-115.

[11] BEAULIEU F D.Multicarrier transceiver using DFT filter banks with perfect reconstruction[D].Thesis，McGill University，2007.

[12] BELLANGER M G.Specification and design of a prototype filter for filter bank based multicarrier transmission[C].In Proc.IEEE Int.Conf.Acoust.，Speech，Signal Process.，Salt Lake City，UT，May 7-11，2001：2417-2420.

[13] MIRABBASI S，MARTIN K.Overlapped complex-modulated transmultiplexer filters with simplified design and superior stopbands[J].IEEE Trans.Circuits Syst.II，Analog Digit.Signal Process，2003，50(8)：456-469.

[14] CRUZ-ROLDAN F，HENEGHAN C，SAEZ-LANDETE J，et al.Multi-objective optimisation technique to design digital filters for modulated multi-rate systems[J].Electron.Lett，2008，44(13)：827-828.

[15] VIHOLAINEN A，BELLANGER M，HUCHARD M.Prototype filter design for filter bank based multicarrier transmission[C].In Prof.17th Eur.Signal Process.Conf.，Glasgow，Scotland，2009，Aug.24-28：1359-1363.

[16] VIHOLAINEN A，BELLANGER M，HUCHARD M.Prototype filter and structure optimization[OL].[2016-10-05].Available：http：//www.ict-phydyas.org/delivrables/ PHYDYAS-D5-1.pdf/view.

[17] MARTIN P，Bregovic R，MARTIN M A，et al.A generalized window approach for designing transmultiplexers[J].IEEE Trans.Circuits Syst.I，Reg.Papers，2008，55(9)：2696-2706.

[18] CHEN D，QU D M，JIANG T.Novel prototype filter design for FBMC based cognitive radio systems through direct optimization of filter coefficients[C].Wireless Communications and Signal Processing，2010 International Conference on.IEEE，2010：1-6.

[19] CHEN D，QU D M，JIANG T，et al.Prototype filter optimization to minimize stopband energy with NPR constraint for filter bank multicarrier modulation systems[J].IEEE Trans.Signal Process，2013，61(1)：159-169.

[20] JIANG J Z，SHUI P L，ZHANG Z J.Design of oversampled DFT modulated filter banks via modified Newton′s method[J].IET Signal Processing，2011，5(3)：271-280.

[21] SUN W Y，YUAN Y X.Optimization theory and methods：nonlinear programming[M].Springer Science+Business Media，Inc.，2006：203-456.

作者信息:

穆亚起

(桂林电子科技大学 信息与通信工程学院，广西 桂林541004)