反向传输(BP)算法是实现高速光纤系统非线性补偿的一种常用且有效的方法，在此算法基础上加入高斯滤波器，可进一步提高接收系统性能,同时大大降低计算复杂度。然而高斯滤波器是一种理想化滤波器，其设计实现难度大且结构复杂。提出一种基于窗函数有限脉冲响应(FIR)滤波器和BP算法结合实现非线性补偿的方案，详细分析了滤波器的参数选取对补偿性能的影响，并在224 Gb/s双偏振16进制正交幅度调制(DP-16QAM)640 km无色散补偿光纤传输系统中比较了不同补偿方案的补偿效果。结果表明，汉宁窗FIR滤波器