为了进一步提高大气光通信系统的传输速率,设计了一种采用4阶脉冲幅度调制的超奈奎斯特(4PAM-FTN)速率大气光传输系统。推导了该系统在对数正态分布衰落信道中的理论误码率公式。分析了传输距离、波长对系统误码性能的影响,以及加速因子与传输速率之间的关系。蒙特卡罗仿真结果表明:误码率与传输距离成正比,与加速因子、光波长成反比。在加速因子为0.9时,系统可以在误码性能几乎不变的情况下获得6.1%的传输速率增益;当加速因子为0.83时,可以获得16.7%的传输速率增益。