建立了偏分复用(PDM)系统中信道串扰的数学模型，并提出了消除该串扰的方案，即用解复用端一路光信号的射频(RF)功率作为反馈信号以监测光信号在链路中偏振态的变化和在接收端的串扰情况，用粒子群优化(PSO)算法作为逻辑控制单元的算法，控制偏振控制器以消除信道间的串扰。数值仿真了RF功率与信道串扰大小之间的关系，并在2×50 Gb/s偏分复用差分正交移相键控(PDM-DQPSK)传输系统平台上仿真验证了消除串扰方案的效果。结果表明该方案能够大幅降低系统误码率，改善系统性能。