在相干光通信系统中, 由于大气湍流的影响, 信号光的偏振态具有不确定性, 而光混频器对信号光和本振光的偏振态比较敏感。结合光混频器原理推导出信号光偏振态、中频信号和混频效率三者之间的关系, 以中频信号幅值作为反馈控制信号光偏振态以提高混频效率, 并设计一种适用于相干光通信系统的单粒子优化算法。实验结果表明, 在闭环状态下, 偏振控制系统中频信号的幅值快速增大, 混频效率提升64%左右, 中频信号幅值的波动方差减小为0.001, 实现了相干光通信系统中的偏振控制。