根据磁光光纤的椭圆双折射特性，提出了导波光脉冲演化的本征型和非本征型非线性耦合模方程，分析了非线性效应和椭圆双折射对光脉冲传播行为的影响。通过分析光脉冲的自相位调制特性，得到了磁光光纤等效非线性系数与本征椭圆偏振光椭圆率的关系，磁光光纤中自相位调制引起的最大非线性相移会随着外加磁场的增加而减小，从而揭示了非线性光学器件的磁控机理。研究表明，本征型非线性耦合模方程对分步傅里叶算法的适应性最好；对于线偏振光入射情形，增加磁场有助于减弱光纤非线性的偏振依赖性。在光通信领域中，可应用于对光纤非线性效应的