回转椭球波函数在有限空间域和无限空间域内都是一组完备正交函数集，适合分析孔径尺寸有限的实际光学系统。线性正则变换是一种重要的时频分析工具，同时菲涅耳变换也是一种特殊的线性正则变换，因此线性正则变换可以模拟一个光学系统。研究了有限空间域和有限频域条件下的回转椭球波函数的补偿线性正则变换，以补偿线性正则变换模拟一个二维光学系统，并以回转椭球波函数作为信号函数，分析了信号通过该系统的能量损失情况，根据椭球波函数本征值性质，其本征值反映了椭球波函数的能量保存比。数值计算结果表明信号函数通过该系统的能量比