以基于猫眼效应的激光主动探测为应用背景，针对以往几何光学分析方法研究猫眼效应回波特性中存在的不足，从矩阵光学入手，提出了光学窗口映射的光束传输分析方法，建立了光学系统离焦和光束斜入射条件下猫眼效应回波的形状和能量模型，解决了传统公式中发散角物理意义不正确和无法准确预知回波空间范围的问题。通过搭建模拟的理想猫眼光学系统对模型进行了实验验证，实验结果与模型计算结果符合得很好。该模型及相关结论对于基于猫眼效应的激光主动探测及其防护技术研究具有重要的参考价值。