这篇论文主要介绍了知识蒸馏和student-teacher学习模型。首先，我们对于KD是什么，它是如何工作的提供了一个解释和描述。然后，我们对近些年知识蒸馏方法的研究进展和典型用于视觉任务的S-T学习框架进行了一个全面的调研。最后，我们讨论了知识蒸馏和S-T模型未来的发展方向和研究前景，以及目前这些方法所面临的开放性挑战。