能够解释机器学习模型的预测在医疗诊断或自主系统等关键应用中是很重要的。深度非线性ML模型的兴起，在预测方面取得了巨大的进展。然而，我们不希望如此高的准确性以牺牲可解释性为代价。结果，可解释AI (XAI)领域出现了，并产生了一系列能够解释复杂和多样化的ML模型的方法。

机器学习的巨大成功导致了AI应用的新浪潮(例如，交通、安全、医疗、金融、国防)，这些应用提供了巨大的好处，但无法向人类用户解释它们的决定和行动。DARPA的可解释人工智能(XAI)项目致力于创建人工智能系统，其学习的模型和决策可以被最终用户理解并适当信任。实现这一目标需要学习更多可解释的模型、设计有效的解释界面和理解有效解释的心理要求的方法。