资料来源：伯禹学习平台。 概念整理 K折交叉验证 由于验证数据集不参与模型训练，当训练数据不够用时，预留大量的验证数据显得太奢侈。一种改善的方法是K折交叉验证（K-fold cross-validation）。在K折交叉验证中，我们把原始训练数据集分割成K个不重合的子数据集，然后我们做K次模型训练和验证。每一次，我们使用一个子数据集验证模型，并使用其他K-1个子数据集来训练模型。在这K次训练和验证中，每次用来验证模型的子数据集都不同。最后，我们对这K次训练误差和验证误差分别求平均。 L2 范数正

因为前面那种写法过于累赘，所以改变写作策略，笔记是写给自己看的，所以把自己比较懂的都不写了，每段大概就两三句话让自己回头看的时候能知道这里讲的是什么，学习资料里简短的易懂的可能还会直接贴原文，这样可以节省大部分时间并且简洁，循环神经网络大多一笔带过。 学习笔记Task3 过拟合，欠拟合及其解决方案 过拟合就是拟合训练集过度，实际运用的泛化差，训练效果好验证差。 欠拟合就是拟合训练集不够，训练效果和验证都差。 过拟合就是模型过于依赖训练集，模型复杂或者训练集小参数多都会产生这种情况。欠拟合就是模型