Task3打卡 1、过拟合、欠拟合及其解决方案 目录： 相关的基本概念 权重衰减 过拟合、欠拟合解决方法 1、相关的基本概念 训练误差： 模型在训练数据集上表现出的误差。 泛化误差： 模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 欠拟合（underfitting）： 模型无法得到较低的训练误差。 过拟合（overfitting）： 模型的训练误差远小于它在测试数据集上的误差。 注：在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟

1、卷积神经网络基础： 1.1 二维卷积操作： 二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。 其中。卷积核为2:heavy_m

• Task03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸 知识点 1.训练误差（training error）和泛化误差（generalization error） 训练误差：训练数据集上表现出的误差 泛化误差：模型在测试数据样本上表现出的误差 验证误差：我们可以预留一部分在训练数据集和测试数据集以外的数据代入模型求得得误差。训练数据集和测试数据集以外的数据被称为验证数据集，简称验证集（validation set） 2.过拟合、欠拟合 欠拟合（underfitting）:模型无法得到较