1、机器翻译 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 1.1 数据预处理 将数据集清洗、转化为神经网络的输入minbatch. def preprocess_raw(text): text = text.replace('\u202f', ' ').replace('\xa0', ' ') out = '' for

1、卷积神经网络基础： 1.1 二维卷积操作： 二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。 其中。卷积核为2:heavy_m

• Task03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸 知识点 1.训练误差（training error）和泛化误差（generalization error） 训练误差：训练数据集上表现出的误差 泛化误差：模型在测试数据样本上表现出的误差 验证误差：我们可以预留一部分在训练数据集和测试数据集以外的数据代入模型求得得误差。训练数据集和测试数据集以外的数据被称为验证数据集，简称验证集（validation set） 2.过拟合、欠拟合 欠拟合（underfitting）:模型无法得到较

第二次打卡 1.关于验证数据集的描述错误的是： 测试数据集可以用来调整模型参数 验证数据集可以用来调整模型参数 在数据不够多的时候，k折交叉验证是一种常用的验证方法 k折交叉验证将数据分为k份，每次选择一份用于验证模型，其余的用于训练模型 测试数据集不可以用来调整模型参数，如果使用测试数据集调整模型参数，可能在测试数据集上发生一定程度的过拟合，此时将不能用测试误差来近似泛化误差。 关于卷积神经网络，以下说法中错误的是： 因为全连接层的参数数量比卷积层多，所以全连接层可以更好地提取空间信息 使用形