注册会员 | 设为首页 | 加入收藏夹
您好，欢迎光临本网站！[请登录] ！[注册会员]！  

搜索资源列表

  1. 《动手学深度学习》pytorch版笔记2

  2. 《动手学深度学习》pytorch版笔记2 Task3 过拟合、欠拟合及其解决方案 这部分内容比较简单，写下问题吧，再挖几个坑 1.模型复杂度如何改变，三阶到一阶等 2.L2范数正则化为什么是权重衰减的一种方式？ 梯度消失，梯度爆炸 1.初始化过程 2.标签偏移的概念 3.数据处理过程 循环神经网络进阶 GRU，LSTM中的门结构实现起来还挺复杂的，有空再自己实现一遍吧。另外深度循环神经网络貌似叫多层循环神经网络，印象中一般不会堆叠很多层，有空再研究一下吧 Task4 机器翻译及相关技术 机器翻

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：114688
    • 提供者：weixin_38686677

  1. 《动手学深度学习》task3

  2. 1.过拟合、欠拟合及其解决方案 模型训练中经常出现的两类典型问题： 1.模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）； 2.模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟合问题，我们重点讨论两个因素：模型复杂度和训练数据集大小。 给定训练数据集，模型复杂度和误差之间的关系： 1.关于torch.cat()的用法 cat是concatn

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：211968
    • 提供者：weixin_38687928

  1. 动手学深度学习——task3过拟合、欠拟合以及解决方案、梯度消失和梯度爆炸

  2. 过拟合和欠拟合的概念 过拟合：模型训练误差远小于在测试数据集上的误差，也就是说数据在训练时模型的预测效果好，但是在测试的数据上(要预测的新数据)不能很好的进行预测。 欠拟合：模型无法得到较低的训练误差，也就是说，在训练数据的过程中，就不能很好的对数据进行预测。 主要因素模型复杂度和训练数据集大小 模型复杂度 为了解释模型复杂，以简单多项式函数拟合为例。给定一个由标量数据特征 x 和对应的标量标签 y 组成的训练数据集，多项式函数拟合的目标是找一个 K 阶多项式函数来近似 y 。 在上式中，

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：136192
    • 提供者：weixin_38538021

  1. 《动手学深度学习Pytorch版》Task3-过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸

  2. 过拟合、欠拟合 训练/泛化误差 训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 欠拟合 模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting） 过拟合 模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting） 容易引起过拟合、欠拟合的其中两个因素： 模

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：701440
    • 提供者：weixin_38708461

  1. ElitesAI·动手学深度学习PyTorch版Task03打卡

  2. Task3打卡 1、过拟合、欠拟合及其解决方案 目录： 相关的基本概念 权重衰减 过拟合、欠拟合解决方法 1、相关的基本概念 训练误差： 模型在训练数据集上表现出的误差。 泛化误差： 模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 欠拟合（underfitting）： 模型无法得到较低的训练误差。 过拟合（overfitting）： 模型的训练误差远小于它在测试数据集上的误差。 注：在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：442368
    • 提供者：weixin_38641876

  1. 伯禹学习平台：动手学深度学习2

  2. 因为前面那种写法过于累赘，所以改变写作策略，笔记是写给自己看的，所以把自己比较懂的都不写了，每段大概就两三句话让自己回头看的时候能知道这里讲的是什么，学习资料里简短的易懂的可能还会直接贴原文，这样可以节省大部分时间并且简洁，循环神经网络大多一笔带过。 学习笔记Task3 过拟合，欠拟合及其解决方案 过拟合就是拟合训练集过度，实际运用的泛化差，训练效果好验证差。 欠拟合就是拟合训练集不够，训练效果和验证都差。 过拟合就是模型过于依赖训练集，模型复杂或者训练集小参数多都会产生这种情况。欠拟合就是模型

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：480256
    • 提供者：weixin_38522795

  1. 动手学深度学习 Task3 笔记

  2. 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 2.15-2.19 一、过拟合、欠拟合及其解决方案 1、过拟合问题 模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 产生过拟合的可能原因 模型复杂度过高 训练数据过少，特别是比模型参数数量（按元素计）更少 解决过拟合的方案 降低模型复杂度 增加训练数据 在计算资源允许的范围之内，我们通常希望训练数据集大一些 2、欠拟合问题 模型无法得到较低的训练误差，我们将这一现象称作欠拟合（unde

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：43008
    • 提供者：weixin_38669832

  1. “动手学深度学习” -task3,4,5

  2. 循环神经网络 首先，循环神经网络可以为语言模型来建模。 1.语言模型 语言模型：给定一个一句话前面的部分，预测接下来最有可能的一个词是什么。 使用循环神经网络之前，语言模型主要是采用N-Gram。N可以是一个自然数，比如2或者3。它的含义是，假设一个词出现的概率只与前面N个词相关。我们以2-Gram为例。首先，对前面的一句话进行切词： 陈 幺儿 今天 中午 偷吃 鸡腿，我 打 了 她 ___。 如果用2-Gram进行建模，那么电脑在预测的时候，只会看到前面的『了』，然后，电

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：361472
    • 提供者：weixin_38751537

  1. 动手学深度学习-Task3-Task5

  2. 知识点协变量偏移标签偏移概念偏移 协变量偏移 在传统机器学习中，一个常见的问题的协变量偏移(Covariate Shift)。协变量是一个统计学概念，是可能影响预测结果的统计变量。 在机器学习中，协变量可以看作是输入。一般的机器学习算法都要求输入在训练集和测试集上的分布是相似的。如果不满足这个假设，在训练集上学习到的模型在测试集上的表现会比较差。 内部协变量偏移（Internal Covariate Shift）： 从机器学习角度来看，如果某个神经层的输入分布发生了改变，那么其参数需要重新学习，

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：52224
    • 提供者：weixin_38537684

  1. 《动手学深度学习》task3——过拟合、欠拟合及解决方案，梯度消失、梯度爆炸，循环神经网络进阶笔记

  2. 系统学习《动手学深度学习》点击这里： 《动手学深度学习》task1_1 线性回归 《动手学深度学习》task1_2 Softmax与分类模型 《动手学深度学习》task1_3 多层感知机 《动手学深度学习》task2_1 文本预处理 《动手学深度学习》task2_2 语言模型 《动手学深度学习》task2_3 循环神经网络基础 《动手学深度学习》task3_1 过拟合、欠拟合及其解决方案 《动手学深度学习》task3_2 梯度消失、梯度爆炸 《动手学深度学习》task3_3 循环神经网络进阶 《

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：194560
    • 提供者：weixin_38584058

  1. 《动手学深度学习》——笔记2

  2. 第二次打卡内容 Task1 过拟合欠拟合，梯度消失，爆炸，LSTM,GRU Tsak2 机器翻译，Seq2Seq， Transformer Task3 卷积神经网络基础和进阶，leNet 过拟合与欠拟合 过拟合：泛化误差高于训练误差，原因是模型过于复杂或者训练数据集比较小。当模型过于复杂时，可以简化模型参数或者加入L2正则化对参数进行惩罚，也可以采用丢弃法泛化误差不会随着训练数据集里的样本数量增加儿增大，所以通常选择大一些的训练数据集。 欠拟合：无法得到较低的训练误差。原因是训练数据集不够或者模

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：364544
    • 提供者：weixin_38537689

  1. 动手学深度学习Pytorch版本学习笔记 Task3

  2. 1.过拟合、欠拟合及其解决方案 过拟合：模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）； 欠拟合：模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。 解决过拟合的方法：权重衰减（L2 范数正则化）和丢弃法 2.梯度消失和梯度爆炸 a.梯度消失和梯度爆炸 假设一个层数为LL的多层感知机的第ll层H(l)H(l)的权重参数为W(l)W(l)，输出层H(L)H(L)的权重参数为W

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：51200
    • 提供者：weixin_38694800

  1. 动手学深度学习第二次打卡2/18

  2. task3 task4 and task5 1.过拟合、欠拟合及其解决方案 解决方法包括：验证数据集和交叉验证 权重衰减 L2 范数正则化（regularization） 例如在线性回归中加入带有l2范数惩罚项的损失函数。 当 λ 较大时，惩罚项在损失函数中的比重较大，这通常会使学到的权重参数的元素较接近0。当 λ 设为0时，惩罚项完全不起作用。 2.（1）梯度消失、梯度爆炸以及Kaggle房价预测 当神经网络的层数较多时，模型的数值稳定性容易变差 （2）考虑环境因素 协变量偏移 标签偏移 概

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：152576
    • 提供者：weixin_38686542

  1. 动手学深度学习Task3

  2. 过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 1、过拟合和欠拟合 过拟合：模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合 欠拟合：模型训练误差无法降低. 如何应对欠拟合和过拟合？在这里我们重点讨论两个因素：模型复杂度和训练数据集大小。 1.1.1、模型复杂度 为了解释模型复杂度，我们以多项式函数拟合为例。给定一个由标量数据特征 x 和对应的标量标签 y 组成的训练数据集，多项式函数拟合的目标是找一个 K 阶多项式函数 来近似y.在上式中，wk是模型的权重参数

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：192512
    • 提供者：weixin_38687807

  1. 动手学深度学习（Pytorch版）task3-5打卡

  2. 对于task3-5的内容进行打卡 Task03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 模型复杂度和误差之间的关系 权重衰减的计算公式： Xavier初始化 梯度裁剪 循环神经网络中较容易出现梯度衰减或梯度爆炸，这会导致网络几乎无法训练。裁剪梯度（clip gradient）是一种应对梯度爆炸的方法。假设我们把所有模型参数的梯度拼接成一个向量 g ，并设裁剪的阈值是 θ 。裁剪后的梯度为： GRU 重置门用于捕捉时间序列里的短期依赖关系 更新门有助于捕捉时间

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：773120
    • 提供者：weixin_38735790

  1. ElitesAI·动手学深度学习PyTorch版TASK3、4、5

  2. 第二次打卡 1.关于验证数据集的描述错误的是： 测试数据集可以用来调整模型参数 验证数据集可以用来调整模型参数 在数据不够多的时候，k折交叉验证是一种常用的验证方法 k折交叉验证将数据分为k份，每次选择一份用于验证模型，其余的用于训练模型 测试数据集不可以用来调整模型参数，如果使用测试数据集调整模型参数，可能在测试数据集上发生一定程度的过拟合，此时将不能用测试误差来近似泛化误差。 关于卷积神经网络，以下说法中错误的是： 因为全连接层的参数数量比卷积层多，所以全连接层可以更好地提取空间信息 使用形

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：56320
    • 提供者：weixin_38710566