注册会员 | 设为首页 | 加入收藏夹
您好，欢迎光临本网站！[请登录] ！[注册会员]！  

搜索资源列表

  1. 《动手学深度学习Pytorch版》Task4-机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译及相关技术 Task2中的循环神经网络部分，有实现预测歌词的功能。在那个任务中，训练数据的输入输出长度是固定的，而在机器翻译中，输出的长度是不固定的，所以不能直接用RNN来处理这种任务。 Encoder-Decoder框架是常用于机器翻译，对话系统这类场景的框架。 需要注意的是，在训练过程中Decoder的输入是真实的label，而预测时，输入是上一个ceil的预测值 机器翻译解码 通常用beam search。beam search是一种贪心算法，不是全局最优解。 注意力机制 在“

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：350208
    • 提供者：weixin_38653602

  1. [深度学习]动手学深度学习笔记-9

  2. Task——Transformer 9.1 Transformer Transformer 是一种新的、基于 attention 机制来实现的特征提取器，可用于代替 CNN 和 RNN 来提取序列的特征。 Transformer 首次由论文 《Attention Is All You Need》 提出，在该论文中 Transformer 用于 encoder – decoder 架构。事实上 Transformer 可以单独应用于 encoder 或者单独应用于 decoder 。 Trans

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：386048
    • 提供者：weixin_38681301

  1. 动手学深度学习-循环神经网络进阶（ModernRNN）

  2. 参考伯禹学习平台《动手学深度学习》课程内容内容撰写的学习笔记 原文链接：https://www.boyuai.com/elites/course/cZu18YmweLv10OeV/video/qC-4p–OiYRK9l3eHKAju 感谢伯禹平台，Datawhale，和鲸，AWS给我们提供的免费学习机会！！ 总的学习感受：伯禹的课程做的很好，课程非常系统，每个较高级别的课程都会有需要掌握的前续基础知识的介绍，因此很适合本人这种基础较差的同学学习，建议基础较差的同学可以关注伯禹的其他课程： 数学基

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：304128
    • 提供者：weixin_38667207

  1. 伯禹公益AI《动手学深度学习PyTorch版》Task 08 学习笔记

  2. 伯禹公益AI《动手学深度学习PyTorch版》Task 08 学习笔记 Task 08：文本分类；数据增强；模型微调 微信昵称：WarmIce 文本分类 前面一堆数据处理和对双向循环神经网络的讲解可以忽略了，之前都讲过，咱也都详细聊过。 这里主要说一下情感分类在使用双向循环神经网络时的一个细节。我们可以根据双向循环网络得到t个时刻的双向的经过concat的隐藏状态，那么如何利用这t个信息进行二分类呢（假设只进行正面与反面的二分类）。给的例子中，只使用了第1个时刻的concat后的隐藏状态与第t

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：99328
    • 提供者：weixin_38706455

  1. 《动手学深度学习》task4——机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer笔记

  2. 系统学习《动手学深度学习》点击这里： 《动手学深度学习》task1_1 线性回归 《动手学深度学习》task1_2 Softmax与分类模型 《动手学深度学习》task1_3 多层感知机 《动手学深度学习》task2_1 文本预处理 《动手学深度学习》task2_2 语言模型 《动手学深度学习》task2_3 循环神经网络基础 《动手学深度学习》task3_1 过拟合、欠拟合及其解决方案 《动手学深度学习》task3_2 梯度消失、梯度爆炸 《动手学深度学习》task3_3 循环神经网络进阶 《

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：78848
    • 提供者：weixin_38687968

  1. 《动手学深度学习》pytorch版笔记2

  2. 《动手学深度学习》pytorch版笔记2 Task3 过拟合、欠拟合及其解决方案 这部分内容比较简单，写下问题吧，再挖几个坑 1.模型复杂度如何改变，三阶到一阶等 2.L2范数正则化为什么是权重衰减的一种方式？ 梯度消失，梯度爆炸 1.初始化过程 2.标签偏移的概念 3.数据处理过程 循环神经网络进阶 GRU，LSTM中的门结构实现起来还挺复杂的，有空再自己实现一遍吧。另外深度循环神经网络貌似叫多层循环神经网络，印象中一般不会堆叠很多层，有空再研究一下吧 Task4 机器翻译及相关技术 机器翻

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：114688
    • 提供者：weixin_38686677

  1. 《动手学深度学习》第二次打卡-学习小队

  2. 一、学习任务： Task03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶 Task04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer Task05：卷积神经网络基础；leNet；卷积神经网络进阶 二、学习要点 2.1 过拟合、欠拟合及其解决方案 过拟合：太过贴近于训练数据的特征了，在训练集上表现非常优秀，近乎完美的预测/区分了所有的数据，但是在新的测试集上却表现平平 欠拟合：样本不够或者算法不精确，测试样本特性没有学到，不具泛化性，拿到新样本后

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：512000
    • 提供者：weixin_38613154

  1. 循环、卷积神经网络

  2. 循环、卷积神经网络 参考伯禹学习平台《动手学深度》课程内容内容撰写的学习笔记 原文链接：https://www.boyuai.com/elites/course/cZu18YmweLv10OeV 感谢伯禹平台给我们提供一次免费学习的机会！！ 训练误差和泛化误差 在解释上述现象之前，我们需要区分训练误差（training error）和泛化误差（generalization error）。通俗来讲，前者指模型在训练数据集上表现出的误差，后者指模型在任意一个测试数据样本上表现出的误差的期望，并常常通

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：99328
    • 提供者：weixin_38689113

  1. 《动手学pytorch》Task：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络

  2. 一、过拟合和欠拟合 训练误差和测试误差都大，欠拟合 underfitting。模型复杂度不够。 训练误差小于测试误差，过拟合 overfitting。 影响因素之一：训练数据集大小 影响欠拟合和过拟合的另一个重要因素是训练数据集的大小。一般来说，如果训练数据集中样本数过少，特别是比模型参数数量（按元素计）更少时，过拟合更容易发生。此外，泛化误差不会随训练数据集里样本数量增加而增大。因此，在计算资源允许的范围之内，我们通常希望训练数据集大一些，特别是在模型复杂度较高时，例如层数较多的深度学习模型

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：247808
    • 提供者：weixin_38646659

  1. 《动手学深度学习：文本分类；数据增强；模型微调》

  2. 文本情感分类 文本分类是自然语言处理的一个常见任务，它把一段不定长的文本序列变换为文本的类别。本节关注它的一个子问题：使用文本情感分类来分析文本作者的情绪。这个问题也叫情感分析，并有着广泛的应用。 同搜索近义词和类比词一样，文本分类也属于词嵌入的下游应用。在本节中，我们将应用预训练的词向量和含多个隐藏层的双向循环神经网络与卷积神经网络，来判断一段不定长的文本序列中包含的是正面还是负面的情绪。后续内容将从以下几个方面展开： 文本情感分类数据集 使用循环神经网络进行情感分类 使用卷积神经网络进行情感

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：34816
    • 提供者：weixin_38692969

  1. 《动手学深度学习》循环神经网络

  2. pytorch版循环神经网络实现 import torch import torch.nn as nn import time import math import sys def load_data_jay_lyrics(): 加载周杰伦歌词数据集 with open('/Users/nick/Documents/dataset/jaychou_lyrics.txt','r') as f: corpus_chars = f.read() corpus_c

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：33792
    • 提供者：weixin_38596267

  1. 《动手学深度学习》Task03 ：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶

  2. 一、模型选择、过拟合和欠拟合 模型选择 验证数据集 从严格意义上讲，测试集只能在所有超参数和模型参数选定后使用一次。不可以使用测试数据选择模型，如调参。由于无法从训练误差估计泛化误差，因此也不应只依赖训练数据选择模型。鉴于此，我们可以预留一部分在训练数据集和测试数据集以外的数据来进行模型选择。这部分数据被称为验证数据集，简称验证集（validation set）。例如，我们可以从给定的训练集中随机选取一小部分作为验证集，而将剩余部分作为真正的训练集。 K折交叉验证 由于验证数据集不参与模型训练，

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：1048576
    • 提供者：weixin_38743084

  1. 伯禹《动手学深度学习》打卡博客：Task03+Task04

  2. 量太大了，我先挑几个我感兴趣的学一下，漏下的等有空再补上了 文章目录一、循环神经网络二、GRU（gated recurrent unit）三、LSTM（长短期记忆） 一、循环神经网络 参考博客：零基础入门深度学习(5) – 循环神经网络 1.循环神经网络最大的用处就是处理序列的信息，即前面和后面的输入是有关系的，比如理解一句话的意思，以及处理视频 2.语言模型：给定一句话前面的成分，预测接下来最有可能的一个词是什么 3.下面是一个简单的RNN模型示意图，它由输入层、隐藏层和输出层组成 4.全

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：260096
    • 提供者：weixin_38659646

  1. 《动手学深度学习：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶》

  2. 过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 简洁实现 def fit_and_plot_pytorch(wd): # 对权重参数衰减。权重名称一般是以weight结尾 net = nn.Linear(num_inputs, 1) nn.init.normal_(net.weight, mean=0, std=1) nn.init.normal_(net.bias, mean=0, std=1) optimizer_w = torc

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：25600
    • 提供者：weixin_38674616

  1. 《动手学深度学习》Task03：过拟合、欠拟合及其解决方案+梯度消失、梯度爆炸+循环神经网络进阶

  2. 文章目录1 过拟合、欠拟合及其解决方案1.1 模型选择、过拟合和欠拟合1.2 过拟合和欠拟合1.3 权重衰减1.4 丢弃法2 梯度消失、梯度爆炸2.1 梯度消失和梯度爆炸2.2 考虑环境因素3 循环神经网络进阶3.1 GRU3.2 LSTM3.3 双向循环神经网络 文章目录 过拟合、欠拟合及其解决方案 梯度消失、梯度爆炸 循环神经网络进阶 1 过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 1.1 模型选择、过拟合和欠拟合 1.1.1 训练误差和泛

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：1048576
    • 提供者：weixin_38663415

  1. 《动手学深度学习》task3——过拟合、欠拟合及解决方案，梯度消失、梯度爆炸，循环神经网络进阶笔记

  2. 系统学习《动手学深度学习》点击这里： 《动手学深度学习》task1_1 线性回归 《动手学深度学习》task1_2 Softmax与分类模型 《动手学深度学习》task1_3 多层感知机 《动手学深度学习》task2_1 文本预处理 《动手学深度学习》task2_2 语言模型 《动手学深度学习》task2_3 循环神经网络基础 《动手学深度学习》task3_1 过拟合、欠拟合及其解决方案 《动手学深度学习》task3_2 梯度消失、梯度爆炸 《动手学深度学习》task3_3 循环神经网络进阶 《

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：194560
    • 提供者：weixin_38584058

  1. Datawhale 《动手学深度学习》(二)

  2. 动手学深度学习（二）Day 3过拟合&欠拟合及其解决方案一些概念高维线性回归实验从零开始的实现丢弃法梯度消失&梯度爆炸一些理论Kaggle房价预测实战循环神经网络进阶代码实现Day 4机器翻译及相关技术定义代码实现注意力机制与Seq2seq模型注意力机制框架点积注意力多层感知机注意力Seq2seq模型Transformer结构代码实现Day 5卷积神经网络基础二维卷积层填充和步幅多输入通道和多输出通道简洁实现池化IeNet代码实现卷积神经网络进阶深度卷积神经网络（AlexNet）使用重复元素的网

  3. 所属分类：其它

    • 发布日期：2021-01-20
    • 文件大小：1048576
    • 提供者：weixin_38693506