注册会员 | 设为首页 | 加入收藏夹
您好，欢迎光临本网站！[请登录] ！[注册会员]！  

搜索资源列表

  1. 《动手学深度学习》机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer机器翻译及其相关技术编码器和解码器编码器解码器束搜索贪婪搜索束搜索注意力机制与Seq2Seq模型计算背景变量Transformer 机器翻译及其相关技术 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 编码器和解码器 在翻译时，输入句子和输出句子往往不一样长，所以为了处理输入

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：271360
    • 提供者：weixin_38596485

  1. 《动手学深度学习》笔记 Task04 机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 数据预处理 将数据集清洗、转化为神经网络的输入minbatch 分词 字符串—单词组成的列表 建立词典 单词组成的列表—单词id组成的列表 载入数据集 Encoder-Decoder encoder：输入到隐藏状态 decoder：隐藏状态到输出 Sequence to Sequen

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：315392
    • 提供者：weixin_38739837

  1. 《动手学深度学习》Task04：机器翻译及相关技术+注意力机制与Seq2seq模型+Transformer

  2. 文章目录1 机器翻译及相关技术1.1 机器翻译基本原理1.2 Encoder-Decoder1.3 Sequence to Sequence模型1.4 Beam Search2 注意力机制与Seq2seq模型2.1 注意力机制2.2 注意力机制的计算函数介绍2.3 引入注意力机制的Seq2seq模型3 Transformer3.1 Transformer结构概念3.2 Transformer结构层剖析3.3 Transformer之Encoder+Decoder 1 机器翻译及相关技术 1.1

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：742400
    • 提供者：weixin_38667408

  1. Task04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer知识点总结

  2. 机器翻译 把一种语言自动翻译为另一种，输出的是单词序列（其长度可能与原序列不同） 步骤为：数据预处理 —> Seq2Seq模型构建 —> 损失函数 —> 测试 数据预处理： 读取数据。 处理编码问题，删除无效字符串 分词。把字符串转化为单词列表。 建立字典。把单词组成的列表转化为单词索引的列表 在tf、pytorch这类框架中要做padding操作，使一个batch数据长度相等 定义数据生成器。 Seq2Seq 6. 先用循环神经网络编码成一个向量再解码输出一个序列的元素。然

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：60416
    • 提供者：weixin_38682086

  1. 《动手学深度学习Pytorch版》Task4-机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译及相关技术 Task2中的循环神经网络部分，有实现预测歌词的功能。在那个任务中，训练数据的输入输出长度是固定的，而在机器翻译中，输出的长度是不固定的，所以不能直接用RNN来处理这种任务。 Encoder-Decoder框架是常用于机器翻译，对话系统这类场景的框架。 需要注意的是，在训练过程中Decoder的输入是真实的label，而预测时，输入是上一个ceil的预测值 机器翻译解码 通常用beam search。beam search是一种贪心算法，不是全局最优解。 注意力机制 在“

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：350208
    • 提供者：weixin_38653602

  1. 动手学DL|Task4 机器翻译及其技术+注意力机制与Seq2seq模型+Transformer

  2. 机器翻译及其技术 学习笔记 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 Encoder-Decoder encoder：输入到隐藏状态 decoder：隐藏状态到输出 Sequence to Sequence模型 模型： 训练 预测 具体结构 集束搜索 Beam Search 简单greedy search： 维特比算法：选择整体分数

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：472064
    • 提供者：weixin_38653664

  1. Dive into deep learning task 04-机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 6 机器翻译 机器翻译是一种序列到序列的模型。为了实现对语料的训练 ，需要对应的单词表，即平行语料。机器翻译要将序列处理成定长的向量，然后输入到rnn中（lstm,gru)，然后变成中间向量，再通过decode方式编码输出最大可能的序列，即encoder-> vector->decoder的编解码方式。 语料要通过预处理（清洗，分词，转化成词典，转化成数据集），然后作词向量嵌入后，输入神经网络。 这就是所谓的seq2seq模型。简单的s2s模型的缺点是中间向量长度有限，不能充分表达输

  3. 所属分类：其它

    • 发布日期：2021-01-07
    • 文件大小：55296
    • 提供者：weixin_38629920

  1. 机器翻译，注意力机制，seq2seq模型

  2. 机器翻译 数据预处理（小罗同学总结） 编码——解码 seq2seq模型 读取数据，处理数据中的编码问题，并将无效的字符串删除 分词，分词的目的就是将字符串转换成单词组成的列表。目前有很多现成的分词工具可以直接使用，也可以直接按照空格进行分词(不推荐，因为分词不是很准确) 建立词典，将单词组成的列表编程单词id组成的列表，这里会得到如下几样东西 去重后词典，及其中单词对应的索引列表 还可以得到给定索引找到其对应的单词的列表，以及给定单词得到对应索引的字典。 原始语料所有词对应的词典索引的列

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：263168
    • 提供者：weixin_38642285

  1. 《动手学深度学习：机器翻译及其相关技术；注意力机制与Seq2Seq模型；Transformer》

  2. 机器翻译 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 训练 def train_ch7(model, data_iter, lr, num_epochs, device): # Saved in d2l model.to(device) optimizer = optim.Adam(model.parameters(), lr

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：28672
    • 提供者：weixin_38744962

  1. 深度学习（四）————机器翻译及相关技术、注意力机制与Seq2seq模型、Transformer

  2. 目录   机器翻译及相关技术 注意力机制与seq2seq模型 Transformer 机器翻译及相关技术 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 机器翻译流程：数据预处理，主要模型：encode-decode,seq2seq 注意力机制与seq2seq模型 注意力机制：https://blog.csdn.net/mpk_no1/articl

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：191488
    • 提供者：weixin_38704565

  1. 过拟合欠拟合及其解决方案；梯度消失梯度爆炸；循环神经网络进阶；机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer；卷积神经网络基础；leNet；卷积神经网络进阶

  2. 1.过拟合欠拟合及其解决方案 一类是模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）。 模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。 2.梯度消失梯度爆炸 深度模型有关数值稳定性的典型问题是消失（vanishing）和爆炸（explosion）。 假设一个层数为LLL的多层感知机的第lll层H(l)\boldsymbol{H}^{(l)}H(l)的权重参数为W(l)\b

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：488448
    • 提供者：weixin_38500117

  1. 《动手学深度学习》Task04 ：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. Task04 ：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer 1.机器翻译及相关技术 机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 步骤： 1.读取数据 2.数据预处理 3.分词：将字符串变成单词组成的列表 4.建立词典：将单词组成的列表变成单词id组成的列表 5.Encoder-Decoder：

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：1048576
    • 提供者：weixin_38501045

  1. 深度学习d4：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译 指将一段文本从一种语言自动翻译到另一种语言 读取和预处理数据 # 将一个序列中所有的词记录在all_tokens中以便之后构造词典，然后在该序列后面添加PAD直到序列 # 长度变为max_seq_len，然后将序列保存在all_seqs中 def process_one_seq(seq_tokens, all_tokens, all_seqs, max_seq_len): all_tokens.extend(seq_tokens) seq_tokens += [EOS]

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：407552
    • 提供者：weixin_38727567

  1. 【人工智能学习】【十三】注意力机制与Seq2Seq模型

  2. 问题来源 Encoder-Decoder模型可以根据Encoder产生的信息ccc来作为Decoder的input来进行机器翻译，ccc是通过Encoder计算出来的，包含了被翻译内容的所有信息。但是通常某个词的翻译只和被翻译内容的一部分信息有关，比如“我爱做饭。”，翻译成”I love cooking.”，cooking的翻译只和”做饭”有关。还有其他的例子，比如某个词的翻译依赖于前面某些信息，让机器做一个阅读理解题之类的。对于短句来讲，Attention的有点不明显，但如果句子比较长，语义编

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：384000
    • 提供者：weixin_38657353

  1. 动手学深度学习PyTorch版–Task4、5–机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer；；卷积神经网络基础；leNet；卷积神经网络进阶

  2. 一.机器翻译及相关技术 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 1.Encoder-Decoder encoder：输入到隐藏状态 decoder：隐藏状态到输出 class Encoder(nn.Module): def __init__(self, **kwargs): super(Encoder, self)

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：1048576
    • 提供者：weixin_38674512

  1. Task04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer学习笔记

  2. 机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 import sys sys.path.append(’/home/kesci/input/d2l9528/’) import collections import d2l import zipfile from d2l.data.base import Vocab import t

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：93184
    • 提供者：weixin_38509504

  1. deeplearning_class4:机器翻译、注意力机制与seq2seq模型

  2. 1 机器翻译 这一部分由于资源包不全，笔者没有进行过多学习，借助腾讯AI平台 2 注意力机制 注意力机制模仿了生物观察行为的内部过程，即一种将内部经验和外部感觉对齐从而增加部分区域的观察精细度的机制。注意力机制可以快速提取稀疏数据的重要特征，因而被广泛用于自然语言处理任务，特别是机器翻译。而自注意力机制是注意力机制的改进，其减少了对外部信息的依赖，更擅长捕捉数据或特征的内部相关性。本文通过文本情感分析的案例，解释了自注意力机制如何应用于稀疏文本的单词对表征加权，并有效提高模型效率。 2.1 注意

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：126976
    • 提供者：weixin_38737635

  1. 深度学习入门-4（机器翻译，注意力机制和Seq2seq模型，Transformer）

  2. 深度学习入门-4（机器翻译，注意力机制和Seq2seq模型，Transformer）一、机器翻译1、机器翻译概念2、数据的处理3、机器翻译组成模块（1）Encoder-Decoder框架（编码器-解码器）（2）Sequence to Sequence模型（3）集束搜索（Beam Search）（ⅰ）简单贪心搜索（greedy search）（ⅱ）维特比算法（ⅲ）维特比算法二、注意力机制框架和Seq2seq模型1、注意力机制的引入2、注意力机制框架3、两个常用的注意力层（1）点积注意力（The d

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：533504
    • 提供者：weixin_38691006

  1. Task04:机器翻译及相关技术/注意力机制与Seq2seq模型/Transformer

  2. 1.机器翻译 机器翻译(MT)是将一个句子 x 从一种语言( 源语言 )转换为另一种语言( 目标语言 )的句子 y 的任务。 机器翻译的大致流程就是根据输入的文本，神经网络开始学习和记忆，这个就是所谓的Encoder编码过程；然后根据自己的记忆，把文本一一翻译出来，这个就是所谓的Decoder解码过程。 机器翻译的基本流程如下： 文本处理，这里我是以eng_fra的文本为例，每行是english[tab]french，以tab键分割。获取文本，清洗。 分别建立字典，一个english，一个f

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：403456
    • 提供者：weixin_38693589

  1. 机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer

  2. 机器翻译及相关技术： 解决RNN固定长度输出问题 翻译机制编码器和解码器机制 #编码器和解码器是分别对应输入和输出序列的两个神经网络，我们通常会在输入序列和输出序列后面附上一个特殊字符''  #(end of sequence)表示序列的终止，在测试模型时，一旦输出''就终止当前的序列输出  x=torch.tensor([[[1,1,1],                                     [1,1,1]],                  [[1,1,1],    

  3. 所属分类：其它

    • 发布日期：2021-01-06
    • 文件大小：29696
    • 提供者：weixin_38745003
« 12 3 »