文件名称:
R-net:PyTorch中的R-net,带有ELMo-源码
开发工具:
文件大小: 251kb
下载次数: 0
上传时间: 2021-03-03
详细说明:R-net在和的非正式实现。
实际上,我并没有完全重现本文的模型,因为有些细节对我来说不是很清楚,而且自我匹配的动态关注需要太多的记忆。 相反,我根据 (在Tensorflow中)实现了R-Net的变体。
原始R-net和HKUST R-net之间的最大区别是:
原始R-net在RNN的每个步骤中都进行关注,这意味着隐藏状态会参与关注度计算。 我称其为动态关注。
在HKUST R-Net中,在执行RNN之前要先计算注意力(成对编码器和自匹配编码器)。 我称它为静态注意力。
中的一些细节可以提高性能:
问题和段落共享相同的GRU句子编码器,而不是分别使用两个GRU编码器。
句子编码器具有三层,但其输出是三层的连接,而不是顶层的输出。
配对编码器和自匹配编码器中的GRU只有一层,而不是三层。
变差应用于(1)RNN的输入(2)注意输入
此外,此回购添加了ELMo单词嵌入,从而进
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.