文件名称:
ProphetNet：ProphetNet：预测未来N-gram用于序列到序列的预训练https：//arxiv.orgpdf2001.04063.pdf-源码
开发工具:
文件大小: 10mb
下载次数: 0
上传时间: 2021-02-24
详细说明：先知网
此提供了用于在重现实验的代码 。 在本文中，我们提出了一种称为ProphetNet的新的预训练语言模型，用于序列到序列的学习，具有一个称为未来n-gram预测的新型自我监督目标。
我们已经发布了针对ProphetNet基线基准（中）。 试试！ :)
相依性
点安装火炬== 1.3.0
点安装Fairseq == v0.9.0
预训练模型
我们已经发布了针对所述的预训练模型的以下检查点：
ProphetNet-large-16GB （已在16GB语料库Wikipedia +具有64个纪元的BookCorpus上进行了预训练）
ProphetNet-large-160GB （已在160GB语料库Wikipedia + BookCorpus + RealNews + OpenWebText +带有14个纪元的故事上进行了预训练）
为了将来的工作，我们将把ProphetNet应用
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台，提供交流渠道，下载内容来自于网络，除下载问题外，其它问题请自行百度。
- 本站已设置防盗链，请勿用迅雷、QQ旋风等多线程下载软件下载资源，下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载，请稍后再次尝试；或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎，请到消费记录里找到下载记录反馈给我们，经确认后退回积分.
- 如下载前有疑问，可以通过点击"提供者"的名字，查看对方的联系方式，联系对方咨询.
