文件名称:
gpt2-ml：适用于多种语言的GPT2，包括预先训练的模型。 GPT2多语言支持，15亿个参数中文预训练模型-源码
开发工具:
文件大小: 779kb
下载次数: 0
上传时间: 2021-02-03
详细说明：适用于多种语言的GPT2
|
简化的GPT2训练脚本（基于Grover，支持TPU）
移植的bert令牌生成器，多语言语料库兼容
1.5B GPT2预训练中文模型（〜15G语料库，10w步）
含电池的Colab演示
1.5B GPT2预训练中文模型（〜30G语料库，22w步）
预训练模型
尺寸
语言
语料库
词汇
链接1
链接2
SHA256
1.5B参数
中文
约30G
线索（8021代币）
e698cc97a7f5f706f84f58bb469d614e 51d3c0ce5f9ab9bf77e01e3fcb41d482
1.5B参数
中文
〜15克
伯特（21128代币）
4a6e5124df8db7ac2bdd902e6191b807 a6983a7f5d09fb10ce011f9a073b183e
和语料库
使用训练22w步骤
Google Colab
只需单击两次（不包括Colab身份验证过程），即可开始进行1.5B预训练的中文模型演示：
培养
免责声明
此存储库中的内容仅供学术研究之用，我们不提供任何结论性意见。
引文
misc{GPT2-ML
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台，提供交流渠道，下载内容来自于网络，除下载问题外，其它问题请自行百度。
- 本站已设置防盗链，请勿用迅雷、QQ旋风等多线程下载软件下载资源，下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载，请稍后再次尝试；或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎，请到消费记录里找到下载记录反馈给我们，经确认后退回积分.
- 如下载前有疑问，可以通过点击"提供者"的名字，查看对方的联系方式，联系对方咨询.
